„Die KI mit unseren Dokumenten trainieren“ ist ein häufiger Wunsch. Dahinter können verschiedene Ziele stehen: eine aktuelle Verfahrensanweisung finden, bestimmte Fachbegriffe verwenden, ein Format einhalten oder eine spezialisierte Aufgabe ausführen. Die technische Lösung hängt vom beabsichtigten Ergebnis ab.
RAG stellt Quellen für die Antwort bereit
Retrieval-Augmented Generation, meist RAG genannt, sucht relevante Passagen in autorisierten Quellen und stellt sie dem Modell als Grundlage für seine Antwort bereit. Das System muss Dokumente einlesen, in Abschnitte zerlegen, passende Inhalte suchen und Verweise auf die Quellen darstellen. Die Modellgewichte ändern sich dabei nicht zwangsläufig.
Bei einem Dokumentenassistenten ermöglicht dieser Ansatz, eine Sammlung zu aktualisieren, ohne das Modell bei jeder Änderung einer Verfahrensanweisung erneut zu trainieren. Das Entfernen veralteter Versionen, die Synchronisierung und die Zugriffskontrolle müssen dennoch geregelt werden. Die Antwortqualität hängt auch davon ab, ob die richtige Passage gefunden wird.
Fine-Tuning passt ein vorhandenes Modell an
Beim Fine-Tuning wird das Training eines vortrainierten Modells mit einem Datensatz fortgesetzt, der für eine bestimmte Aufgabe oder ein Fachgebiet vorgesehen ist. Die Dokumentation von Hugging Face unterscheidet diesen Ansatz vom Training mit zufällig initialisierten Gewichten.
Eine Untersuchung kann sinnvoll sein, wenn ein wiederkehrender Bedarf etwa eine Ausgabestruktur oder eine spezialisierte Aufgabe betrifft, die sich allein durch Anweisungen schwer stabilisieren lässt. Dafür sind gute Beispiele, klare Nutzungsrechte und eine Bewertung mit Daten nötig, die von den Trainingsdaten getrennt sind. Der Nutzen sollte gegenüber einer einfacheren Lösung gemessen werden.
Mit einem konkreten Vergleich beginnen
Betrachten wir drei fiktive Anfragen. Ein Team möchte die geltende Erstattungsregelung finden: Aktualität und Quellenangaben sprechen zunächst für eine Dokumentensuche. Ein anderes benötigt ein strukturiertes Objekt, das einem Schema folgt: Anweisungen und eine automatische Validierung können ausreichen. Ein drittes möchte eine wiederkehrende Fachaufgabe dauerhaft verbessern: Fine-Tuning kann eine Option werden, wenn erste Vergleichstests eine messbare Lücke zeigen.
Diese Situationen sind Denkbeispiele, keine allgemeingültigen Regeln. Ein System kann mehrere Ansätze kombinieren. Werden jedoch alle von Anfang an eingebaut, steigt die Zahl der Komponenten, die gewartet und bewertet werden müssen.
Suche und Antwort getrennt testen
Wenn ein Assistent eine schlechte Antwort gibt, liegt die erste Ursache nicht immer beim Modell. Das Dokument kann fehlen, der Index veraltet, die Passage unvollständig oder der Zugriff verweigert sein. Eine Trennung dieser Schritte hilft dabei, das richtige Problem zu beheben. Der RAG-Bewertungsleitfaden von Hugging Face zeigt, wie ein Referenzbestand aus Fragen und Antworten helfen kann, Veränderungen eines Systems zu beobachten.
Unsere praktische Prüfung umfasst einfache Fragen, Anfragen, die zwei Quellen verbinden, widersprüchliche Dokumente und Fragen ohne verfügbare Antwort. Sie prüft auch, dass Nutzende keine Passage erhalten können, für die ihnen die Leseberechtigung fehlt. Die Beispiele sollten die Arbeitsbedingungen einschließlich erwarteter Fehler widerspiegeln.
Spezialisierung nicht mit Sicherheit verwechseln
Ein abgerufenes Dokument kann bösartige Anweisungen enthalten. OWASP beschreibt dieses Risiko einer indirekten Prompt-Injection und empfiehlt mehrere Schutzebenen. Weder RAG noch Fine-Tuning ersetzen die Notwendigkeit, verfügbare Werkzeuge zu beschränken, ihre Parameter zu validieren und sensible Handlungen auf dem Server zu kontrollieren.
Beginnen Sie die Projektvorbereitung mit repräsentativen Fällen und Erfolgskriterien. Unsere Seite zum Training und zur Anpassung von Modellen erläutert die Arbeitsschritte. Ziel ist eine Architektur, die durch Ergebnisse begründet ist und deren Betrieb anschließend dokumentiert wird.
