RAG steht für „Retrieval-Augmented Generation“. Vereinfacht gesagt sucht das System zuerst passende Stellen in freigegebenen Unternehmensdokumenten und gibt diese anschließend einem Sprachmodell als Grundlage für die Antwort. Dadurch muss das Modell internes Wissen nicht antrainiert bekommen.
Erst suchen, dann formulieren.
Eine Frage wird technisch in eine Suchanfrage übersetzt. Die Wissensdatenbank liefert passende Textabschnitte. Das Sprachmodell formuliert daraus eine Antwort und kann die verwendeten Quellen verlinken. Die Trennung erleichtert es, Inhalte zu aktualisieren oder zu löschen.
RAG verhindert jedoch nicht automatisch falsche Antworten. Wenn die Suche unpassende Abschnitte liefert oder das Modell Informationen ergänzt, bleibt eine Qualitätskontrolle nötig.
Gute Antworten beginnen mit guten Dokumenten.
Veraltete Anleitungen, widersprüchliche Versionen und schlecht gescannte PDFs führen zu unzuverlässigen Ergebnissen. Vor dem Import werden deshalb Eigentümer, Gültigkeit, Struktur und Aktualisierung der Quellen geklärt.
Ein begrenzter Start mit einem klaren Themenbereich ist meist besser als der sofortige Import sämtlicher Ordner.
Die Suche darf Berechtigungen nicht umgehen.
Wenn verschiedene Teams unterschiedliche Dokumente sehen dürfen, muss dies auch für den Assistenten gelten. Suchindex, Zwischenspeicher, Protokolle und Quellenlinks werden in das Berechtigungskonzept einbezogen. Eine einzige gemeinsame Wissenssammlung ohne Rechteprüfung kann vertrauliche Inhalte sichtbar machen.
Antwortqualität wird mit echten Fragen gemessen.
Ein Testkatalog enthält häufige Fragen, schwierige Formulierungen, fehlende Informationen und bewusst unzulässige Zugriffe. Bewertet werden Quelle, Vollständigkeit, sachliche Richtigkeit und das Verhalten bei unbekannten Antworten.
- begrenzten Dokumentbestand auswählen
- typische Fragen und erwartete Quellen sammeln
- Rechte und Datenwege festlegen
- Suche und Modell mit echten Beispielen testen
- Feedback und Aktualisierung im Betrieb organisieren
Die Qualität beginnt vor dem Sprachmodell.
Veraltete Dokumente, doppelte Versionen und fehlende Berechtigungen kann auch ein gutes Modell nicht zuverlässig ausgleichen. Quellen müssen strukturiert, aktuell und für die jeweilige Person freigegeben sein.
- Welche Quelle gilt bei widersprüchlichen Dokumenten?
- Wie schnell müssen Änderungen auffindbar sein?
- Welche Dokumente dürfen gemeinsam durchsucht werden?
- Wann soll das System ausdrücklich keine Antwort geben?
Ein kleiner, sauber gepflegter Wissensbestand ist für den Pilot meist wertvoller als der sofortige Zugriff auf sämtliche Unternehmensdateien.
Häufige Fragen zu RAG.
Müssen Dokumente zum Training verwendet werden?
Nein. Bei RAG bleiben Wissensquellen grundsätzlich getrennt vom Modell und werden für konkrete Anfragen bereitgestellt.
Kann das System Quellen anzeigen?
Ja. Quellenlinks und zitierte Abschnitte sollten Teil der Lösung sein, damit Mitarbeitende wichtige Antworten nachvollziehen können.
Funktioniert RAG mit Word-, PDF- und Wiki-Inhalten?
Grundsätzlich ja. Qualität und Struktur der Formate unterscheiden sich jedoch und müssen beim Import getestet werden.