Das Wichtigste in Kürze
Das Wichtigste in Kürze- Ein RAG-Assistent beantwortet Mitarbeiterfragen aus internen Dokumenten
- Vom Spesenreglement bis zur Produkt-Doku, mit Quellenangabe
- Die Antwortqualität hängt an der Doku-Qualität, nicht am Modell
- Er muss lernen zu schweigen, wenn die Antwort nicht in den Quellen steht
Die immer gleichen Fragen, 'Wie reiche ich Spesen ein?', 'Was steht in der Garantie auf Produkt X?', 'Welcher Prozess gilt bei Reklamationen?', fressen täglich Zeit, beim Fragenden wie beim Gefragten. Ein Wissensassistent auf den internen Dokumenten beantwortet sie in Sekunden, jederzeit, ohne dass jemand gestört wird.
Was RAG hier konkret heisst
Retrieval-Augmented Generation bedeutet, dass das Sprachmodell nicht aus seinem Allgemeinwissen antwortet, sondern zuerst in Ihren Dokumenten nach den passenden Stellen sucht und die Antwort ausschliesslich daraus formuliert. Es erfindet nichts dazu, es zitiert, was bei Ihnen steht. Jede Antwort kommt mit einer Quellenangabe, damit der Mitarbeiter nachschlagen kann.
- 1Dokumente werden eingelesen, Reglemente, Handbücher, Produkt-Datenblätter, FAQ, Prozessbeschriebe.
- 2Diese werden in durchsuchbare Abschnitte zerlegt und indexiert.
- 3Eine Mitarbeiterfrage holt die relevantesten Abschnitte hervor.
- 4Das Modell formuliert die Antwort daraus, mit Verweis auf die Quelle.
Die Qualität entscheidet sich an Ihrer Doku
Der häufigste Irrtum ist die Erwartung, dass die KI das Wissens-Chaos sortiert. Tut sie nicht. Wenn drei widersprüchliche Versionen des Spesenreglements herumliegen, gibt der Assistent drei widersprüchliche Antworten. RAG verstärkt die Qualität Ihrer Dokumentation, im Guten wie im Schlechten. Die ehrliche Vorarbeit ist aufräumen, nicht prompten.
Datenschutz von Anfang an mitdenken
Interne Dokumente enthalten oft Personendaten, Löhne, Beurteilungen, Verträge. Wer Zugriff auf den Assistenten hat, hat faktisch Zugriff auf das hinterlegte Wissen. Deshalb gehören Berechtigungen und eine bewusste Auswahl der eingespeisten Dokumente an den Anfang. Nicht alles, was digital vorliegt, gehört in einen für alle zugänglichen Assistenten.
Wo es sich lohnt, und wo nicht
Es lohnt sich bei einem stabilen Wissensbestand, der oft abgefragt wird, etwa Reglemente, Onboarding, Produktdetails, Support-Wissen. Es lohnt sich nicht für Wissen, das sich täglich ändert oder das nur eine Handvoll Leute je brauchen, da ist der Pflegeaufwand für den Index grösser als der Nutzen.
< 10 Sek
Antwortzeit auf Standardfragen
100%
der Antworten mit Quellenangabe
−50%
interne 'Kurze Frage'-Rückfragen
0
erfundene Antworten bei sauberer Konfiguration
Der grösste Gewinn ist die Entlastung der Wissensträger, jener zwei, drei Leute, die sonst ständig unterbrochen werden, weil sie als Einzige wissen, wie etwas läuft. Der Assistent macht ihr Wissen abrufbar, ohne sie zu unterbrechen. Vorausgesetzt, das Wissen ist sauber dokumentiert. Sonst automatisieren Sie nur das Chaos.
Fazit von Marcel
Die härteste Wahrheit in RAG-Projekten spreche ich immer im ersten Gespräch aus, denn die KI räumt Ihr Wissens-Chaos nicht auf, sie verstärkt es. Bei unseren Kunden entscheidet die Qualität der Dokumentation über die Qualität der Antworten, nicht das Modell. Mein Rat ist, zuerst aufzuräumen, dann zu indexieren, und den Assistenten so zu konfigurieren, dass er lieber schweigt als erfindet.
Marcel Kaschner · Founder & Managing Director, ZAVION
Häufige Fragen
Was ist ein RAG-Wissensassistent?
Ein System, das Mitarbeiterfragen aus den internen Dokumenten beantwortet, etwa Reglementen, Handbüchern, Produkt-Datenblättern und Prozessbeschrieben. Retrieval-Augmented Generation bedeutet, dass das Sprachmodell nicht aus seinem Allgemeinwissen antwortet, sondern zuerst die passenden Stellen in Ihren Dokumenten sucht und die Antwort ausschliesslich daraus formuliert, mit Quellenangabe.
Erfindet ein interner Wissensassistent Antworten?
Nicht, wenn er richtig konfiguriert ist. Das wichtigste Verhalten ist, dass der Assistent 'Dazu finde ich nichts' sagt, wenn die Antwort nicht in den Quellen steht, statt etwas Plausibles zu erfinden. Zusätzlich trägt jede Antwort eine Quellenangabe wie 'Spesenreglement, Abschnitt 4.2', damit sie nachprüfbar bleibt.
Für welches Wissen lohnt sich ein Wissensassistent?
Für einen stabilen Wissensbestand, der oft abgefragt wird, also Reglemente, Onboarding-Unterlagen, Produktdetails und Support-Wissen. Nicht lohnend ist er für Wissen, das sich täglich ändert oder das nur eine Handvoll Leute je brauchen, dort übersteigt der Pflegeaufwand für den Index den Nutzen.
Was ist beim Datenschutz interner Assistenten zu beachten?
Wer Zugriff auf den Assistenten hat, hat faktisch Zugriff auf das hinterlegte Wissen. Interne Dokumente enthalten oft Personendaten wie Löhne oder Beurteilungen, deshalb gehören Berechtigungen und eine bewusste Auswahl der eingespeisten Dokumente an den Anfang des Projekts, nicht ans Ende.
