Halluzination
Wenn ein Sprachmodell überzeugend klingende, aber faktisch falsche Inhalte produziert.
Definition
DefinitionHalluzinationen sind kein Bug, sondern eine Eigenschaft von Sprachmodellen. Sie entstehen, weil das Modell nicht prüft, ob eine Aussage wahr ist, es prüft, ob sie wahrscheinlich klingt. In jedem produktiv genutzten System müssen Halluzinationen technisch begrenzt werden: durch RAG, durch Konfidenz-Schwellen, durch Mensch-im-Loop.
Praxis-Beispiel
Ein Offerten-Bot ohne Preisregel-Anbindung erfindet möglicherweise Preise, die plausibel klingen, aber Ihre Marge zerstören. Deshalb bei ZAVION: Preise kommen aus dem ERP, nicht aus dem Modell.
Kurz beantwortet
Was ist Halluzination?
Wenn ein Sprachmodell überzeugend klingende, aber faktisch falsche Inhalte produziert.
Wie sieht Halluzination in der Praxis aus?
Ein Offerten-Bot ohne Preisregel-Anbindung erfindet möglicherweise Preise, die plausibel klingen, aber Ihre Marge zerstören. Deshalb bei ZAVION: Preise kommen aus dem ERP, nicht aus dem Modell.
Verwandte Begriffe
Fazit von Marcel
Halluzinationen verschwinden nicht durch Hoffnung, sondern durch Architektur. Wir begrenzen sie technisch, mit geprüften Datenquellen und sauberen Kontrollpunkten.
Marcel Kaschner · Gründer ZAVION
Wo zahlt sich das in Ihrem Unternehmen aus?
Im kostenlosen Analysegespräch prüfen wir, welche dieser Bausteine in Ihren Prozessen echte Stunden sparen. 30 Minuten, konkrete Antworten, keine Verbindlichkeit.