Glossar
Halluzination
Auch: Konfabulation
Eine Antwort, die plausibel klingt und sachlich falsch ist. Das Modell erfindet nicht absichtlich, es setzt wahrscheinliche Wörter aneinander.
Sprachmodelle sagen das nächste Wort vorher. Ob das Ergebnis wahr ist, ist keine Kategorie in diesem Vorgang. Deshalb klingen falsche Antworten genauso überzeugend wie richtige.
Häufig wird es dort, wo es kaum Trainingsdaten gibt: Nischenprodukte, interne Bezeichnungen, aktuelle Ereignisse, exakte Zahlen und Quellenangaben.
Woran Sie es erkennen
- Antworten klingen sicher, sind aber falsch.
- Es werden Quellen oder Zahlen genannt, die es nicht gibt.
- Fachbereiche verlieren das Vertrauen in das System.
Häufig gefragt
Lässt sich das ganz abstellen?
Nein, aber eingrenzen. Antworten an bereitgestellte Dokumente binden, Belegstellen mit ausgeben, und dem Modell erlauben zu sagen, dass es etwas nicht weiß. Diese drei Maßnahmen bringen in Produktion mehr als jede Feinabstimmung.