← Alle Begriffe
Arbeiten mit SprachmodellenZuletzt geprüft
Halluzination
Von Halluzination spricht man, wenn ein Sprachmodell Aussagen erfindet, die überzeugend klingen, aber falsch oder nicht belegt sind.
Auch bekannt als: Konfabulation
So funktioniert das
Ein Sprachmodell sagt Textstücke voraus, es prüft keine Fakten. Fehlt ihm Wissen oder ist die Frage unklar, füllt es die Lücke mit dem, was plausibel klingt. So entstehen erfundene Zahlen, falsche Quellenangaben oder Behauptungen, die sich anhören wie Tatsachen.
Beispiel aus der Praxis
Du fragst nach einer Studie zu einem Thema und bekommst Autoren, Titel und Jahr — nur gibt es diese Studie nicht.
Das solltest du wissen
- Halluzinationen lassen sich verringern, aber nicht völlig ausschließen.
- Hilfreich sind: Antworten auf eigene Quellen stützen (RAG), Quellen anzeigen lassen, präzise Prompts und eine menschliche Prüfung bei wichtigen Inhalten.
- Gerade bei Zahlen, Zitaten, Rechts- und Medizinthemen gilt: nachprüfen, bevor du etwas weitergibst.