Halluzination

Als Halluzination bezeichnet man eine Antwort, die ein Modell selbstbewusst und sprachlich einwandfrei formuliert, die aber sachlich falsch ist — eine erfundene Quelle, eine falsche Jahreszahl, ein Zitat, das nie gefallen ist. Der Begriff führt etwas in die Irre, denn das Modell „sieht“ nichts; es setzt das jeweils wahrscheinlichste nächste Wort. Eine Untersuchung von OpenAI aus dem Jahr 2025 beschreibt eine wesentliche Ursache: Übliche Trainings- und Bewertungsverfahren belohnen Raten stärker als das Eingeständnis von Unwissen. Ein Modell, das im Zweifel eine plausible Antwort errät, schneidet in solchen Tests besser ab als eines, das „Ich weiß es nicht“ sagt. Für Sie als Nutzer heißt das vor allem eines: Ein flüssiger, sicher klingender Ton ist kein Beweis für Richtigkeit. Bei Namen, Zahlen, Zitaten und Quellen lohnt sich immer ein prüfender Blick. Test 123