Technik & KI · Was ist eine KI-Halluzination?

KI-Halluzination

überzeugend klingende, aber falsche Antwort eines KI-Chatbots

Stand · 3 Quellen · Erklario-Redaktion

WortartSubstantiv
HerkunftÜbertragung von „Halluzination“ = Sinnestäuschung auf KI-Systeme
Tonneutral, fachsprachlich
Wer sagt das?Nutzer von ChatGPT & Co., Schule, Beruf
VerbreitungWeit verbreitet
Kurz erklärtEine KI-Halluzination ist eine Antwort eines KI-Chatbots, die plausibel und selbstsicher klingt, aber falsch oder frei erfunden ist – etwa ein ausgedachtes Zitat, eine nicht existierende Quelle oder ein falscher Fakt. Sie entsteht, weil Sprachmodelle wahrscheinliche Wortfolgen erzeugen, statt Wissen nachzuschlagen. Deshalb sollte man KI-Antworten immer prüfen.

Was bedeutet „KI-Halluzination“?

Von einer KI-Halluzination spricht man, wenn ein KI-Chatbot wie ChatGPT, Gemini oder Copilot etwas behauptet, das nicht stimmt – und zwar so flüssig und selbstsicher, dass es glaubwürdig wirkt. Das kann ein falsches Datum sein, ein erfundenes Zitat, ein Buch, das es nicht gibt, oder ein Link zu einer Quelle, die nie existiert hat.

Die Verbraucherzentrale NRW beschreibt Halluzinationen als plausibel klingende Antworten, die nicht auf echten Daten oder Ereignissen beruhen – also versehentlich entstandene Falschinformationen. Thora Markert vom TÜV-Prüfdienstleister TÜVIT erklärt bei TÜV NORD, dass große Sprachmodelle dazu neigen, neue, aber falsche Informationen mit großer Überzeugung zu präsentieren. Gerade weil sie in gut formulierten Text eingebettet sind, glauben Menschen sie leicht und verbreiten sie weiter.

Abzugrenzen ist die Halluzination von Deepfakes: Diese sind absichtlich gefälschte Bilder, Videos oder Tonaufnahmen. Eine Halluzination dagegen ist ein ungewollter Fehler des Systems.

Herkunft: Woher kommt der Begriff?

Das Wort „Halluzination“ stammt aus der Medizin und Psychologie und bezeichnet Sinnestäuschungen – man nimmt etwas wahr, das nicht da ist. Auf KI übertragen meint es: Das System „sieht“ Fakten, die es nicht gibt. Wann der Begriff zuerst für KI benutzt wurde, ist nicht eindeutig belegt. Ganz wörtlich passt das Bild ohnehin nicht: Eine KI nimmt nichts wahr und hat laut TÜV NORD kein Bewusstsein für den Text, den sie erzeugt. Gemeint ist schlicht eine falsche Ausgabe.

Warum KI halluziniert, erklären die Quellen so: Die Verbraucherzentrale NRW nennt vor allem die Trainingsdaten. Sie können veraltet oder fehlerhaft sein, Satire enthalten, die die KI nicht als Ironie erkennt, oder Lücken haben. Hinzu kommt, dass KI-Anwendungen darauf ausgelegt sind, jede Frage zu beantworten – notfalls mit erfundenen Fakten. Laut nextpit beschreibt OpenAI Halluzinationen selbst als systemische Folge und nicht als simplen Programmfehler: Die Modelle werden so trainiert und bewertet, dass eine konkrete Antwort belohnt wird, selbst wenn sie falsch ist. Ähnlich wie bei einer Prüfung, in der eine leere Antwort null Punkte bringt, lohnt sich Raten.

Wo wird „KI-Halluzination“ verwendet – und wie?

Der Begriff ist längst nicht mehr nur Fachsprache. Er fällt in Schulen und Unis, wenn es um Hausarbeiten mit ChatGPT geht, in Unternehmen, die Chatbots im Kundenservice einsetzen, und in Nachrichten über peinliche KI-Fehler. Im Alltag sagt man auch einfach: „Die KI halluziniert.“

Wie schnell das passiert, zeigt ein Selbsttest der Verbraucherzentrale NRW: Ein Chatbot behauptete, „Rechtschreibfehler“ habe zwei „r“. Beim nächsten Versuch stimmte die Antwort – doch auf die Rückfrage „Bist du dir sicher, sind es nicht zwei?“ gab er dem falschen Einwand nach.

Beispiele: So wird der Begriff verwendet

  • „ChatGPT hat mir drei Bücher für mein Referat empfohlen.“
  • „Hast du mal geguckt, ob es die wirklich gibt?“
  • „Zwei davon existieren gar nicht 🙈“
  • „Klassische KI-Halluzination. Immer gegenchecken.“

Was man wissen sollte

Eine Halluzination erkennt man nicht an der Form – sie klingt genauso überzeugend wie eine richtige Antwort. Laut TÜV NORD lässt sich im Einzelfall meist nicht einmal sagen, warum sie entstanden ist, weil KI-Modelle in der Regel eine Blackbox sind.

Die wichtigste Regel lautet deshalb: Wichtige Fakten, Zahlen und Quellen aus KI-Antworten immer selbst prüfen – besonders bei Schularbeiten, im Job oder wenn es um Gesundheit, Geld oder Recht geht. Nextpit zieht dasselbe Fazit: Wer einen Chatbot nutzt, muss weiterhin kontrollieren, was dieser ausgibt.

Häufige Fragen zu „KI-Halluzination“

Lügt die KI absichtlich?

Nein. Laut TÜV NORD lügen KI-Modelle nicht mit Absicht – ihnen fehlt ein Bewusstsein für den Text, den sie erzeugen. Sie liefern die wahrscheinlichste Antwort, auch wenn die falsch ist.

Kann man Halluzinationen ganz abschalten?

Nach heutigem Stand nicht. Laut nextpit gehen auch die OpenAI-Forschenden davon aus, dass sich Halluzinationen nicht zu 100 Prozent beseitigen lassen. Man kann sie aber seltener machen.

Woran erkenne ich eine KI-Halluzination?

Warnzeichen sind laut TÜV NORD Sätze, die früheren Aussagen widersprechen, und Antworten, die nicht zur Frage passen. Am sichersten ist es, wichtige Fakten und angegebene Quellen selbst nachzuprüfen.

Quellen

  1. Verbraucherzentrale NRW – 4. Lerneinheit: KI braucht einen kritischen Blick (2025)
  2. nextpit – OpenAI gibt zu: ChatGPT wird nie aufhören zu halluzinieren (2025)
  3. TÜV NORD – Trügerische Alleswisser (2025)

Dieser Artikel wurde mit KI-Unterstützung recherchiert und geschrieben und gegen die genannten Quellen abgeglichen. Fehler entdeckt? Schreib uns.

Das könnte dich auch interessieren

Neu erklärt