Auch genannt: keine festgelegten Synonyme
Eine Halluzination in der Künstlichen Intelligenz ist eine Ausgabe, die überzeugend wirken kann, aber nicht durch verlässliche Informationen gedeckt ist. Bei generativer KI betrifft das etwa erfundene Fakten, Studien, Webadressen oder Details zu realen Personen und Organisationen. Der Begriff beschreibt damit nicht jede ungenaue Antwort und auch nicht jede unsichere Vorhersage. Entscheidend ist, dass eine Aussage als zutreffend erscheint, obwohl sie falsch, irrelevant oder frei erfunden ist. IBM beschreibt solche Ausgaben als plausibel wirkende, aber erfundene oder sachlich falsche Inhalte.
Ein Sprachmodell formuliert keine Antwort, indem es zunächst eine Datenbank der Wahrheit abfragt. Es erzeugt Text schrittweise aus Mustern, die es während des Trainings gelernt hat. Deshalb kann ein Satz sprachlich flüssig, passend zum Gespräch und sehr bestimmt klingen, obwohl er keinen realen Sachverhalt beschreibt. Besonders auffällig wird das bei konkreten Nachfragen: Ein Modell nennt dann möglicherweise eine erfundene Quelle, eine nicht existierende Funktion oder ein falsches Datum mit großer Sicherheit.
Das Wort „Halluzination“ ist dabei eine technische Metapher, keine Aussage über Wahrnehmung oder Bewusstsein einer Maschine. Ein Modell erlebt nichts und beabsichtigt keine Täuschung. Es berechnet wahrscheinliche Fortsetzungen. Bei einem Large Language Model betrifft das meist die nächste passende Texteinheit im gegebenen Kontext. Plausibilität und Wahrheit sind jedoch verschiedene Eigenschaften.
Generative Modelle lernen statistische Regelmäßigkeiten aus Trainingsdaten. Sie können daher Formulierungen und Strukturen überzeugend nachbilden, ohne für jede Behauptung einen prüfbaren Beleg zu besitzen. Fehlen im aktuellen Kontext wichtige Informationen, sind Daten lückenhaft oder passt eine Frage nur teilweise zu den gelernten Mustern, kann das Modell Lücken mit einer glaubwürdig klingenden Ergänzung füllen. Google Cloud nennt unter anderem unvollständige, verzerrte oder fehlerhafte Trainingsdaten sowie fehlendes Grounding als mögliche Faktoren für irreführende Ausgaben.
Auch die Aufgabenstellung spielt eine Rolle. Sehr offene Fragen, mehrdeutige Begriffe oder die Aufforderung, Details zu erfinden, erhöhen das Risiko. Ein Prompt kann die Aufgabe zwar klarer eingrenzen, er macht eine Antwort aber nicht automatisch richtig. Ebenso wenig ist jede falsche Ausgabe eine Halluzination: Bei einem Klassifikationsmodell kann eine Fehlklassifikation aus anderen Gründen entstehen. Im engeren Sprachgebrauch geht es vor allem um unbelegte oder erfundene Inhalte, die als sachliche Antwort ausgegeben werden.
Angenommen, ein Team bittet ein Sprachmodell um drei wissenschaftliche Studien zu einem sehr neuen Thema. Das Modell liefert Autorennamen, Zeitschriftentitel, Jahreszahlen und Links. Alles sieht wie ein korrektes Literaturverzeichnis aus. Eine Recherche zeigt jedoch: Die genannten Studien wurden nie veröffentlicht; Namen oder Titel sind aus ähnlichen echten Veröffentlichungen zusammengesetzt. Das ist eine Halluzination, weil das Modell nicht bloß unsicher formuliert, sondern prüfbar falsche Quellen als vorhanden darstellt.
Der richtige Umgang damit ist nicht, die Antwort anhand ihres Stils zu bewerten. Stattdessen werden Titel, Autorinnen und Autoren, Fundstellen sowie Kernaussagen in den Originalquellen geprüft. Für Entscheidungen mit Folgen sollte die KI-Ausgabe als Arbeitsentwurf gelten, nicht als Nachweis.
Der Begriff hilft, Risiken bei der Nutzung von Generativer KI sichtbar zu machen. Im Kundenservice können erfundene Produktbedingungen zu falschen Auskünften führen. In Redaktion, Forschung oder Verwaltung können nicht belegte Zusammenfassungen und Quellenangaben Fehler weitertragen. Besonders sorgfältige Prüfung ist nötig, wenn Antworten medizinische, rechtliche, finanzielle oder sicherheitsrelevante Entscheidungen beeinflussen.
In der Praxis lassen sich Risiken verringern, wenn ein System mit klaren Aufgaben, passenden Datenquellen und überprüfbaren Ausgaben arbeitet. Ein Retrieval-Augmented-Generation-System kann vor der Antwort relevante Dokumente suchen und sie als Kontext bereitstellen. Das verbessert die Nachvollziehbarkeit, wenn Herkunft und Aktualität dieser Dokumente kontrolliert werden. Es ist aber kein Wahrheitsgarant: Auch eine abgerufene Quelle kann unvollständig, veraltet oder falsch interpretiert sein; außerdem kann ein Modell Inhalte erfinden, die nicht im bereitgestellten Material stehen.
Sinnvolle Schutzmaßnahmen verbinden Technik und Arbeitsprozess: Quellen in der Antwort sichtbar machen, Zitate gegen das Original prüfen, Antworten auf einen definierten Datenbestand begrenzen und risikoreiche Ergebnisse vor einer Weitergabe menschlich freigeben. Wiederkehrende Tests mit typischen Fragen zeigen, bei welchen Aufgaben ein System besonders anfällig ist. Wichtig ist auch, dass nachgelagerte Systeme unbelegte KI-Ausgaben nicht ungeprüft als Fakten übernehmen.
Eine Halluzination lässt sich nicht zuverlässig am Tonfall erkennen. Höfliche Einschränkungen können neben falschen Angaben stehen; umgekehrt kann eine vorsichtig formulierte Antwort korrekt sein. Auch lange Antworten mit vielen Details sind nicht glaubwürdiger als kurze. Maßgeblich sind nachvollziehbare Belege, der Kontext und eine Prüfung gegen geeignete Quellen.
Es wäre außerdem irreführend, Halluzinationen allein auf schlechte Prompts zu schieben. Klare Eingaben, strukturierte Ausgabeformate und Grounding sind nützliche Kontrollen, beseitigen aber die grundsätzliche Möglichkeit fehlerhafter Ausgaben nicht. Das Ziel ist deshalb nicht blindes Vertrauen, sondern ein Verfahren, das Fehler erkennt, begrenzt und bei wichtigen Aussagen eine unabhängige Prüfung vorsieht.
Eine Halluzination ist nicht gleichbedeutend mit einer gewöhnlichen Wissenslücke. Ein Modell kann auf eine Frage korrekt antworten, dass ihm Informationen fehlen; das ist keine Halluzination. Auch eine bewusst kreativ angelegte Geschichte ist nicht problematisch, wenn sie als Fiktion gekennzeichnet ist. Von Desinformation unterscheidet sich die KI-Halluzination ebenfalls: Desinformation bezeichnet irreführende Inhalte in einem kommunikativen Kontext, häufig mit Täuschungsabsicht. Eine Modellantwort kann dagegen ohne Absicht falsch sein. In beiden Fällen bleibt Quellenprüfung wichtig.