Halluzination

Phänomen, bei dem ein Sprachmodell plausibel klingende, aber faktisch falsche oder erfundene Aussagen generiert, ohne sich der Unsicherheit bewusst zu sein.

Definition

Halluzination bezeichnet das Phänomen, bei dem ein Sprachmodell eine plausibel klingende, aber faktisch falsche oder durch verfügbare Quellen nicht gedeckte Aussage generiert. Charakteristisch ist die Diskrepanz zwischen Selbstbewusstsein der Formulierung und tatsächlicher Faktenlage. Das Modell weiss nicht, dass es halluziniert, weil es keine interne Unterscheidung zwischen Wissen und plausibler Konstruktion vornimmt.

Der Begriff wurde aus der maschinellen Übersetzung übernommen, wo Modelle Output produzierten, der nicht im Input enthalten war. In der LLM-Ära hat sich der Begriff auf alle plausibel-falschen Generierungen ausgeweitet, von erfundenen Zitaten über falsche Geburtsdaten bis zu nicht existierenden API-Funktionen.

Mechanismus

LLMs sind statistische Modelle, die die Wahrscheinlichkeit des nächsten Tokens auf Basis aller bisherigen Tokens schätzen. Halluzinationen entstehen aus mehreren strukturellen Gründen:

Statistik versus Wahrheit: Die wahrscheinlichste Fortsetzung ist nicht zwangsläufig die korrekte. Bei lückenhaftem Trainingsmaterial konvergiert das Modell auf plausibel aussehende Konstruktionen.
Fehlende Unsicherheits-Kalibration: Das Modell hat keine zuverlässige interne Repräsentation seines eigenen Wissens. Es kann nicht sagen das weiss ich nicht, wenn das Training kein solches Verhalten belohnt hat.
Kompression von Faktenwissen: Milliarden von Fakten werden in einigen Hundert Milliarden Parametern komprimiert, was unvermeidlich zu Verlusten und Verwechslungen führt.
Tokenisierungs-Artefakte: Zahlen, Daten, Eigennamen werden in Sub-Tokens zerlegt, was numerische und faktische Präzision erschwert.

Typologie

Forscher unterscheiden mehrere Arten von Halluzinationen:

Intrinsisch: Widerspricht direkt dem bereitgestellten Kontext, etwa wenn ein RAG-System Dokumente liefert und das Modell sie verfälscht.
Extrinsisch: Führt externe Fakten ein, die im Kontext nicht vorhanden waren. Häufigster Fall bei Wissensfragen.
Faktualität: Falsche konkrete Daten, etwa Geburtsdaten, Statistiken, Zitate.
Logik: Ungültige Schlussfolgerungen aus korrekten Prämissen.
Selbstreferentiell: Modell behauptet Fähigkeiten oder Wissen, das es nicht hat.

Mechanismen zur Reduktion

Mehrere Hebel reduzieren Halluzinationen, ohne sie vollständig zu eliminieren:

Grounding und RAG: Externe Quellen vor der Antwortgenerierung in den Kontext einspeisen.
Tool Use und Function Calling: Faktenrecherche an spezialisierte APIs delegieren.
Explizite Quellen-Pflicht: System-Prompt verlangt Zitierung jeder Behauptung.
Constitutional AI und RLHF: Training auf Vermeidung von Falschaussagen.
Chain-of-Thought: Explizites Denken vor der Antwort macht Fehler sichtbarer.
Self-Consistency: Mehrere Generierungen, Mehrheits-Voting.
Niedrige Temperature: Reduziert kreative Ausreisser bei Faktenfragen.
Calibration: Modelle trainieren, ihre Unsicherheit zu kommunizieren.

Messung

Etablierte Benchmarks und Frameworks:

TruthfulQA (Lin et al., 2022): 817 Fragen zu verbreiteten Falschannahmen.
HaluEval: Halluzinationen in Dialog, Zusammenfassung und Q-and-A.
SimpleQA (OpenAI, 2024): Faktenkorrektheit auf 4326 Fragen.
FActScore: Atomare Fakten-Bewertung von Modell-Outputs.
RAGAS Faithfulness: Übereinstimmung der Antwort mit gelieferten Quellen.
LLM-as-Judge: GPT-4 oder Claude bewerten Antworten gegen Ground Truth.

Im Produktionseinsatz sind eigene Eval-Sets mit domänenspezifischen Beispielen Pflicht.

Praxis und Anwendung

Halluzinationen sind in verschiedenen Domänen unterschiedlich kritisch:

Recht: existenzbedrohend. Der ChatGPT-Anwalt-Fall (Mata v. Avianca, 2023) zeigte erfundene Präzedenzfälle in Gerichtsdokumenten.
Medizin: lebensgefährlich. Diagnose- und Therapie-Aussagen ohne Grounding sind unverantwortlich.
Finanzen: regulatorisch und finanziell riskant. Audit-Trail und Quellenattribution sind Pflicht.
Wissenschaft: untergräbt Forschungs-Integrität. Erfundene Studien-Zitate sind bereits massenhaft in Preprints aufgetaucht.
Kreatives Schreiben: dort sind Halluzinationen Feature, nicht Bug.

Häufige Fehler

Halluzinationen für Bugs halten: sie sind strukturelle Eigenschaften, keine isolierten Fehler.
Nur auf Modellwahl setzen: auch Frontier-Modelle halluzinieren, Grounding ist nötig.
RAG für Lösung halten: schlechtes Retrieval erzeugt selbstbewusste Halluzinationen mit falschen Quellen.
Fehlende Evaluation: ohne Faithfulness-Messung bleibt das Problem unsichtbar.
User-Vertrauen überfordern: Nutzer überschätzen Modell-Zuverlässigkeit ohne klare Unsicherheits-Signale.
Temperature für Fakten zu hoch: kreative Settings erhöhen Halluzinations-Rate.

Abgrenzung

Fehler: Klassischer Software-Bug, deterministisch reproduzierbar. Halluzinationen sind stochastisch und kontextabhängig.
Bias: Systematische Verzerrungen in Trainingsdaten. Halluzinationen sind im Kern Generierungs-Phänomene, Bias ist im Kern Daten-Phänomen.
Jailbreak: Aktive Manipulation zur Umgehung von Sicherheits-Constraints. Halluzinationen treten ohne Manipulation auf.
Konfabulation: psychologischer Begriff für unbewusstes Erfinden von Erinnerungen. Treffende Analogie zum LLM-Verhalten.

Weiter im KI-Lexikon

← Zurück zum Lexikon

Häufige Fragen

Was ist eine Halluzination bei LLMs?+

Eine Halluzination ist eine vom Sprachmodell generierte Aussage, die plausibel und selbstbewusst formuliert klingt, aber faktisch falsch, erfunden oder nicht durch die bereitgestellten Quellen gedeckt ist. Das Modell weiss nicht, dass es halluziniert. Klassische Beispiele: erfundene Zitate, falsche Geburtsdaten, nicht existierende Studien, plausibel aussehende, aber falsche Code-APIs.

Warum halluzinieren LLMs?+

LLMs sind statistische Modelle, die das wahrscheinlichste nächste Token generieren, nicht das wahre. Wenn das Trainingssignal lückenhaft ist oder die Wahrscheinlichkeitsverteilung mehrere plausible Fortsetzungen erlaubt, wählt das Modell die statistisch wahrscheinlichste, was nicht immer die korrekte ist. Faktenwissen ist nur indirekt im Modellgewicht codiert, ohne explizite Quellen-Attribution.

Welche Arten von Halluzinationen gibt es?+

Intrinsische Halluzinationen widersprechen dem bereitgestellten Quellen-Kontext direkt, etwa wenn ein RAG-System Dokumente liefert und das Modell sie verfälscht. Extrinsische Halluzinationen führen externe Fakten ein, die im Kontext gar nicht enthalten waren. Fakt-Halluzinationen erfinden konkrete Daten, Logik-Halluzinationen produzieren ungültige Schlussfolgerungen.

Wie reduziert man Halluzinationen?+

Die wirksamsten Hebel sind Grounding (RAG, Tool Use, Knowledge Graphs), explizite Aufforderung zur Quellen-Nennung, Constitutional AI oder RLHF-Training, Chain-of-Thought zur Selbst-Korrektur, niedrigere Temperature, Self-Consistency mit Mehrheits-Voting und retrieval-augmented Modelle wie Perplexity. Vollständige Eliminierung ist aktuell unmöglich.

Wie misst man Halluzinationen?+

Standard-Benchmarks: TruthfulQA (Lin et al., 2022) testet, ob das Modell verbreiteten Falschannahmen folgt. HaluEval misst Halluzinationen in Dialog und Zusammenfassung. SimpleQA von OpenAI prüft Faktenkorrektheit. Faithfulness-Metriken in RAGAS und TruLens vergleichen Antwort mit Quellen. LLM-as-Judge mit GPT-4 oder Claude bewertet Halluzinationen automatisch.

Welche Modelle halluzinieren weniger?+

Frontier-Modelle (GPT-4o, Claude Opus 4.x, Gemini 2.5) halluzinieren deutlich weniger als kleinere Modelle, aber nicht null. Reasoning-Modelle garantieren dagegen keine weitere Reduktion: OpenAIs System Card vom April 2025 wies für o3 und o4-mini auf PersonQA höhere Halluzinationsraten aus als für o1. Domain-spezifisch fine-getunte Modelle und retrieval-augmented Systeme wie Perplexity reduzieren Halluzinationen am stärksten in ihrem Anwendungsfeld.

Sind Halluzinationen jemals nützlich?+

Ja, in kreativen Kontexten. Beim Brainstorming, beim Schreiben von Fiktion, beim Generieren von Variationen oder Hypothesen ist die Fähigkeit des Modells, neue Inhalte zu erfinden, ein Feature, nicht ein Bug. Problematisch werden Halluzinationen erst, wenn Faktualität erwartet wird, etwa in Recht, Medizin, Wissenschaft, Finanzen.

Verschwinden Halluzinationen in zukünftigen Modellen?+

Vollständig sehr unwahrscheinlich. Die Architektur ist statistisch, nicht symbolisch, und Faktenwissen veraltet schneller als Modelle umtrainiert werden können. Realistisch ist signifikante Reduktion durch bessere Trainingsdaten, Reasoning-Architekturen, Grounding-Integration und Calibration. Faktualität wird zunehmend an externe Wissenssysteme delegiert.

Quellen

Ji et al. (2023) Survey of Hallucination in Natural Language Generation
OpenAI Documentation on Model Limitations
Anthropic Docs (Reducing Hallucination)
Lin et al. (2022) TruthfulQA

Wikidata: Q116197048 · Zuletzt geprüft: 2026-07-02