HalluzinationDefinition und Funktionsweise 2026
- Halluzination
- Wenn ein LLM oder Agent eine Antwort generiert, die plausibel klingt, aber faktisch falsch ist — der Modus, der KI-Outputs ohne menschliche Prüfung unbrauchbar macht.
Eine Halluzination ist kein Bug — sie ist eine Eigenschaft der nächst-Token-Vorhersage. Das Modell weiß nicht, was es nicht weiß; es generiert die statistisch wahrscheinlichste Fortsetzung. Wenn die Wahrheit nicht zuverlässig im Trainingskorpus liegt, klingt eine plausible Lüge oft genauso wahrscheinlich.
Die Halluzinations-Rate sinkt 2026 weiter — von ca. 15-20 % bei GPT-4-Class-Modellen 2024 auf 3-5 % bei den 2026er-Spitzenmodellen in geschlossenen Domänen. Aber sie wird nicht null. Jedes produktionsreife Agent-Setup hat eine Verifikations-Schicht: RAG mit Quellen-Zitaten, Tool-Use mit überprüfbarem Ground-Truth, Human-in-the-Loop-Gates vor irreversiblen Aktionen.
Hochrisiko-Domänen (Recht, Gesundheit, Finanzen) sind dort sicher, wo der Agent als „aggressiver Junior" behandelt wird — er produziert den Erstentwurf, ein Senior verifiziert. Treat ihn nie als Orakel.
Häufig gefragt
Wie reduziere ich Halluzinationen in Produktion?+
Drei Hebel: (1) RAG mit harten Quellen-Zitaten, sodass die Antwort prüfbar ist; (2) Tool-Use für Fakten, die nur via API verifizierbar sind (Preise, aktuelle Daten); (3) LLM-as-a-Judge oder Selbstkonsistenz-Voting bei kritischen Outputs.
Sind manche Modelle halluzinations-resistenter als andere?+
Ja. Claude 4.x und GPT-5-Class haben deutlich niedrigere Halluzinations-Raten als ältere Modelle, besonders mit RAG. Aber die Reduktion ist asymptotisch — kein Modell ist null-Halluzination, und benchmarks vergleichen meist nur narrow domains.
Wie merke ich, dass mein Agent halluziniert?+
Quellen-Zitate, die zu nicht existierenden URLs zeigen. Plötzliche Konfidenz bei Themen, zu denen der Knowledge-Cutoff zu alt ist. Innere Widersprüche zwischen Schritten einer Multi-Step-Antwort. Wenn keine dieser Signale da sind, ist menschliche Stichproben-Prüfung die letzte Verteidigung.