Das Gefährlichste an einem großen Sprachmodell ist nicht, dass es falsche Aussagen trifft – sondern dass es falsche Aussagen trifft mit großer Sicherheit. Ein LLM erfindet eine Quellenangabe, eine Statistik, einen Gerichtsfall oder eine API-Methode und präsentiert sie in genau dem flüssigen, selbstsicheren Ton, den es auch für korrekte Fakten verwendet. Dies nennt man Halluzination– und ein Verständnis dieses Phänomens ist entscheidend, um KI verantwortungsvoll einzusetzen.
Dieser Leitfaden erklärt, was Halluzinationen sind, warum sie auftreten, welche Arten Sie erwarten können und welche Methoden tatsächlich dazu beitragen, sie zu reduzieren.
Wichtigste Erkenntnisse
- Eine Halluzination ist dann gegeben, wenn ein LLM Informationen generiert, die falsch oder nicht belegt sind, diese aber mit großer Selbstsicherheit behauptet.
- Warum das geschieht: LLMs prognostizieren plausiblen Text – sie recherchieren keine Fakten und wissen nicht, wann sie etwas nicht wissen.
- Die Lösung besteht nicht aus einer einzigen Maßnahme: Grounding mittels RAG, besseres Prompting, geeignete Modellauswahl sowie externe Überprüfung tragen alle zur Reduktion bei.
- Eine vollständige Eliminierung von Halluzinationen ist unmöglich – stattdessen lassen sie sich reduzieren, wobei sämtliche kritischen Aussagen anschließend überprüft werden müssen.
- Höchstes Risiko besteht bei: konkreten Fakten, Quellenangaben, Zahlen, Zitaten und Nischenthemen.
Was eine Halluzination tatsächlich ist
Eine Halluzination ist jede vom LLM als Tatsache präsentierte Aussage, die falsch, erfunden oder durch die zugrundeliegenden Daten nicht gestützt ist. Beispiele: Erfindung einer nicht existierenden wissenschaftlichen Publikation, Angabe einer fiktiven Statistik, falsche Zuordnung eines Zitats zu einer Person oder Beschreibung einer Softwarefunktion, die niemals implementiert wurde.
Kennzeichnend ist dabei die Selbstsicherheit. Das Modell formuliert keine Einschränkungen und weist keine Unsicherheit aus – erfundener Inhalt liest sich genauso glaubwürdig wie korrekter. Genau das macht Halluzinationen wirklich gefährlich statt lediglich ärgerlich.
Warum LLMs halluzinieren
Um Halluzinationen wirksam zu reduzieren, muss deren Ursache verstanden werden – und diese liegt in der grundlegenden Funktionsweise dieser Modelle.
Ein LLM ist ein Next-Token-Prädiktor, kein Fakten-Datenbank. Es wurde darauf trainiert, die plausibelste Fortsetzung eines Textes zu generieren. Es erzeugt Sprache, die plausibel klingt – basierend auf Mustern in seinen Trainingsdaten. Dabei recherchiert es nichts nach. Wenn die plausibelste Fortsetzung zufällig falsch ist, wird sie vom Modell genauso bereitwillig ausgegeben wie eine wahre. Es besitzt keine eigenständige „Wahrheitsprüfung“.
Mehrere Faktoren verschärfen dieses Problem:
- Keine klare Wissensgrenze. Das Modell weiß nicht zuverlässig, was es nicht weiß. Wird es zu einem Thema außerhalb seines Trainingszeitraums befragt, generiert es stattdessen eine plausible Antwort, anstatt zu antworten: „Ich weiß es nicht.“
- Druck, eine Antwort zu liefern. Modelle werden darauf trainiert, hilfreich und reaktionsfähig zu sein – dies begünstigt die Generierung einer Antwort gegenüber dem Eingeständnis von Unwissenheit.
- Lücken und Fehler in den Trainingsdaten. Wenn Informationen in den Trainingsdaten spärlich, widersprüchlich oder fehlerhaft sind, spiegelt sich dies auch im Modelloutput wider.
- Wissensabschlussdatum. Alles, was nach dem Abschluss des Trainingsdatensatzes stattgefunden hat, ist schlicht nicht vorhanden – daher füllt das Modell diese Lücke durch Schätzung.
- Verloren gegangener Kontext. Bei langen Konversationen oder Dokumenten kann das Modell Details aus dem Blick verlieren und diese – falsch – ergänzen.
Die wichtigsten Arten von Halluzinationen
| Typ | Wie sie sich äußern |
|---|---|
| Faktische Erfindung | Erfindung von Ereignissen, Statistiken oder Fakten, die nicht existieren |
| Fiktive Quellenangaben | Erstellung realistisch wirkender, aber nicht existierender wissenschaftlicher Arbeiten, Bücher oder URLs |
| Fehlattribution | Zuordnung eines echten Zitats oder einer echten Idee zu der falschen Person |
| Kontextwiderspruch | Antworten im Widerspruch zu den tatsächlich bereitgestellten Dokumenten |
| Logische/numerische Fehler | Selbstsichere Fehler in mathematischen Berechnungen oder Schlussketten |
| Code-Halluzination | Aufruf nicht existierender Funktionen, Bibliotheken oder Parameter |
So verringern Sie Halluzinationen
Es gibt keine einzige Methode, die das Problem vollständig löst. Zuverlässige KI-Systeme kombinieren mehrere Schutzmaßnahmen.
1. Modell durch RAG verankern
Die wirksamste strukturelle Maßnahme ist retrieval-augmented generation (generierung mit Abrufunterstützung): Abruf relevanter Quelldokumente und Anweisung an das Modell, ausschließlich auf Grundlage dieser Dokumente zu antworten. nur Dies ersetzt das Prinzip „Erinnerung abrufen“ durch „aus einer Quelle lesen“ und reduziert Erfindungen – insbesondere bei Fakten und Zitaten – deutlich.
2. Ehrlichkeit explizit einfordern
Geben Sie dem Modell ausdrücklich die Erlaubnis, Unsicherheit zuzugeben: „Wenn Sie es nicht wissen, sagen Sie es. Raten Sie nicht.“ Fordern Sie es auf, Quellen anzugeben, Fakten von Schlussfolgerungen zu trennen und Teile mit geringer Zuverlässigkeit kenntlich zu machen. Dies allein verhindert Halluzinationen zwar nicht, hilft aber messbar.
3. Quellmaterial direkt bereitstellen
Falls Sie das Dokument besitzen, fügen Sie es direkt in die Eingabeaufforderung ein, statt sich auf das Gedächtnis des Modells zu verlassen. Ein Modell, das einen von Ihnen bereitgestellten Text zusammenfasst, ist weitaus zuverlässiger als eines, das Texte aus seinem Trainingsdatensatz abruft.
4. Das richtige Modell wählen
Größere, neuere Spitzenmodelle halluzinieren weniger als kleinere oder ältere Modelle. Auf logisches Denken optimierte Modelle neigen dazu, bei Logik- und Mathematikaufgaben genauer zu sein. Für faktentreue, hochkritische Aufgaben verwenden Sie ein leistungsstarkes Modell – und wenn möglich eines mit integrierter Live-Suche oder Abruffunktion.
5. Überprüfung einfordern
Lassen Sie das Modell – oder ein zweites Modell – die erste Antwort überprüfen: „Überprüfen Sie die obige Antwort auf Aussagen, die ungenau oder nicht belegt sein könnten.“ Selbstkritik deckt einen signifikanten Anteil an Fehlern auf.
6. Alles Wichtige überprüfen
Die letzte und unverzichtbare Sicherheitsebene ist die menschliche Überprüfung. Für jede konkrete Tatsache, jedes Zitat, jede Zahl, jedes Datum, jeden juristischen oder medizinischen Hinweis prüfen Sie diese stets anhand einer Primärquelle. Behandeln Sie das Sprachmodell als einen schnellen, gut informierten, aber gelegentlich unzuverlässigen Assistenten – niemals als endgültige Autorität.
Wann müssen Sie besonders vorsichtig sein?
Das Risiko von Halluzinationen ist nicht gleichmäßig verteilt. Seien Sie besonders skeptisch gegenüber:
- Konkreten Fakten: Datumsangaben, Statistiken, Namen, Preise, Messwerte.
- Zitaten und Quellen: Artikel- oder Buchtitel, Autoren, URLs, Seitenzahlen – ein klassisches Halluzinationsfeld.
- Zitaten: exakter Formulierung und korrekter Zuordnung.
- Nischen- oder aktuellen Themen: dünn besetzte Trainingsdaten und Ereignisse nach dem Cut-off-Datum.
- Code-spezifischen Details: exakten Funktionsnamen, Parametern und Bibliotheks-APIs.
Umgekehrt sind Sprachmodelle zuverlässig beim Erklären bekannter Konzepte, beim Brainstorming, beim Umstrukturieren von Texten sowie beim logischen Schlussfolgern auf Grundlage von Material, das Sie direkt bereitstellen.
Wie Halluzinationsraten gemessen werden
„Halluzinationen reduzieren“ hat nur dann eine Bedeutung, wenn man sie messen kann. Das Problem dabei ist, dass es keine einzige Halluzinationsbewertung gibt, weil es zwei sehr unterschiedliche Fehlerarten gibt – ein Modell kann bei der einen ausgezeichnet, bei der anderen jedoch völlig versagen. Zu wissen, welcher Benchmark welche Frage beantwortet, ermöglicht einen ehrlichen Vergleich von Modellen – statt sich blind auf eine Marketingbehauptung zu verlassen.
Fundierte Treue stellt die Frage: Wenn Sie dem Modell ein Dokument übergeben und es auffordern, dieses zu zusammenzufassen oder Fragen ausschließlich anhand dieses Textes zu beantworten, bleibt es dann treu zur Quelle – oder erfindet es Details? Dieses Maß ist entscheidend für RAG- und Dokument-Workflows. Die öffentliche HHEM-Leaderboard-Rangliste von Vectara sowie Googles FACTS Grounding testen beide genau diese Eigenschaft. Die ermutigende Nachricht lautet: Bei einer sauberen Zusammenfassungsaufgabe liegen die besten Modelle mittlerweile im unteren einstelligen Prozentbereich an Halluzinationsrate, während schwächere oder ältere Modelle bis zu zehnmal schlechter abschneiden – die Wahl des Modells wirkt sich also tatsächlich spürbar aus.
Offene Erinnerungs-Faktizität stellt die umgekehrte Frage: Ohne vorgegebene Quelle – wie häufig nennt das Modell eine Tatsache korrekt aus seinem eigenen Wissensspeicher, und wie häufig erfindet es – mit hoher Sicherheit – eine falsche? OpenAIs SimpleQA gilt hier als Standard und ist bewusst hart gestaltet: Sie enthält zahlreiche obskure, leicht widerlegbare Fakten. Selbst fortschrittliche Modelle verzeichnen bei diesen Aufgaben noch einen hohen Anteil falscher Antworten – genau deshalb stellen unverankerte Aussagen zu Namen, Daten, Zitaten und Zahlen das größte Risiko dar, das ein LLM produzieren kann.
Die nützlichste Idee in modernen Halluzinations-Benchmarks ist die Erkenntnis, dass eine selbstsichere, aber falsche Antwort schlimmer ist als eine ehrliche Aussage wie „Ich weiß es nicht.“ Gute Benchmarks bewerten drei mögliche Ergebnisse statt nur zweier: richtig, falsch und nicht versucht. Ein Modell, das bei Unsicherheit auf eine Antwort verzichtet, wird belohnt – nicht bestraft. Wenn Sie eine Leaderboard-Rangliste lesen, sollten Sie dieses Verhalten des Verzichts genauso gewichten wie die reine Genauigkeit.
- Für RAG- oder Dokumentaufgaben: sehen Sie sich einen Grounding-/Treue-Benchmark an (HHEM, FACTS Grounding).
- Für offene Fragen- und Antworten-Aufgaben aus dem Gedächtnis: betrachten Sie SimpleQA-ähnliche Faktizitäts-Messungen sowie die Häufigkeit, mit der das Modell auf eine Antwort verzichtet.
- Für Ihren eigenen Anwendungsfall: Öffentliche Bewertungsergebnisse sind lediglich ein Ausgangspunkt – kein endgültiges Urteil. Erstellen Sie einen kleinen Testdatensatz mit 30 bis 50 realistischen Fragen aus Ihrem Fachgebiet, deren korrekte Antworten Ihnen bekannt sind, und bewerten Sie jede Modellantwort selbst. Ein Modell, das ein allgemeines Leaderboard anführt, kann dennoch bei Ihrer spezifischen Fachsprache halluzinieren.
Häufig gestellte Fragen (FAQ)
Was bedeutet es, wenn eine KI halluziniert?
Es bedeutet, dass die KI Informationen generiert hat, die falsch oder unbegründet sind, sie jedoch mit voller Sicherheit als Tatsache darstellt. Beispiele hierfür sind erfundene Statistiken, gefälschte Zitierungen oder Beschreibungen von Softwarefunktionen, die nicht existieren.
Warum halluzinieren Sprachmodelle?
Weil sie Vorhersagemodelle für das nächste Token sind – keine Faktendatenbanken. Sie generieren die plausibelste Fortsetzung eines Textes basierend auf Mustern aus ihren Trainingsdaten; sie suchen Fakten nicht aktiv ab und verfügen über keine eingebaute Wahrheitsprüfung. Wenn eine falsche Aussage die plausibelste Fortsetzung ist, erzeugt das Modell sie selbstsicher.
Können Halluzinationen vollständig eliminiert werden?
Nein. Sie können stark reduziert werden – durch Verankerung (RAG), sorgfältiges Prompting, Auswahl eines leistungsstarken Modells und Überprüfung –, aber nicht vollständig beseitigt werden, da Halluzinationen aus der grundlegenden Funktionsweise von Sprachmodellen resultieren. Der richtige Ansatz besteht darin, sie zu minimieren und anschließend alles Wichtige zu überprüfen.
Verhindert RAG Halluzinationen?
RAG reduziert sie erheblich, indem das Modell echte Quelldokumente zur Beantwortung erhält, anstatt sich auf sein Gedächtnis zu verlassen. Es ist die wirksamste einzelne Methode. Doch sie ist nicht perfekt – ein schlechter Abruf oder ein Modell, das seinen Kontext ignoriert, kann weiterhin Fehler produzieren.
Wie erkenne ich, ob eine KI-Antwort eine Halluzination ist?
Oft lässt sich dies allein an der Antwort nicht erkennen – Halluzinationen lesen sich genauso wie korrekte Antworten. Die einzige zuverlässige Methode ist die Überprüfung: Prüfen Sie konkrete Fakten, Zitate und Zahlen anhand primärer Quellen. Seien Sie besonders misstrauisch gegenüber präzisen Details sowie Nischen- oder aktuellen Themen.
Welche KI-Modelle halluzinieren am wenigsten?
Das hängt vollständig von der jeweiligen Aufgabe ab. Bei fundierter Zusammenfassung (Vectara-HHEM-Leaderboard) halten führende Modelle die Halluzinationsrate im unteren einstelligen Prozentbereich; die Spitzenmodelle von OpenAI, Google und Anthropic liegen dabei alle auf Augenhöhe. Bei der offenen faktischen Wissensabfrage aus dem Gedächtnis (SimpleQA) schneiden dieselben Modelle deutlich schlechter ab, da keine Quellendokumente vorhanden sind, an denen sie sich orientieren könnten. Prüfen Sie stets den Benchmark, der Ihrer konkreten Einsatzweise entspricht – und nicht bloß eine einzelne Schlagzeilen-Zahl.
Halluzinieren Rechenmodelle weniger als Standardmodelle?
Das hängt von der Aufgabe ab; die verbreitete Annahme, dass Modelle mit „Denkfunktion“ grundsätzlich sicherer seien, ist falsch. Bei fundierter Zusammenfassung halluzinieren Rechenmodelle oft mehr: Der zusätzliche Denkprozess führt dazu, dass sie Schlussfolgerungen und Verbindungen ziehen, die über die Quelle hinausgehen. So liegen mehrere aktuelle Rechenmodelle auf dem anspruchsvolleren Vectara-Leaderboard über 10 %, während leichtere, nicht-rechenorientierte Modelle im unteren einstelligen Prozentbereich liegen. Wo Rechenfähigkeit tatsächlich hilft, ist die offene Wissensabfrage aus dem Gedächtnis – doch selbst hier besteht der Gewinn vor allem in größerer Selbstreflexion statt in zusätzlichem Wissen: Das Modell erkennt seine Unsicherheit und verzichtet auf eine Antwort statt zu raten, wodurch die Zahl selbstsicherer Falschantworten sinkt. Zusätzliche Rechenkapazität kann jedoch keine Tatsache erschaffen, die das Modell nie gelernt hat. Die praktische Regel lautet daher: Favorisieren Sie Rechenmodelle für Analysen und Diagnosen, aber verlassen Sie sich nicht darauf, wenn es um treue Zusammenfassung oder Informationsentnahme geht.
Wie kann ich Halluzinationen in meinen eigenen Daten messen?
Erstellen Sie einen kleinen Evaluationsdatensatz. Sammeln Sie 30 bis 50 reale Fragen aus Ihrem Fachgebiet, deren korrekte Antworten Ihnen bereits bekannt sind, führen Sie jedes Kandidatenmodell darauf aus und klassifizieren Sie jede Antwort als korrekt, falsch oder als Verzicht. Erfassen Sie selbstsicher falsche Antworten separat, da diese besonders gefährlich sind. Falls Sie RAG verwenden, prüfen Sie zudem, ob jede Antwort tatsächlich durch den abgerufenen Text gestützt wird. Dieser hausgemachte Benchmark liefert Ihnen aussagekräftigere Informationen über Ihr konkretes Risiko als jeder öffentliche Leaderboard-Rangliste.
Fazit
Halluzination ist kein Bug, den ein Patch beheben könnte – sie ist eine direkte Folge der Funktionsweise von Sprachmodellen. Diese prognostizieren plausiblen Text; sie überprüfen keine Wahrheit. Deshalb erfinden auch die besten Modelle des Jahres 2026 gelegentlich mit absoluter Sicherheit.
Die praktische Reaktion besteht aus mehreren Schichten: Verankern Sie das Modell mit RAG, fordern Sie es explizit auf, Unsicherheit zuzugeben, stellen Sie ihm Quellmaterial direkt zur Verfügung, nutzen Sie ein leistungsstarkes Modell – und vor allem: Überprüfen Sie alles, was zählt. So eingesetzt, sind Sprachmodelle außerordentlich nützlich. Blindes Vertrauen macht sie hingegen zu einer Gefahr. Die eigentliche Kompetenz liegt darin, den Unterschied zu erkennen.
