Halluzination nennt man es, wenn ein KI-Modell etwas behauptet, das nicht stimmt, und dabei genauso überzeugt klingt wie bei einer richtigen Antwort. Das kann eine erfundene Zahl sein, eine Quelle, die es nicht gibt, ein falsch abgeschriebener Betrag oder eine Tatsache, die in den Unterlagen gar nicht vorkommt. Der Begriff ist bildhaft: Das Modell „sieht“ etwas, das nicht da ist.
Halluzinationen sind kein seltener Ausrutscher, sondern eine Folge davon, wie Large Language Models funktionieren. Wer KI im Marketing für Reports, Texte oder Analysen einsetzt, muss sie deshalb einplanen, so wie man Tippfehler in einem Entwurf einplant. Der wichtigste Merksatz dazu: Überzeugt heißt nicht richtig.
Warum KI-Modelle halluzinieren
Ein Sprachmodell wie Gemini, ChatGPT oder Claude hat beim Training Milliarden Texte gelesen und gelernt, welches Wort typischerweise als Nächstes kommt. Beim Antworten schreibt es Wort für Wort und wählt jedes Mal eine wahrscheinliche Fortsetzung aus. Ob die Fortsetzung wahr ist, prüft es dabei nicht. Daraus ergeben sich vier Ursachen für Halluzinationen.
1. Wahrscheinlich ist nicht wahr. Lautet ein Satzanfang „Die Kampagne startet am …“, ist „Montag“ eine sehr wahrscheinliche Fortsetzung, auch wenn die Kampagne an einem Mittwoch startet. Fehlt dem Modell die Information, füllt es die Lücke mit dem Plausibelsten. Genau das ist eine Halluzination.
2. Das Modell weiß nur, was auf dem Schreibtisch liegt. Was ein Modell beim Training gelernt hat, ist Allgemeinwissen mit einem Stand von früher. Firmeninterne Zahlen, aktuelle Kampagnendaten oder der Inhalt deines Postfachs kennt es nur, wenn du sie ihm im Moment der Anfrage gibst: als Text, als angehängte Datei oder über eine Verbindung zu Mail und Dokumenten. Fehlt diese Unterlage, antwortet es trotzdem. Verfahren wie Retrieval-Augmented Generation (RAG) setzen genau hier an, indem sie passende Dokumente automatisch mitliefern.
3. Zahlen sind für das Modell Textschnipsel. Sprachmodelle zerlegen Text in sogenannte Tokens. Auch eine Zahl wie „2.527,09 €“ wird in mehrere Einzelteile zerlegt. Ob der Punkt ein Tausendertrenner ist oder ein Dezimalzeichen, muss das Modell aus dem Zusammenhang erraten. Rechnungen werden nicht ausgeführt, sondern ihre Ergebnisse geschätzt. Deshalb sind Zahlen die häufigste Fehlerquelle in KI-gestützten Reports.
4. Jede Antwort wird neu gewürfelt. In die Auswahl der nächsten Wörter ist bewusst Zufall eingebaut. Dieselbe Frage zu denselben Daten kann deshalb verschiedene Antworten ergeben, die alle plausibel klingen, aber nicht alle dasselbe sagen.
Beispiele aus dem Marketing-Reporting
Die folgenden Fälle stammen aus unseren eigenen Testläufen für einen Praxis-Workshop mit Gemini in Google Workspace. Alle Daten waren erfundene Übungsdaten. Die Fehler sind echt.
- Falsch übernommene Zahl: Beim Zusammenführen zweier Werbeexporte stand für einen Tag 229.252 € statt 2.527,09 € in der Tabelle. Der Fehler ist um den Faktor 90 daneben und fällt trotzdem erst auf, wenn man nachsieht.
- Ein Cent und eine Rundung: Bei einer Datenprüfung nannte Gemini eine Summe von 60.578,60 €. In der Tabelle stand 60.578,61 €. Auf einer Folie schrieb es ungefragt 60.579 €.
- Erfundene Tatsache: In einem Antwortvorschlag auf einen Kundenkommentar behauptete das Modell, ein Angebot gelte auch an einem bestimmten Ort. Davon stand nichts in den Daten.
- Weggelassene Wahrheit: Auf dieselbe Frage zu denselben Zahlen lautete die Kernaussage einmal „Plan erfüllt“ und einmal „TikTok mit −14,8 % deutlich unter Plan“. Die erste Antwort ist keine erfundene Zahl, aber sie verschweigt das Wichtigste. Auch das gehört zur Familie der Halluzinationen: eine plausible Aussage, die nicht zur Datenlage passt.
Alle sechs Fehler aus diesen Tests und wie man sie abfängt, haben wir im Beitrag Gemini macht Fehler. So findest du sie ausführlich beschrieben.
Wie du Halluzinationen reduzierst
Ganz verhindern lassen sich Halluzinationen nicht. Seltener und leichter erkennbar werden sie mit diesen Regeln:
Gute Unterlagen rein. Gib dem Modell die Quellen, auf die es sich stützen soll, und sag ausdrücklich, dass es nur diese verwenden darf. Für ein neues Thema einen neuen Chat beginnen, damit alte Inhalte nicht in die Antwort rutschen.
Format vorgeben. Zahlenformat, Rundung, Spalten, Länge: Was nicht in der Anweisung steht, entscheidet das Modell. Ein Satz wie „Zahlen exakt wie in der Tabelle, nicht runden“ verhindert eine ganze Fehlerklasse. Mehr zum Formulieren guter Anweisungen unter Prompt Engineering.
Nach Belegen fragen. Verlange zu jeder Aussage die Fundstelle: Datei, Zeile, Absender, Datum. Was das Modell nicht belegen kann, ist verdächtig. Umgekehrt ist das eine Stärke: Gemini findet Lücken und Widersprüche in Unterlagen gut, wenn du danach fragst.
Rechnen lassen, wo gerechnet wird. Summen, Abweichungen und Bewertungen gehören in Formeln oder Skripte. Das Sprachmodell liest, sortiert und formuliert. Die Tabelle rechnet. Dann stimmt jede Zahl, und das Modell muss sie nur noch zitieren.
Feste Felder statt freier Text. Ein Kommentar mit festen Feldern (Kernaussage, Auffälligkeiten, Beleg) und einer Regel wie „jeder Kanal mit mehr als 10 % Abweichung wird genannt“ lässt dem Zufall weniger Raum als „Schreib einen Kommentar“.
Entwurf, nicht Freigabe. Was die KI schreibt, ist ein Entwurf. Zahlen, Namen, Daten und Zusagen werden vor der Weitergabe gegen die Quelle gelesen, von einem Menschen.
Halluzination und KI-Suche
Halluzinationen betreffen nicht nur interne Reports. Auch KI-Suchsysteme wie Googles AI Overviews, ChatGPT oder Perplexity können Aussagen über Unternehmen machen, die nicht stimmen: falsche Standorte, veraltete Preise, Leistungen, die es nicht gibt. Je weniger eindeutige, gut auffindbare Informationen es über ein Unternehmen gibt, desto mehr muss das Modell raten. Klare Fakten auf der eigenen Website, strukturierte Daten und konsistente Angaben in Verzeichnissen verringern dieses Risiko. Das ist ein Teil dessen, was wir unter LLM-Optimierung verstehen.
Halluzination im Arbeitsalltag mit Think11
Wir setzen KI täglich in der eigenen Arbeit ein, für Analysen, Reports und Texte, und wir zeigen Teams in Praxis-Workshops im Rahmen unserer KI-Beratung, wie sie damit arbeiten, ohne sich auf jede Zahl blind verlassen zu müssen. Fester Bestandteil jeder Übung ist, die Fehler des Modells zu finden. Wer einmal selbst gesehen hat, wie souverän ein Modell eine falsche Zahl präsentiert, prüft danach anders.