KI-Halluzination

Warum KI-Systeme halluzinieren

Ein LLM schlägt nicht nach, sondern erzeugt Text, der wahrscheinlich passt. Laut einer Veröffentlichung von OpenAI aus dem September 2025 belohnen übliche Trainings- und Bewertungsverfahren das Raten stärker als das Eingeständnis von Unsicherheit. Besonders anfällig sind Einzelfakten ohne erkennbares Muster, die im Trainingsmaterial selten vorkommen.

Genau das trifft auf die meisten Unternehmen zu. Die Adresse eines Mittelständlers, seine Preise oder sein Leistungsumfang stehen nur auf wenigen Seiten im Web. Fehlen sie oder widersprechen sich die Quellen, füllt das Modell die Lücke mit einer plausiblen Vermutung.

Systeme mit Websuche verringern das Risiko, weil sie aktuelle Seiten einbeziehen, siehe RAG. Sie übernehmen dann aber auch veraltete oder falsche Angaben aus diesen Seiten.

Typische Halluzinationen über Unternehmen

Halluzinationen über das eigene Unternehmen erkennen

• Direkt fragen

  ChatGPT, Gemini, Perplexity und den KI-Modus fragen, was sie über das Unternehmen wissen, und die Antworten mit den echten Angaben vergleichen.
• Wie Kunden fragen

  Fragen ohne Firmennamen stellen, etwa nach Anbietern einer Leistung in der Region. Auch dort werden falsche Angaben sichtbar.
• Quellen öffnen

  Die verlinkten Quellen zeigen oft, woher eine falsche Angabe stammt.
• Regelmäßig wiederholen

  Antworten schwanken. Erst ein festes Set von Fragen über mehrere Wochen zeigt, ob ein Fehler dauerhaft ist. Das Vorgehen heißt Prompt-Tracking.

Ob KI-Systeme ein Unternehmen korrekt beschreiben, prüft auch der kostenlose KI-Sichtbarkeits-Check.

Was Unternehmen tun können

Eine Taste, mit der man eine Antwort von ChatGPT oder Gemini dauerhaft korrigiert, gibt es nicht. Die meisten Anwendungen haben an jeder Antwort eine Feedback-Funktion, das ersetzt aber keine Arbeit an den Quellen.

• Fakten an einer Stelle klar festhalten

  Eine Über-uns-Seite mit Name, Rechtsform, Standorten, Leistungen und Gründungsjahr in ganzen Sätzen, dazu passendes Schema Markup.
• Widersprüche beseitigen

  Branchenverzeichnisse, Profile und alte Seiten auf dieselben Angaben bringen. Veraltete Seiten aktualisieren oder weiterleiten.
• Abgrenzen

  Bei Namensvettern ausdrücklich nennen, wo das Unternehmen sitzt und was es nicht ist.
• Zugang sicherstellen

  Die Such-Crawler der KI-Anbieter dürfen die Website abrufen, sonst stützt sich die Antwort auf fremde Quellen. Mehr dazu unter KI-Crawler.
• Knowledge Panel pflegen

  Falls vorhanden, das Knowledge Panel beanspruchen und falsche Angaben korrigieren lassen.

Beispiel: Die Leistung, die es nie gab

Ein Personaldienstleister für Pflegekräfte bekommt Anrufe von Kliniken, die nach Einsätzen in der Schweiz fragen. Das Unternehmen vermittelt nur in Deutschland. Die Anrufer berufen sich auf ChatGPT.

Die Spur führt zu einer alten Stellenanzeige für ein Projekt in Basel, die noch indexiert ist, und zu einem Branchenverzeichnis, das die Schweiz als Einsatzgebiet führt. Die eigene Leistungsseite nennt kein Einsatzgebiet.

Die Lösung: Die Stellenanzeige wird entfernt und weitergeleitet, der Verzeichniseintrag korrigiert, und die Leistungsseite sagt in einem Satz, in welchen Bundesländern vermittelt wird und in welchen Ländern nicht. Bei den folgenden Abfragen verschwindet die Schweiz aus den Antworten, zuerst in Systemen mit Websuche.

Vereinfachtes Beispiel. Es zeigt ein typisches Muster und beschreibt keinen einzelnen Kunden.

Häufige Fragen zu KI-Halluzinationen