Halluzination

Was erzählt ChatGPT eigentlich über euch?

Wir prüfen, was KI-Dienste über dein Unternehmen ausgeben — und sorgen dafür, dass die Angaben eindeutig genug sind, dass nichts geraten werden muss.

Eine Halluzination ist eine Ausgabe eines KI-Sprachmodells, die überzeugend formuliert, aber sachlich falsch oder frei erfunden ist — eine erfundene Quelle, eine falsche Jahreszahl, ein Gesetz, das es nicht gibt. Sie ist kein Ausfall, sondern eine Folge der Funktionsweise: Das Modell berechnet wahrscheinliche Fortsetzungen und hat keinen Begriff davon, ob eine Aussage zutrifft.

Kurz zusammengefasst:

• Systembedingt, nicht behebbar durch bessere Bedienung.
• Besonders tückisch: Der falsche Teil klingt genauso sicher wie der richtige.
• Häufig betroffen: Zahlen, Quellen, Zitate, Paragrafen, Termine.
• RAG senkt die Häufigkeit, beseitigt sie aber nicht.
• Für Websites doppelt relevant: bei eigenen Texten und bei dem, was KI über einen erzählt.

Warum sie entsteht

Ein Sprachmodell schlägt nichts nach. Es erzeugt Text Stück für Stück, indem es jeweils die wahrscheinlichste Fortsetzung berechnet. Für häufig vorkommende, gut belegte Zusammenhänge führt das zu richtigen Ergebnissen. Bei seltenen, sehr spezifischen oder neuen Sachverhalten führt es zu etwas, das aussieht wie die richtige Antwort.

Ein Modell, das nach einer Fundstelle gefragt wird, kennt das Muster einer Fundstelle — Aktenzeichen, Gericht, Datum. Es erzeugt also eine, die richtig aussieht. Ob es sie gibt, ist keine Frage, die es beantworten kann.

Deshalb gibt es auch kein „ehrlicheres“ Modell. Das Fehlen einer Unsicherheitsangabe ist Teil der Bauart, nicht ein Mangel an Höflichkeit.

Wo sie besonders häufig auftritt

Die vorletzte Zeile ist im Agenturalltag besonders relevant: Ein Modell erklärt bereitwillig, wie eine Einstellung in einem Plugin vorzunehmen sei — und die Einstellung existiert nicht.

Was hilft

1. Quellen mitgeben. Wer das Modell auf einem konkreten Text arbeiten lässt, statt aus dem Gedächtnis erzeugen zu lassen, reduziert das Risiko erheblich.
2. Nach Belegen fragen — und sie prüfen. Nicht, ob eine Quelle genannt wird, sondern ob sie existiert und das aussagt, was behauptet wird.
3. Nachprüfbares immer verifizieren. Zahlen, Daten, Paragrafen, Namen.
4. Unsicherheit einfordern. Die Aufforderung, Unklares zu kennzeichnen statt zu raten, hilft messbar — sie garantiert aber nichts.
5. Nicht für Faktenrecherche einsetzen, wo Genauigkeit zählt. Für Formulierung, Struktur und Zusammenfassung ist ein Modell stark; als Nachschlagewerk ist es das falsche Werkzeug.

Die andere Richtung: was KI über dich sagt

Der Punkt, der Unternehmen unmittelbar betrifft: Halluzinationen treffen auch Angaben über den eigenen Betrieb. Ein Chatbot kann falsche Öffnungszeiten nennen, Leistungen erfinden, die nie angeboten wurden, oder ein Unternehmen mit einem ähnlich benannten verwechseln.

Die Ursache ist meist dieselbe: Es gibt zu wenige eindeutige, gut auffindbare Angaben — also rät das Modell. Dagegen hilft nichts anderes als Eindeutigkeit:

• Kernangaben — was wird angeboten, für wen, wo, seit wann — klar und an einer Stelle.
• Einheitliche Angaben über Website, Unternehmensprofil und Verzeichnisse hinweg.
• Strukturierte Auszeichnung der Eckdaten, damit sie maschinell eindeutig sind.
• Datierte Angaben, damit Veraltetes als solches erkennbar ist.

Es lohnt, gelegentlich selbst zu prüfen: die gängigen Chatdienste nach dem eigenen Unternehmen fragen und nachsehen, was sie behaupten. Die Ergebnisse sind regelmäßig überraschend.

Häufige Fragen

Warum erfindet eine KI Dinge?

Weil sie wahrscheinliche Fortsetzungen erzeugt und nicht in einer Datenbank nachschlägt. Bei seltenen oder sehr speziellen Sachverhalten entsteht etwas, das aussieht wie die richtige Antwort.

Lässt sich das abstellen?

Nicht vollständig. Es ist eine Folge der Funktionsweise. Reduzieren lässt es sich, indem echte Quellen mitgegeben werden und Ausgaben geprüft werden.

Woran erkenne ich eine Halluzination?

Oft gar nicht am Text — er klingt wie der Rest. Verdächtig sind sehr konkrete Angaben ohne Beleg: exakte Prozentwerte, Aktenzeichen, Studien mit Jahreszahl. Solche Angaben gehören immer geprüft.

Sind neuere Modelle zuverlässiger?

Die Häufigkeit ist gesunken, das Grundproblem bleibt. Und ein selteneres Auftreten ist zweischneidig: Wer weniger Fehler erwartet, prüft weniger sorgfältig.

Was tun, wenn ein Chatbot Falsches über mein Unternehmen sagt?

Prüfen, ob die richtigen Angaben im Netz eindeutig auffindbar sind — auf der Website, im Unternehmensprofil, in Verzeichnissen, einheitlich und strukturiert ausgezeichnet. Falsche Auskünfte entstehen meist aus fehlender Eindeutigkeit. Manche Anbieter bieten zusätzlich Meldewege an.

Kann ich KI für die Recherche nutzen?

Als Einstieg ja, als Quelle nein. Sie hilft, ein Thema zu strukturieren und Suchrichtungen zu finden. Belegt werden muss anschließend aus überprüfbaren Quellen.