Werden Halluzinationen mit neueren Modellen verschwinden?

Sie werden seltener, aber nicht ganz verschwinden, weil sie in der Funktionsweise von Sprachmodellen begründet sind. Quellenangaben und menschliche Prüfung bleiben deshalb wichtig.

Halluziniert KI auch bei eigenen Dokumenten?

Deutlich seltener, aber es kann vorkommen, etwa wenn die passende Stelle nicht gefunden wird. Deshalb ist es wichtig, dass die KI die Quelle anzeigt und zugibt, wenn sie nichts findet.

Wer haftet für Fehler der KI?

Das Unternehmen, das den Text verwendet. Eine KI ist ein Werkzeug. Was an Kunden oder Behörden geht, sollte deshalb immer ein Mensch prüfen.

KI-Halluzinationen: erkennen und vermeiden

Warum halluziniert KI?

Ein Sprachmodell schreibt immer die wahrscheinlichste Fortsetzung eines Textes. Es hat keinen eingebauten Faktencheck und kein Gefühl dafür, wann es etwas nicht weiß. Fehlt ihm die Information, schreibt es trotzdem etwas, das plausibel klingt.

Besonders anfällig sind Fragen nach genauen Zahlen, Daten, Namen, Paragrafen, Literaturangaben und nach Dingen, die nach dem Trainingsstand des Modells passiert sind.

Woran Sie Halluzinationen erkennen

Sehr konkrete Details ohne Quelle: genaue Zahlen, Aktenzeichen, Zitate, Gesetzesstellen.
Antworten auf Fragen, die die KI eigentlich nicht wissen kann: interne Firmendaten, aktuelle Preise, lokale Besonderheiten.
Widersprüche: Wenn Sie dieselbe Frage neu stellen und eine andere Antwort bekommen, ist Vorsicht angebracht.
Zu glatte Antworten: Eine KI, die nie „das weiß ich nicht“ sagt, sollte man besonders genau prüfen.

So senken Sie das Risiko

1. Die KI mit Ihren Dokumenten arbeiten lassen

Der wirksamste Schritt: Die KI antwortet nicht aus dem Gedächtnis, sondern aus Ihren Unterlagen. Das Verfahren heißt RAG. Die Antwort stützt sich dann auf echte Textstellen, und die Quelle wird angezeigt.

2. Nach der Quelle fragen

Lassen Sie sich zeigen, woher eine Aussage stammt, und werfen Sie bei wichtigen Punkten einen Blick ins Original.

3. Erlauben, „weiß ich nicht“ zu sagen

Ein Satz im Prompt hilft: „Wenn die Information nicht im Dokument steht, sag das.“ Mehr zu guten Anweisungen unter Was ist ein Prompt?

4. Die richtigen Aufgaben wählen

Umformulieren, Zusammenfassen, Übersetzen und Gliedern sind wenig anfällig, weil der Inhalt vorgegeben ist. Faktenfragen ohne Unterlagen sind riskant.

5. Mensch prüft, bevor etwas rausgeht

Was an Kunden, Behörden oder Gerichte geht, liest vorher ein Mensch. Das ist auch eine gute Regel für Ihre KI-Richtlinie.

Was heißt das für Ihr Unternehmen?

Halluzinationen sind kein Grund, auf KI zu verzichten, aber ein Grund für klare Regeln.
Eine KI, die aus Ihren eigenen Dokumenten antwortet und die Quelle nennt, ist im Betrieb deutlich verlässlicher als ein allgemeiner Chatbot.
Mitarbeitende sollten wissen, wofür KI gut ist und wo sie nachprüfen müssen. Das verlangt inzwischen auch der EU AI Act.

AIrak beantwortet Fragen aus Ihren eigenen Dokumenten und zeigt dazu die Quelle an. So sehen Sie sofort, worauf sich eine Antwort stützt. Mehr zu AIrak

Wenn KI Dinge erfindet.