Halluzination

Definition

In der KI bezeichnet Halluzination Fälle, in denen ein Modell zwar flüssige, aber sachlich falsche oder unsinnige Ergebnisse liefert. Besonders häufig kommt dies bei großen Sprachmodellen und generativer KI vor.

Zweck

Die Untersuchung von Halluzinationen trägt zur Verbesserung der Modellzuverlässigkeit und -sicherheit bei. Entwickler können so Sicherheitsvorkehrungen treffen, um ungenaue Ergebnisse zu erkennen und zu reduzieren.

Bedeutung

• Wenn dieses Problem nicht angegangen wird, verringert sich das Vertrauen in KI.
• Kann in sensiblen Anwendungen wie dem Gesundheitswesen oder der Rechtswissenschaft Schaden anrichten.
• Hebt die Einschränkungen aktueller generativer Modelle hervor.
• Treibt die Forschung zu Methoden der Faktenbegründung und -abfrage voran.

Funktionsweise

1. Das Modell empfängt eine Eingabeaufforderung oder Abfrage.
2. Generiert Ausgaben basierend auf erlernten Mustern, nicht auf Faktenüberprüfung.
3. Kann zu plausibel klingenden, aber falschen Ergebnissen führen.
4. Es werden Erkennungs- und Korrekturtechniken angewendet (z. B. RAG).

Beispiele (Reale Welt)

• ChatGPT gibt gelegentlich falsche Fakten aus, wenn es dazu aufgefordert wird.
• Die erste Demo von Google Bard zeigte sachliche Fehler.
• Von KI generierte medizinische Ratschläge enthalten manchmal Ungenauigkeiten.

Referenzen / Weiterführende Literatur

• „Reduzierung von Halluzinationen in großen Sprachmodellen“ – arXiv-Vorabdruck.
• NIST-Rahmenwerk für KI-Risikomanagement.
• Mitchell et al. „Modellkarten für Modellberichte.“ ACM FAccT.
• Ursachen von KI-Halluzinationen