KI Halluzinationen: Wenn künstliche Intelligenz überzeugend falsche Antworten liefert
Künstliche Intelligenz kann heute Texte schreiben, Bilder erstellen, Daten analysieren, programmieren und komplexe Fragen beantworten. Die Qualität der Antworten ist in den letzten Jahren deutlich gestiegen. Dennoch haben alle modernen KI Modelle eine gemeinsame Schwäche: sogenannte KI Halluzinationen.
Von einer KI Halluzination spricht man, wenn eine künstliche Intelligenz Informationen erfindet und diese als Tatsachen präsentiert. Dabei können falsche Fakten, nicht existierende Quellen, erfundene Studien, fehlerhafte Zahlen oder falsche Zusammenhänge entstehen. Das Besondere daran: Die Antworten wirken oft sehr überzeugend und werden mit großer Sicherheit formuliert. Dadurch fällt vielen Nutzern gar nicht auf, dass die Informationen nicht stimmen.
Was ist eine KI Halluzination?
Eine KI Halluzination ist keine Halluzination im medizinischen Sinn. Der Begriff beschreibt Situationen, in denen ein KI Modell Inhalte erzeugt, die plausibel klingen, aber sachlich falsch oder frei erfunden sind.
Das kann zum Beispiel passieren, wenn die KI:
- eine Quelle zitiert, die gar nicht existiert
- eine Person mit einer anderen verwechselt
- falsche Zahlen nennt
- veraltete Informationen als aktuell ausgibt
- Gesetze oder Gerichtsurteile falsch wiedergibt
- Produkte oder Unternehmen verwechselt
Gerade weil die Antworten sprachlich überzeugend formuliert sind, werden Halluzinationen häufig erst bei einer genaueren Überprüfung erkannt.
Weiterlesen: Warum „lügt“ KI manchmal?
