Halluzinationen: Wann Sie einer KI nicht trauen dürfen
Eine KI antwortet nie mit „das weiss ich nicht genau" – jedenfalls viel zu selten. Stattdessen kommt eine flüssige, selbstbewusste Antwort. Meistens stimmt sie. Manchmal ist sie frei erfunden. Dieses Verhalten nennt man Halluzination, und es zu erkennen ist die wichtigste Fähigkeit im Umgang mit KI.
Was ist eine KI-Halluzination?
Eine Halluzination ist eine Antwort, die überzeugend klingt, aber sachlich falsch oder frei erfunden ist – etwa eine erfundene Quelle, eine falsche Zahl oder ein Gesetzesartikel, den es nicht gibt. Die KI lügt dabei nicht bewusst: Sie berechnet die wahrscheinlichste Fortsetzung eines Textes und hat keine eingebaute Vorstellung davon, was wahr ist.
Warum passiert das überhaupt?
Sprachmodelle sind darauf trainiert, plausibel weiterzuschreiben – nicht, die Wahrheit zu prüfen. Wenn zu einer Frage passende Muster fehlen, entsteht trotzdem eine flüssige Antwort, weil das Modell keinen Modus für „hier fehlen mir Informationen" hat. Fatal ist dabei nicht der Fehler selbst, sondern dass er sprachlich genauso souverän daherkommt wie eine korrekte Antwort. Es gibt kein Zögern, das Sie warnen würde.
Woran erkenne ich eine Halluzination?
Prüfen Sie besonders dort, wo eine Antwort überprüfbare Einzelheiten enthält: Zahlen, Daten, Namen, Zitate, Quellenangaben, Gesetzesartikel und Preise. Je konkreter und je weniger verbreitet eine Information ist, desto höher das Risiko – und desto wichtiger die Gegenprüfung.
Typische Warnsignale aus der Praxis:
- Eine Quelle wird genannt, aber der Link führt ins Leere oder existiert nicht.
- Sehr spezifische Zahlen ohne Angabe, woher sie stammen.
- Aussagen über sehr aktuelle Ereignisse – das Wissen der Modelle hat einen Stichtag.
- Regionale Details, etwa Schweizer Gesetze, Gebühren oder lokale Gegebenheiten.
- Die Antwort passt verdächtig genau zu dem, was Sie hören wollten.
Wie kann ich Halluzinationen verringern?
Ganz ausschliessen lässt es sich nicht, aber deutlich reduzieren:
- Material mitliefern. Fügen Sie den Text ein, um den es geht, statt aus dem Gedächtnis der KI zu schöpfen. Zusammenfassen ist deutlich zuverlässiger als Herbeiholen.
- Unsicherheit erlauben. „Sag mir ausdrücklich, wenn du es nicht sicher weisst" verändert die Antworten spürbar.
- Nach Quellen fragen – und diese anklicken. Eine Quellenangabe ist erst dann etwas wert, wenn Sie sie geprüft haben.
- Gegenprobe machen. Dieselbe Frage in einem zweiten Werkzeug stellen. Weichen die Antworten stark ab, ist Vorsicht angebracht.
Wo ist das Risiko besonders hoch?
Überall dort, wo eine falsche Antwort echten Schaden anrichtet: bei Gesundheit, Recht, Steuern, Finanzen und verbindlichen Auskünften an Kundschaft. Hier gehört KI in die Rolle des Entwurfs-Werkzeugs – die Verantwortung für das Ergebnis bleibt beim Menschen.
Umgekehrt ist das Risiko klein, wenn Sie Texte umformulieren, Ideen sammeln oder etwas erklärt bekommen, das Sie ohnehin einordnen können.
Heisst das, man kann KI nicht trauen?
Nein – es heisst, man muss sie richtig einsetzen. Wer weiss, wann eine Antwort überprüft gehört, arbeitet mit KI schnell und sicher. Wer alles ungeprüft übernimmt, produziert früher oder später einen peinlichen oder teuren Fehler. Genau diesen Unterschied üben wir in jeder Lektion: nicht nur, wie man ein Werkzeug bedient, sondern wann man ihm glauben darf.
Mehr Begriffe rund um KI erklärt unser KI-Lexikon. Wenn Sie das lieber persönlich üben: der KI-Grundkurs in Zug oder online.
Beitrag teilen
Kennen Sie jemanden, den das interessieren könnte? Teilen Sie den Beitrag gerne.
KI lieber persönlich lernen?
Im Einzelunterricht in Zug oder online üben wir genau das, was Sie brauchen – in Ihrem Tempo.
Wunschtermin anfragen