Künstliche Intelligenz hat die unangenehme Angewohnheit, uns hin und wieder anzulügen. Das macht sie in einer so überzeugenden Art und Weise, dass wir es kaum merken. Aber warum passiert das, und wie gehen wir damit um?
Was ist eine Halluzination?
Okay, künstliche Intelligenz lügt natürlich nicht wirklich, denn sie weiss im Grunde gar nicht, wie das geht. In der IT spricht man daher von einer «Halluzination». Das kommt der Sache schon näher, denn auch wir Menschen verlieren schliesslich mal den Faden beim sprechen.
Eine KI, bzw. Ein LLM (Large Language Model) macht im Kern tatsächlich nicht viel mehr als das jeweils nächste, wahrscheinlichste Wort vorherzusagen, basierend auf den Eingaben und dem Kontext, den wir ihr mit jedem Prompt mitgeben. Dabei können Fehler entstehen. Sei es, weil die Trainingsdaten gewisse Vorurteile bereits eingebaut hatten, oder weil bei der Feinjustierung etwas schiefgelaufen ist. So kann es passieren, dass aus einem harmlosen Disney-Märchen schnell ein Stephen-King-Roman wird.
Nicht blind vertrauen
Das Problem ist nicht, dass das System falsch liegt. Das Problem ist, dass es unglaublich überzeugend falsch liegt. Eine Art Dunning Kruger Effekt.
Bis anhin sagen KI-Modelle nur sehr selten, dass sie etwas nicht wissen oder sich gerade unsicher sind. Meistens funktioniert das auch nur, wenn du sie explizit dazu aufforderst. Die KI wird mit einer solchen Bestimmtheit antworten, dass wir den Fehler womöglich gar nicht erkennen und die Aussage einfach glauben. Was sich anfühlt wie eine harmlose Ungenauigkeit, kann aber den Unterschied zwischen Wahrheit und Manipulation ausmachen.
Das gilt übrigens auch für scheinbar einfache Fragen. Etwa wie viele «E» im Wort «Erdbeere» stecken, brachte KI-Modelle lange Zeit ins Straucheln. (Quelle: welt.de)
Auch bei meinem eigenen KI-Projekt habe ich gelernt, dass KI voller Überzeugung lügen kann. So hat Dex die Resultate einer Internetsuche lediglich imitiert. Die Ergebnisse sowie die Links zu den Quellen waren frei erfunden.
Reale Risiken / Gefahren
Zwischendurch mal etwas Falsches zu sagen ist das eine. Im falschen Kontext kann eine Halluzination aber reale Konsequenzen haben.
Stellt eine KI im Gesundheitsbereich selbstständig Diagnosen und interpretiert dabei etwas falsch, können Mehrkosten und auch unnötige Panik beim Patienten entstehen. Und selbst vermeintlich harmlose Chatbots, die im Kundensupport angewendet werden, können Schaden anrichten: Ein Kundenservice-Bot von Air Canada versprach fälschlicherweise eine Kostenrückerstattung, die es eigentlich nicht gab. Die Fluggesellschaft musste sie trotzdem bezahlen. (Quelle: CBC)
Dazu kommt das Problem der Fehlinformation. KI erfindet manchmal Fakten zu aktuellen Ereignissen, die sich, wenn sie ungeprüft (oder mit Absicht) weiterverbreitet werden, schnell zu Fake News entwickeln. Das Spektrum reicht von simplen Falschaussagen bis zu täuschend echten Deepfakes.
Immer schön kritisch bleiben
Das Paradoxe an der heutigen Zeit ist, dass alles neu und vermeintlich besser ist, uralte Regeln aber nach wie vor ihren Wert haben. Kritisches Denken ist keine neue Erfindung. Auch im Zeitalter moderner Medien tut man gut daran, eine zweite Perspektive einzuholen. Bei KI gilt dasselbe.
In dem Zusammenhang wird besonders bei betrieblichen Prozessen gern vom «Human in the Loop», also dem Menschen im Prozess, gesprochen. Wer etwas automatisiert, muss sich bewusst sein, dass auch eine KI nicht immer akkurat ist. KI ist jemand, der schneller für dich googlet. Aber denken und entscheiden, ob das Ergebnis stimmt, musst du nach wie vor selbst.
Der entscheidende Unterschied zu einem menschlichen Fehler: Du weisst oft nicht, welche Art von Irrtum die KI produziert. Ein Mensch irrt sich vielleicht bei einer Zahl. Eine KI kann mit voller Überzeugung einen Namen, ein Datum oder einen ganzen Sachverhalt erfinden, und du merkst es nicht.
Lösungsansätze
Cross Check
Die naheliegendste Massnahme ist nicht einfach die erste Antwort zu akzeptieren. Genau wie bei einer Internetrecherche lohnt es sich, Aussagen einer KI mit einer zweiten Quelle zu vergleichen. Das kann ein anderes Modell sein, eine selbst gegoogelte Fachwebseite oder der gesunde Menschenverstand. Wer bei wichtigen Entscheidungen auf eine einzige Quelle vertraut, geht ein unnötiges Risiko ein, egal ob Mensch oder Maschine dahintersteckt.
Rollen-Zuweisung
Eine unterschätzte Technik: der KI eine klare Rolle geben. Statt zu fragen «Was sind die Nebenwirkungen von Ibuprofen?», formulierst du: «Du bist ein kritischer Medizinjournalist. Prüfe folgende Aussage auf ihre Richtigkeit.» Das bringt das Modell in einen anderen Modus und reduziert die Wahrscheinlichkeit, dass es dir einfach die naheliegendste Antwort liefert. Du kannst es auch direkt anweisen: «Sag mir, wenn du dir bei etwas nicht sicher bist.»
Bewusste Grenzen setzen
Wer KI in automatisierten Prozessen einsetzt, sollte klare Grenzen definieren, sowohl technisch als auch inhaltlich. Das Modell darf keine Diagnosen stellen, sondern nur weiterleiten. Es darf keine Versprechungen gegenüber Kunden machen. Es bekommt keinen Zugang zu Daten, die für die jeweilige Aufgabe irrelevant sind. Solche Leitplanken schützen nicht nur vor Halluzinationen, sondern auch vor Datenlecks: Je weniger eine KI weiss, desto weniger kann sie versehentlich weitergeben.
Was das zeigt
Künstliche Intelligenz ist ein mächtiges Werkzeug, aber kein unfehlbares. Die Technologie entwickelt sich schnell weiter, und Halluzinationen werden mit der Zeit seltener. Doch das ändert nichts an der Grundregel: Wer kritisch denkt, fährt besser. Der «Human in the Loop» ist keine lästige Bremse, sondern eine notwendige Absicherung, solange wir Maschinen noch nicht so weit vertrauen können, dass sie zugeben, wenn sie sich irren.