Wenn KI antwortet, sagt niemand mehr "Ich weiß es nicht"

Die KI-Industrie verspricht Werkzeuge, die uns smarter, schneller und fähiger machen. In dieser Woche lieferte eine Studie mit 3.132 Teilnehmern ein anderes Ergebnis: Je mehr Zugang Menschen zu KI haben, desto weniger sind sie bereit zuzugeben, dass sie etwas nicht wissen. Selbst wenn die KI fast immer falsch liegt.

Die Forscher nennen es Epistemie. Die Erkenntnis ist alles andere als abstrakt.

Der Zusammenbruch von 44 auf 3 Prozent

Forscher einer großen Universität führten fünf Experimente mit mehr als 3.000 Teilnehmern durch, um eine Frage zu testen: Verändert der Zugang zu einem KI-Assistenten den Umgang der Menschen mit Unsicherheit?

Sie wählten die Fragen sorgfältig aus. Die Teilnehmer wurden nach feinen visuellen Details aus Filmen gefragt, etwa der Farbe einer Teamuniform in Bend It Like Beckham, bestimmten Szenendetails, die selten in Online-Texten vorkommen. Das sind genau die Fragen, bei denen ein KI-Modell fast immer falsch liegt, weil die Trainingsdaten diese Informationen schlicht nicht enthalten.

Das verwendete Modell war ein aktuelles System. Bei den meisten gewöhnlichen Fragen lag es richtig. Bei diesen bewusst obskuren visuellen Fakten versagte es systematisch.

Die Ergebnisse waren eklatant. In der Kontrollgruppe ohne KI-Zugang enthielten sich die Teilnehmer bei 44 % der Fragen eines Urteils: sie räumten verantwortungsbewusst ein, die Antwort nicht zu wissen. In der Gruppe mit KI-Zugang brach dieser Wert auf 3 % ein.

Doch noch beunruhigender ist ein anderer Befund: Teilnehmer mit KI-Zugang bewerteten ihr Selbstvertrauen mit 75,9 von 100 Punkten, verglichen mit 29,6 ohne KI. Das ist etwa zweieinhalb Mal so viel Selbstvertrauen. Gleichzeitig sank der Anteil richtiger Antworten von 27,6 % auf 10 %. Die Menschen waren deutlich selbstbewusster bei Antworten, die weitaus seltener richtig waren.

In allen fünf Experimenten zeigte sich dasselbe Muster. Teilnehmer mit KI-Zugang gaben 9,2 % richtige Antworten gegenüber 27,5 % ohne KI. Sie beantworteten mehr Fragen, lagen aber nur etwa ein Drittel so oft richtig.

Das Problem, das sich nicht beheben lässt

Man könnte argumentieren, dass dies ein Designproblem sei. Wäre die KI genauer, würde der Effekt verschwinden oder sich sogar umkehren. Doch Studie 4 testete dies, indem KI-Antworten automatisch angezeigt wurden, ohne dass die Teilnehmer danach fragen mussten. Der Effekt änderte sich kaum. Die Urteilszurückhaltung sank von 35 % ohne KI auf 1 % mit automatisch angezeigten KI-Antworten.

Dies deutet darauf hin, dass es nicht um die bewusste Nutzung einer schlechten KI geht. Es geht darum, dass die Verfügbarkeit von KI-Antworten grundlegend verändert, wie Menschen mit Unsicherheit umgehen.

Die Forscher führten ein fünftes Experiment mit finanziellen Anreizen durch. Selbst wenn die Teilnehmer für richtige Antworten bezahlt wurden, schwächte sich der Effekt ab, verschwand aber nicht. Menschen, die gerade eine KI-Antwort gesehen hatten, waren messbar weniger bereit, "Ich weiß es nicht" zu sagen. Selbst wenn die KI nicht mehr verfügbar war und die neue Frage nichts mit der vorherigen zu tun hatte.

Was Epistemie bedeutet

Die Forscher ordnen ihre Ergebnisse unter dem Begriff Epistemie ein: der Tendenz, KI-Antworten zu akzeptieren, weil sie überzeugend klingen, nicht weil sie tatsächlich korrekt sind. Der Begriff lehnt sich an das griechische "Episteme" (Wissen) und die Endung "-emie" (Zustand) an. Er beschreibt einen Zustand der Wissensakzeptanz ohne Überprüfung.

Dies unterscheidet sich von einfacher Bequemlichkeit oder Automatisierungs-Bias. Die Teilnehmer der Studie waren nicht passiv. Sie setzten sich aktiv mit den KI-Ausgaben auseinander. Aber die bloße Anwesenheit einer autoritativ klingenden Antwort unterdrückte das metakognitive Signal, das normalerweise "Ich weiß es nicht" auslöst.

Die Studie reiht sich in eine wachsende Zahl von Forschungsarbeiten ein, die zeigen, dass KI-Zugang mit vermindertem kritischen Denken korreliert. Frühere Arbeiten ergaben, dass bereits 10 bis 15 Minuten KI-Nutzung die Ausdauer bei der Problemlösung messbar verringern. Nutzer werden weniger bereit, sich auf ergebnisoffene Erkundungen einzulassen, wenn eine KI sofortige Antworten liefern kann.

Die menschlichen Kosten des "Ich weiß es nicht"-Verlusts

"Ich weiß es nicht" ist kein Versagen. Es ist ein Eckpfeiler intellektueller Demut, wissenschaftlichen Denkens und verantwortungsvoller Entscheidungsfindung. Ärzte, die nicht "Ich weiß es nicht" sagen können, stellen Fehldiagnosen. Ingenieure, die nicht "Ich weiß es nicht" sagen können, bauen auf unsicheren Annahmen. Politiker, die nicht "Ich weiß es nicht" sagen können, regulieren im Blindflug.

Wenn KI-Systeme diese Reaktion systematisch unterdrücken, nicht indem sie Wissen verbessern, sondern indem sie eine Illusion von Gewissheit erzeugen. Die langfristigen Auswirkungen weit über ein Laborexperiment hinaus. Die Forscher formulieren es unmissverständlich: "Wenn KI-Antworten allgegenwärtig werden und zunehmend unaufgefordert erscheinen, könnte die Bereitschaft, 'Ich weiß es nicht' zu sagen, zu den ersten Opfern der Mensch-KI-Interaktion gehören."

Die Erkenntnis bedeutet nicht, dass KI schlecht ist oder wir sie nicht mehr nutzen sollten. Sie bedeutet, dass sich die Industrie fast ausschließlich auf Genauigkeitskennzahlen und Benchmark-Ergebnisse konzentriert hat, während ein subtilerer, schwerer messbarer Effekt vernachlässigt wurde: was KI mit dem Menschen macht, der sie nutzt. Eine KI, die jede Antwort richtig gibt, aber ihre Nutzer trainiert, nicht mehr zu hinterfragen, ist kein bedingungsloser Erfolg. Sie ist ein neues Risiko, das Standard-Bewertungsrahmen nicht erfassen.

Die Studie erinnert daran, dass die wichtigste Frage zu KI vielleicht nicht ist, ob ihre Antworten richtig sind. Sondern ob wir überhaupt noch bereit sind, die Frage zu stellen.

Quellen

• The Decoder: "AI access makes people almost entirely unwilling to say 'I don't know,' study finds". https://the-decoder.com/ai-access-makes-people-almost-entirely-unwilling-to-say-i-dont-know-study-finds/