Der „KI“-Chatbot, der nur ein Mensch war

Es gibt einen neuen KI-Anbieter in der Stadt. Nur steht KI hier für „Kreatives Individuum.“

Eine Werbetafel, die sich über eine Straße in San Francisco erhebt, bewirbt einen Dienst namens ChatTJB. Die riesige Anzeige rühmt sich mit der „führenden Chatbot-Schnittstelle, betrieben von KI.“ Zwischen Startup-Werbetafeln und Tech-Bushaltestellen wirkt sie wie jeder andere Silicon-Valley-Launch. Doch ein kleiner Hinweis am unteren Rand — teilweise von einem Baum verdeckt — erklärt, dass KI hier nicht für Künstliche Intelligenz steht. Es steht für „Kreatives Individuum.“

Wenn Sie mit ChatTJB chatten, chatten Sie mit genau einem Menschen: einem Mann namens Tucker Bryant.

Das schlechteste Sprachmodell aller Zeiten

„Ich habe gerade das schlechteste große Sprachmodell aller Zeiten gebaut, und es wird alles revolutionieren,“ erklärte Bryant, ein Künstler und ehemaliger Google-Mitarbeiter, in einem Social-Media-Video. „Stellen Sie sich ChatGPT vor, aber am anderen Ende bin nur ich, der schlechte Ratschläge gibt. Von Hand.“

Das Projekt, das zuerst von der lokalen San-Francisco-Publikation Gazetteer SF berichtet wurde, wird auf seiner Website als „handwerkliche Intelligenz, handgefertigt von einem einzelnen Menschen“ beschrieben. Anstatt Antworten durch ein LLM zu jagen, bietet ChatTJB das, was die Seite ein „einzelbetreiberbasiertes Großspracherlebnis“ nennt.

„Anstatt aus einem probabilistischen Modell zu sampeln, wird jede Anfrage durch ein proprietäres biologisches Denksubstrat gelöst, das vollständig interpretierbare, nicht-synthetische und an der Quelle verantwortliche Antworten liefert,“ erklärt die Website in perfektem Marketing-Jargon. „In der Praxis: Sie stellen eine Frage, und eine Person namens Tucker liest sie, denkt darüber nach und schreibt zurück, wenn sie wach und motiviert ist.“

Die todernste Darbietung ist der Punkt. Bryant verpackt seine Kritik in die exakte Sprache des KI-Marketings — „proprietäres biologisches Denksubstrat“ ist ein Witz, der nur verfängt, wenn man schon zu viele Pressemitteilungen über „proprietäre neuronale Architekturen“ gelesen hat.

Kognitive Kapitulation in freier Wildbahn

Bryants Motivation führt auf ein Konzept namens „Cognitive Surrender“ (kognitive Kapitulation) zurück, geprägt in einer Studie von Forschern der Wharton Business School der University of Pennsylvania. Der Begriff beschreibt die Tendenz von Chatbot-Nutzern, ihr kritisches Denken an KI auszulagern. Sie folgen selbstbewusst gegebenen Ratschlagen von Chatbots, selbst wenn diese nachweislich falsch sind.

„Wir sind inzwischen so sehr daran gewöhnt, selbstbewusste, schnelle und klug klingende Antworten von KI zu bekommen, dass wir aufgehört haben, sie zu hinterfragen,“ sagte Bryant. „Einige von uns sind so weit gegangen, dass in dem Moment, in dem wir in diese beruhigende dunkle Oberfläche eintauchen, die kleine Denkanimation sehen und den Text Buchstabe für Buchstabe erscheinen sehen, die Fähigkeit zum kritischen Denken aus dem Fenster fliegt.“

Die Wharton-Studie ergab, dass diese Kapitulation auf allen Qualifikationsstufen stattfindet. Selbst Fachexperten vertrauen der selbstbewusst falschen Antwort einer KI mehr als ihrem eigenen Wissen. Je geschmeidiger die Oberfläche, desto stärker der Effekt.

ChatTJB ist als Gegenmittel konzipiert. Bryant fügt dem Erlebnis bewusst Reibung hinzu — absichtlich, systematisch und indem er „unendlich schlechter“ ist als jede echte KI.

„Meine Antworten werden langsam sein. Sie werden wahrscheinlich nicht korrekt sein, oder vielleicht könnten sie es sein, aber sie werden sehr kryptisch sein,“ sagte Bryant. „Sie werden eine schlechte Erfahrung mit ChatTJB machen.“

Handgezeichnet und handgetippt

Die Satire erstreckt sich über Text hinaus. Wenn Nutzer Bilder anfordern, antwortet ChatTJB mit handgezeichneten Bildern — echten Stift-auf-Papier-Skizzen. Der Dienst akzeptiert auch ein Pro-Abo, um Bryant bei der Bezahlung der Werbetafel zu helfen, wobei ein Hinweis klarstellt, dass das Projekt „eine Satire und ein öffentliches Kunstprojekt“ ist, keine echte Investitionsmöglichkeit.

In getippten Antworten ist bekannt dafür, dass Bryant Steuerfragen mit Haikus über Krähen beantwortet. Der Punkt ist nicht der Nutzen. Der Punkt ist, dass das Format — die Chat-Oberfläche, die Tippanimation, das polierte Selbstvertrauen jeder Antwort — so viel Überzeugungskraft trägt, dass selbst eine bewusst schlechte Erfahrung Menschen zum Innehalten bringen kann.

„Ich möchte, dass Sie eine so unbequeme Erfahrung mit etwas machen, das ästhetisch wie künstliche Intelligenz aussieht, dass Sie beim nächsten Mal, wenn ein LLM vernünftig klingt, sich daran erinnern, als ChatTJB Ihre Steuerfrage mit einem Haiku über Krähen beantwortet hat,“ sagte Bryant. „Und Sie werden ein winziges bisschen wahrscheinlicher innehalten und sich daran erinnern, dass eine geschmeidig plaudernde KI Antworten mit Schliff geben kann, Ihnen das aber keine Ausrede gibt, nicht nachzudenken.“

Was ein Ein-Mann-Chatbot enthüllt

Das ChatTJB-Projekt funktioniert als Satire, weil es kaum von einem echten KI-Produkt zu unterscheiden ist. Die Werbetafel in San Francisco, die polierte Website, der selbstbewusste Marketing-Text — allein diese Signifikanten reichten aus, um es glaubwürdig erscheinen zu lassen. Jemand musste das Kleingedruckte lesen, um den Witz zu entdecken.

Das ist der tiefere Punkt. Wenn ein Chatbot, der buchstäblich ein Typ mit einem Laptop und einem Skizzenblock ist, als KI durchgehen kann, dann ist die Grenze zwischen künstlicher Intelligenz und vorgeführter Intelligenz dünner, als die meisten Menschen glauben. Die visuelle Sprache der Tech-Branche — das dunkle UI, der streamende Text, die „Denken“-Animation — ist zu einer Abkürzung geworden, die Skepsis umgeht.

„Die nächste Evolution der künstlichen Intelligenz,“ fügte Bryant hinzu, „ist die menschliche Absurdität.“

Quellen

• Futurism: New AI Chatbot Turns Out to Be One Overworked Guy Answering All the Messages by Hand
• Gazetteer SF: The new AI billboard locals actually like
• Ars Technica: „Cognitive Surrender“ leads AI users to abandon logical thinking
• Forbes: We Trust AI Over Our Own Brains, Research Finds
• University of Pennsylvania Wharton School: Cognitive Surrender research on AI chatbot users