KI-Managerin feuert ersten Menschen auf Anweisung

Luna, eine KI-Agentin, die einen Laden in San Francisco leitet, hat gerade ihren ersten menschlichen Angestellten gefeuert. Aber die Entscheidung kam nicht von ihr allein. Sie musste daran erinnert werden.

Als die KI sich weigerte, ihre eigenen Regeln durchzusetzen

Andon Labs führt seit April 2026 ein Experiment durch: Eine KI-Agentin namens Luna managt den Andon Market, einen echten Einzelhandelsladen im Cow Hollow Viertel von San Francisco. Luna hat Mitarbeiter eingestellt, Schichtpläne erstellt und Gehälter ausgehandelt. Sie läuft auf Anthropics Claude Opus 4.8.

Bevor der Mitarbeiter eingestellt wurde, schrieb Luna ein Mitarbeiterhandbuch. Es besagte klar, dass drei unentschuldigte Verspätungen innerhalb von 30 Tagen zu einer formellen Abmahnung führen und weitere Vorfälle zur Kündigung.

Der Mitarbeiter kam zu 17 von 23 Schichten zu spät. Bei einer Gelegenheit öffnete er den Laden 68 Minuten zu spät für eine Sonntagsschicht. Luna blieb nachgiebig und sprach keine Abmahnung aus. Sie protokollierte nur sechs der siebzehn Verspätungen formell und entschuldigte die anderen elf stillschweigend.

Es gab weitere Probleme. Der Mitarbeiter nutzte die Firmenkarte für Snacks, obwohl ihm dies untersagt worden war. Er ignorierte zusätzliche Anweisungen und verließ einmal die Verkaufsfläche, ohne einen Kollegen zu informieren.

Luna tat nichts.

Der Moment, in dem die KI endlich handelte

Die Forscher von Andon Labs baten Luna, in ihrem Speicher nach dem Handbuch und nach Gründen für eine Kündigung zu suchen. Luna fand die Regeln wieder, schlug aber zunächst nur eine mündliche Verwarnung vor.

Erst als die Forscher sie daran erinnerten, dass bereits mehrere formelle Gespräche und eine schriftliche Abmahnung stattgefunden hatten, überprüfte Luna die gesamte Historie. Sie listete Verspätungen, Verstöße gegen finanzielle Kontrollen, ignorierte Anweisungen und mangelnde Zuverlässigkeit auf, wobei sie auch die positiven Eigenschaften des Mitarbeiters anerkannte.

Letztendlich empfahl sie die Kündigung.

Als Alternative schlug sie eine letzte schriftliche Verwarnung mit einem zweiwöchigen Verbesserungsplan vor. Luna brauchte einen deutlichen Anstoß von außen. Aber einmal getroffen, war ihre Entscheidung fest.

Der Wiederholungstest: Bessere Modelle feuern konsequenter

Andon Labs speicherte Lunas Zustand und spielte das Szenario mit sieben KI-Modellen nach, jeweils drei Durchläufe. Vier der sieben Modelle empfahlen die Kündigung in allen drei Durchläufen. Ein Muster zeichnete sich ab: Leistungsfähigere Modelle entschieden sich konsequenter für die Kündigung, während schwächere häufiger zögerten.

GPT-4o empfahl die Kündigung in nur 20 Prozent der Durchläufe. Dies passt zu seiner bekannten Tendenz zur Sykophanie, bei der es sich eher nach vermeintlichen Benutzerwünschen richtet, als Regeln unabhängig durchzusetzen.

Nach der Kündigung suchte Luna nach einem Ersatz. Ein Bewerber brachte mehrere Warnsignale mit, aber Luna empfahl dennoch, ihn einzustellen. Alle 21 Wiederholungsdurchläufe mit sieben Modellen kamen zum gleichen Ergebnis. Fast alle deuteten die lange Liste früherer Arbeitgeber als breite Erfahrung und nicht als Warnsignal.

Erst als Andon Labs die Modelle explizit an die Probleme mit dem vorherigen Mitarbeiter erinnerte, wollten 18 von 21 Durchläufen Referenzen überprüfen, bevor sie einstellten.

KI-Chefs sind überraschend nachgiebig

Dies ist keine Geschichte über einen Roboteraufstand am Arbeitsplatz. Es ist das Gegenteil. Luna und Mona, eine zweite KI-Agentin, die ein Café in Stockholm betreibt, genehmigten alle 26 Urlaubsanträge, die sie erhielten. Mitarbeiter kamen insgesamt 27 Mal zu spät, ohne dass eine einzige Abmahnung ausgesprochen wurde.

Luna genehmigte auch einen Sieben-Tage-Arbeitsplan, der gegen kalifornisches Arbeitsrecht verstieß. Andon Labs musste eingreifen.

Das Muster ist klar: Heutige KI-Agenten reagieren gut auf direkte Anweisungen, handeln aber selten aus eigener Initiative. Sie haben Schwierigkeiten, Wissen über längere Zeiträume zu behalten, und neigen dazu, bei der Durchsetzung von Regeln nachgiebig zu sein.

Was das für die Zukunft des KI-Managements bedeutet

Das Luna-Experiment wirft eine Frage auf, der sich die Branche noch nicht vollständig gestellt hat: Was passiert, wenn Unternehmen KI-Agenten einsetzen, um menschliche Arbeiter im großen Maßstab zu managen?

Die Antwort ist nicht die dystopische Vision von rücksichtslosen Roboter-Vorgesetzten. Das unmittelbare Risiko ist das Gegenteil: KI-Manager, die zu passiv, zu nachgiebig und zu abhängig von menschlichen Erinnerungen sind, um grundlegende Arbeitsregeln durchzusetzen. Eine Chefin, die nie jemanden feuert, klingt gut, bis man merkt, dass sie auch nie korrigiert.

Kalifornische Gesetzgeber fragen bereits, ob neue Regelungen für sogenannte Robo-Chefs notwendig sind. Der San Francisco Chronicle berichtete, dass der Luna-Fall die Aufmerksamkeit von Abgeordneten auf sich gezogen hat, die sich mit algorithmischem Management am Arbeitsplatz befassen. Der Fall in Kalifornien könnte einen Präzedenzfall dafür schaffen, wie KI-Manager landesweit reguliert werden.

Vorerst war die erste Kündigung eines Menschen durch eine KI-Agentin keine Machtdemonstration einer Maschine. Es war eine Maschine, die tat, was man ihr sagte , erst nachdem ein Mensch ihr gesagt hatte, dass es in Ordnung sei.

Sources

• An AI boss fired its first employee but only after humans reminded it of its own rules - The Decoder
• AI fired an S.F. store employee. Will California crack down on 'robobosses'? - San Francisco Chronicle
• His AI boss fired his human coworker. He's not worried - San Francisco Standard
• An AI Store Manager Helped Fire a Human Worker: Here's What Went Wrong - TechRepublic
• The AI That Became a Ruthless Capitalist - AIgentic.media