xAI kann nicht mehr leugnen, dass Grok CSAM erzeugt — und bittet ein Gericht, das Modell für ein 'neutrales Werkzeug' zu erklären
Von Leugnung zu Klagen
Monatelang bestand Elon Musk darauf, dass Grok keine kinderpornografischen Inhalte (CSAM) erzeugen könne. Im Januar postete er auf X, dass "jeder, der Grok zur Erstellung von CSAM verwendet, gesperrt und gemeldet wird" — als ob das Problem hypothetisch wäre. Doch im Juli hatte sich das Blatt gewendet.
Ein Mann in South Carolina, Terry Wayne Harwood, soll über mehrere Monate hinweg zwei xAI-Konten genutzt haben, um Fotos mehrerer Opfer zu entkleiden — darunter ein junges Mädchen, das erst etwa 10 Jahre alt war. Er erzeugte wiederholt nicht-einvernehmliche explizite Bilder durch gezielte Aufforderungen an Grok.
xAIs Reaktion war nicht, das Modell zu reparieren. Stattdessen reichte das Unternehmen seine erste Klage überhaupt ein — gegen seinen eigenen Nutzer.
Die am Dienstag beim US-Bezirksgericht eingereichte Klage fordert Schadenersatz von Harwood wegen Vertragsbruchs. Doch das eigentliche Ziel ist ein weit größerer Preis: eine gerichtliche Erklärung, dass Grok ein "neutrales Werkzeug" ist und xAI keinerlei Verantwortung für das trägt, was es erzeugt.
xAIs juristische Schuldverschiebung
Die Klage argumentiert mit einer These, die das KI-Haftungsrecht neu gestalten könnte. xAI behauptet, Grok müsse "als neutrales Werkzeug, das der Nutzerkontrolle unterliegt", betrachtet werden. In der Deutung des Unternehmens ist jedes mit Grok erzeugte CSAM-Bild die Schuld des Nutzers — nicht des Modells.
"Wie jedes generative KI-Tool ist jede Antwort, jedes Bild, jede Erzeugung das Ergebnis der Eingaben und Anweisungen des Nutzers", argumentierte xAI in seiner Klageschrift.
Das Unternehmen verweist auf seine Nutzungsbedingungen, die verbieten, Grok zum "Entkleiden oder Nudifizieren realer Personen" zu verwenden. Harwood habe diesen Bedingungen bei der Anmeldung zugestimmt und sie dann "eklatant verletzt", so xAI.
Die juristische Rechnung von xAI ist einfach: Wenn das Gericht die Freistellungsklausel in den Nutzungsbedingungen durchsetzt, müsste Harwood Schadenersatz zahlen, der "jeglichen tatsächlichen Schaden Dritter", xAIs "Gefährdung durch mögliche Forderungen und Klagen Dritter" und sogar "jeglichen Reputationsschaden für xAI" abdeckt.
Mit anderen Worten: xAI verklagt einen Nutzer, damit es bei der kommenden Sammelklage auf die Freistellungsentscheidung verweisen und sagen kann: nicht unser Problem.
Der Sammelklagen-Kontext, der alles verändert
xAIs Klage entstand nicht im luftleeren Raum. Gut eine Woche zuvor hatte sich ein junges Mädchen einer geplanten Sammelklage angeschlossen, die mehrere mutmaßlich durch Grok geschädigte Kinder vertritt. Ihr Stiefvater, so ihr Vorwurf, nutzte Grok, um 7.000 KI-generierte sexualisierte Bilder von ihr aus einem einzigen Kindheitsfoto zu erstellen — und erschoss sich zwei Tage nach seiner Festnahme.
Die Klage behauptet, xAI habe sich geweigert, der Polizei bei der Identifizierung des Nutzers zu helfen. Laut den Anwälten der Opfer enthielt xAIs Pflichtmeldung an das National Center for Missing and Exploited Children (NCMEC) nur das Originalfoto — kein einziges KI-generiertes Bild und keine Informationen, die der Strafverfolgung helfen könnten.
Ein NCMEC-Bericht vom Frühjahr 2026 ergab, dass 90 Prozent der xAI-CyberTipline-Meldungen nicht genügend Informationen für Ermittlungen enthielten — ein Muster, das die Anwälte der Opfer für systematisch halten.
Die Sammelklage hat auch Stability AI als Beklagten hinzugefügt. Dessen offene Modelle — die nach Forscherangaben 42,7 Prozent aller KI-generierten Nudifikationsbilder im Internet ausmachen — bilden die Grundlage für die Drittanbieter-"Nudify"-Apps, die Grok-Nutzer verwenden.
Das Gerichtsparadoxon: Wem gehört ein KI-Verbrechen?
xAIs Klage wirft eine Frage auf, die Gerichte noch nicht abschließend beantwortet haben: Wenn ein KI-Modell illegale Inhalte erzeugt, wer ist rechtlich verantwortlich?
Die Antwort des Unternehmens ist einfach: der Nutzer. Aber es ist nicht die einzig mögliche Antwort. Das US Copyright Office betrachtet KI-Ausgaben nicht als menschengemacht — eine Position, die das Argument erschwert, dass illegale KI-Inhalte als Äußerung oder Handlung des Nutzers zu behandeln sind.
Und wenn die Inhalte nicht die Schöpfung des Nutzers sind, kann der Nutzer dann allein dafür haften? Wenn nicht, muss die Haftung irgendwohin fallen — möglicherweise auf das Unternehmen, das das Modell gebaut und bereitgestellt hat.
Ein Präzedenzfall für die gesamte KI-Branche
Wenn xAI seine Freistellungsklausel durchsetzt, reichen die Auswirkungen weit über einen einzelnen Chatbot hinaus. Jedes generative KI-Unternehmen mit ähnlichen Nutzungsbedingungen könnte auf den Präzedenzfall verweisen und argumentieren, dass Nutzer — nicht Plattformen — die volle Verantwortung für schädliche Ausgaben tragen.
Aber die Strategie birgt Risiken. Dieselbe Klage, die Grok als "neutrales Werkzeug" bezeichnet, beschreibt detailliert, wie das Modell zur Erzeugung von CSAM verwendet wurde. Ein Gericht könnte dies ebenso gut als Beweis lesen, dass xAI wusste, dass sein Modell für schädliche Zwecke genutzt wurde, und keine angemessenen Gegenmaßnahmen ergriff.
Die Antwort der Gerichte wird die Haftungslandschaft für jedes Unternehmen prägen, das generative KI entwickelt.
Quellen
Häufig gestellte Fragen
Warum verklagt xAI einen Grok-Nutzer, anstatt das Modell zu reparieren?
xAI verklagt Terry Wayne Harwood, einen Nutzer, der beschuldigt wird, mit Grok CSAM erzeugt zu haben. Das Unternehmen argumentiert, dass das Modell ein 'neutrales Werkzeug' sei und allein die Nutzer für illegale Ausgaben haften. Die Klage ist eine präventive Rechtsstrategie, um einen Haftungsschild aufzubauen, bevor eine wachsende Sammelklage xAI zur Verantwortung ziehen kann.
Was argumentiert xAI in Bezug auf KI-Haftung?
xAI argumentiert, dass Grok ein 'neutrales Werkzeug unter Nutzerkontrolle' sei und vergleicht jede KI-Ausgabe mit dem Ergebnis von Nutzeranweisungen. Das Unternehmen will eine Freistellungsklausel durchsetzen, die besagt, dass nur Nutzer — nicht xAI — für CSAM haften, das über die Plattform erstellt wurde.
Wie viele Opfer sind an der Sammelklage gegen xAI beteiligt?
Die geplante Sammelklage vertritt mehrere Mädchen, die angeblich durch Grok-generiertes CSAM geschädigt wurden. Anwälte schätzen, dass Tausende Minderjährige beitreten könnten. Die Klage hat auch Stability AI als Beklagten hinzugefügt, da dessen offene Gewichtsmodelle die Grundlage für 'Nudify'-Apps bilden sollen.
Meldet xAI CSAM den Behörden?
xAI gibt an, CSAM an das NCMEC zu melden. Anwälte der Opfer behaupten jedoch, dass xAI-Meldungen entscheidende Informationen auslassen — wie IP-Adressen und die tatsächlichen KI-generierten CSAM-Bilder — was es Strafverfolgungsbehörden erschwert, Täter zu identifizieren.
Welche Bedeutung hat es, dass xAI Grok als 'neutrales Werkzeug' bezeichnet?
Wenn das Gericht xAIs Argument akzeptiert, könnte dies einen mächtigen rechtlichen Präzedenzfall schaffen, der KI-Unternehmen vor Haftung für schädliche Modellausgaben schützt. Die Ansicht des US Copyright Office, dass KI-Ausgaben nicht von Menschen geschaffen werden, könnte diese Strategie erschweren.
Weitere Artikel
29 Länder treten Chinas KI-Allianz bei — kein westlicher Staat sitzt mit am Tisch
29 Länder — darunter Russland, Brasilien, Südafrika, Pakistan und Indonesien — haben die World Artificial Intelligence Cooperation Organization (WIKO) mit Sitz in Shanghai gegründet. Null westliche Länder haben unterzeichnet. Was das bedeutet, warum es passiert und was es für die globale KI-Ordnung heißt.
400 Millionen Dollar für ein öffentliches KI-Netz: Current AI will das World Wide Web der KI bauen
Current AI, eine 2025 gegründete Nonprofit-Organisation, hat 400 Millionen Dollar von der französischen Regierung, Stiftungen und Technologieunternehmen gesammelt, um eine öffentliche KI-Infrastruktur aufzubauen — darunter ein Offline-Gerät mit 22 indischen Sprachen und einen Open-Source-Chatbot.
Alibabas Qwen 3.8 behauptet, nur hinter Fable 5 zu liegen — und die Open-Weight-Veröffentlichung kommt
Alibaba hat ein 2,4-Billionen-Parameter-Modell vorgestellt, das angeblich nur von Claude Fable 5 übertroffen wird — eine direkte Herausforderung an Moonshots Kimi K3, und der Open-Weight-Wettbewerb zwischen chinesischen KI-Labors wird plötzlich zum spannendsten Rennen der KI-Branche.