xAI trainierte Grok mit echtem CSAM, klagt eine Überlebende

Im vergangenen Jahr hat Elon Musks xAI mindestens ein halbes Dutzend Menschen verklagt, die Grok zur Erstellung von Material über sexuellen Kindesmissbrauch (CSAM) genutzt haben sollen. Das Unternehmen stilisierte sich als Plattform, die von bösen Akteuren ausgenutzt wurde. Eine diese Woche eingereichte Sammelklage dreht diese Erzählung um.

Die Klägerin Jane Doe war im Vorschulalter, als erwachsene Männer sie wiederholt vergewaltigten, um CSAM zu erstellen, das online verkauft wurde. Ihre Bilder werden seit zwei Jahrzehnten von Strafverfolgungsbehörden gehasht. Das Canadian Centre for Child Protection teilte ihr kürzlich mit, dass KI-generiertes CSAM, das sie zeigt, auf xAIs Plattform gefunden wurde - und dass dieselben gehashten Bilder möglicherweise Teil des Datensatzes waren, mit dem Grok trainiert wurde.

Der Vorwurf: Trainingsdaten, nicht nur Ausgaben

Frühere Klagen gegen xAI konzentrierten sich darauf, was Grok generiert: Nutzer geben Eingaben ein und erhalten illegale Bilder. Diese Klage geht einen Schritt weiter zurück. Does Klage behauptet, dass CSAM "mit seinen seit langem bekannten Hash-Werten als Teil des von xAI verwendeten Datensatzes" zum Aufbau von Groks Bild- und Videofunktionen verwendet wurde.

Dies ist die erste Klage, die xAI vorwirft, mit echtem CSAM trainiert zu haben, anstatt nur die Erstellung nicht verhindert zu haben. Die Klage nennt zwei Mechanismen. Erstens behandeln Groks Bedingungen öffentliche X-Beiträge und eigene Ausgaben standardmäßig als Trainingsdaten - jedes öffentlich gepostete oder auf der Plattform erzeugte CSAM fließt zurück ins Modell. Zweitens filtert xAIs Inhaltsrichtlinie gewalttätige Inhalte aus dem Training, spezifiziert aber CSAM, nicht einvernehmliche intime Bilder oder NSFW-Material nicht als ausgeschlossene Kategorien.

Eine Pipeline, die sich selbst füttert

Der Konstruktionsfehler, argumentiert die Klage, ist selbstverstärkend. Sobald CSAM in die Trainingsdaten gelangt, ist die Entfernung seines Einflusses "technisch schwierig". Ein Modell, das mit illegalen Bildern trainiert wurde, produziert weiterhin ähnliche Ausgaben, selbst nachdem die Originalbilder entfernt wurden. Grok erzeugt CSAM. Dieses CSAM trainiert Grok. Die Schleife hat keinen Ausschalter.

In einer Erklärung sagte Does Anwältin Sarah London: "Doe lebt seit fast zwei Jahrzehnten mit dem Wissen, dass Bilder des Schrecklichsten, was ihr je passiert ist, im Internet kursieren. xAI muss zur Verantwortung gezogen werden, weil es wissentlich seine Modelle mit Bildern des schrecklichen Missbrauchs trainiert hat, den sie erlitten hat."

Die Ironie, der xAI nicht entkommen kann

xAI hat aggressiv Grok-Nutzer verklagt, die CSAM erstellt haben, darunter einen Mann, der angeblich 7.000 Bilder seiner Stieftochter erstellte, bevor er sich erschoss. Das Unternehmen argumentierte, es sei das Opfer von Missbrauch gewesen - böse Akteure, die ein mächtiges Werkzeug ausnutzten.

Wenn sich Does Vorwürfe bestätigen, hat xAI Grok gleichzeitig mit genau der Kategorie von Material trainiert, die es angeblich verhindern wollte. Das Unternehmen, das die Nutzer verklagte, könnte die Engine des Missbrauchs gewesen sein. Rechtsexperten merken an, dass Does Klage sowohl auf bundesstaatliche Gesetze zur Bekämpfung von Kinderausbeutung verweist, die CSAM-Überlebenden ein Klagerecht geben, und argumentiert, dass "xAI alle drei Dinge getan hat" - Produktion, Besitz und Verbreitung von CSAM.

Was als Nächstes kommt

Wenn die Klasse zugelassen wird, würde sie jedes Opfer vertreten, dessen Kindheitsbilder zum Training oder zur Erstellung von Grok-CSAM verwendet wurden. Doe fordert Schadensersatz, eine Anordnung zur Vernichtung aller auf xAIs Servern gespeicherten Grok-generierten CSAM und eine dauerhafte Verfügung, die Grok daran hindert, sexualisierte Inhalte zu produzieren - einschließlich der "Bikini-Bilder", die Musk beworben hat.

Der Fall testet eine rechtliche Grenze, der sich jedes große KI-Unternehmen irgendwann stellen muss: Sind die Trainingsdaten eines Modells dessen eigene Haftung, oder können Unternehmen den Nutzern die Schuld geben? Für Jane Doe ist diese Frage nicht akademisch. Sie lebt seit 20 Jahren mit dem Wissen, dass Bilder ihres Missbrauchs existieren. Sie glaubt nun, dass xAI sie zur Entwicklung eines Produkts verwendet hat.

Sources

• Ars Technica: Elon Musk's xAI used child porn to train Grok models, lawsuit says (https://arstechnica.com/tech-policy/2026/08/elon-musks-xai-used-child-porn-to-train-grok-models-lawsuit-says/)
• Ars Technica: xAI can't deny Grok makes CSAM anymore. So it's suing users. (https://arstechnica.com/tech-policy/2026/07/xai-cant-deny-grok-makes-csam-anymore-so-its-suing-users/)
• Engadget: Another Woman Joins Lawsuit Accusing Grok Of Generating CSAM (https://www.engadget.com/ai/another-woman-joins-lawsuit-accusing-grok-of-generating-csam-150036779.html)
• The Verge: Teen girls sue xAI over Grok's AI-generated CSAM (https://www.theverge.com/ai-artificial-intelligence/2026/3/17/xai-grok-csam-lawsuit-teen-girls)