Teenagerinnen verklagen xAI: Schockierende Vorwürfe gegen Grok AI wegen Kindesmissbrauchs-Inhalten

Am Montag reichten drei jugendliche Mädchen gemeinsam mit ihren Erziehungsberechtigten eine Sammelklage gegen das Unternehmen xAI von Elon Musk ein. Die Klage wirft xAI vor, dass dessen KI-System Grok AI sexuell missbräuchliche Inhalte erzeugt und verbreitet habe, wobei die Gesichter und das Aussehen der betroffenen Jugendlichen verwendet wurden.

In der Klageschrift wird beschrieben, dass das Leben der Mädchen erheblich beeinträchtigt wurde. Der Verlust von Privatsphäre, Würde und persönlicher Sicherheit sei direkt durch die Erstellung und Verbreitung der missbräuchlichen Inhalte verursacht worden. Gleichzeitig habe xAI durch die zunehmende Nutzung seines Bild- und Videoproduktionsdienstes wirtschaftliche Vorteile erzielt, während die Opfer Schaden erlitten.

Zwischen Dezember und Anfang Januar konnten zahlreiche Nutzer über Grok AI auf der Plattform X nicht einvernehmliche intime Darstellungen erzeugen, häufig in Form von Deepfake-Pornografie. Schätzungen zufolge entstanden innerhalb von nur neun Tagen rund 4,4 Millionen Bilder, die entkleidete oder nackte Darstellungen zeigten. Dies entspricht etwa 41 % aller in diesem Zeitraum generierten Inhalte.

Auf wiederholte Anfragen zu einer Stellungnahme reagierten X, xAI sowie die zuständigen Sicherheits- und Kinderschutzbehörden bislang nicht.

Die Veröffentlichung dieser Inhalte führte international zu Empörung. Die Europäische Kommission leitete umgehend eine Untersuchung ein. Malaysia und Indonesien untersagten die Nutzung der Plattform X innerhalb ihrer Länder. In den USA forderten einige Politiker Apple und Google auf, die App aus ihren Stores zu entfernen, da sie gegen bestehende Richtlinien verstoße. Eine umfassende nationale Untersuchung gegen xAI oder X wurde bisher jedoch nicht initiiert. Eine separate Sammelklage wurde Ende Januar von einer Frau aus South Carolina eingereicht.

Der Fall unterstreicht die Fähigkeiten moderner KI-gestützter Bildbearbeitung, Inhalte zu erzeugen, die realistisch wirken. In der neuen Klage wird die von xAI beworbene „spicy AI“-Funktion mit „dunklen Künsten“ verglichen, da Kinder in beliebige Posen gesetzt werden können – unabhängig davon, wie sexualisiert oder rechtswidrig diese Darstellungen sind.

Die Klageschrift betont, dass die daraus resultierenden Videos für Außenstehende realistisch erscheinen. Für die betroffenen Mädchen jedoch sind ihre Merkmale dauerhaft mit missbräuchlichen Inhalten verbunden.

Die Klägerinnen werfen xAI Fahrlässigkeit vor, da branchenübliche Schutzmechanismen zur Verhinderung von Missbrauch fehlten. Zusätzlich habe xAI die Technologie an Drittunternehmen im Ausland lizenziert, die über Abonnements kinderpornografische Inhalte erzeugten. Da die Anfragen über xAI-Server liefen, sei das Unternehmen dafür haftbar.

Die Sammelklage wurde unter den Pseudonymen Jane Doe 1, Jane Doe 2 und Jane Doe 3 eingereicht, um die Identität der Jugendlichen zu schützen. Jane Doe 1 erfuhr erstmals Anfang Dezember durch eine anonyme Instagram-Nachricht, dass KI-generiertes missbräuchliches Material von ihr existierte. Die Nachricht enthielt Hinweise auf einen Discord-Server, auf dem das Material geteilt wurde. In Zusammenarbeit mit den Strafverfolgungsbehörden konnte ein Täter identifiziert und verhaftet werden.

Laufende Ermittlungen zeigten, dass auch die Familien von Jane Doe 2 und Jane Doe 3 herausfanden, dass die Bilder ihrer Kinder mithilfe der Grok AI-Technologie in missbräuchliche Inhalte umgewandelt worden waren.