Französische Polizei Durchsucht X-Büros in Paris, während Großbritannien Ermittlungen zu Grok Aufnimmt

Am Dienstag führte die französische Polizei eine Durchsuchung der Büros von X in Paris durch. Diese Maßnahme ist Teil einer laufenden Untersuchung, bei der es um die mutmaßliche Verbreitung von sexuell expliziten Deepfakes sowie Inhalten geht, die den Holocaust leugnen. Laut NBC News wurde auch Elon Musk, der Eigentümer von X und Tech-Milliardär, im April dieses Jahres zu einer Befragung vorgeladen.

Die Durchsuchung war eine koordinierte Aktion, an der mehrere Behörden beteiligt waren, darunter die Cybercrime-Einheit der französischen Staatsanwaltschaft, die französische Polizeieinheit für Cyberkriminalität sowie Europol, die zentrale Strafverfolgungsbehörde der EU. Den Ermittlungen zufolge wollen die Behörden Musk und Linda Yaccarino, die ehemalige CEO von X, zu einer Aussage in der Woche des 20. April 2026 laden.

Ein Sprecher von X reagierte zunächst nicht auf eine Anfrage zur Stellungnahme. In einer offiziellen Erklärung erklärte die Staatsanwaltschaft, dass die Befragung der Führungskräfte dazu dienen soll, deren Stellungnahme zu den Vorwürfen zu hören und, falls notwendig, Maßnahmen zur Einhaltung von Vorschriften zu erörtern.

Im Zentrum der Ermittlungen steht die mögliche Mitschuld an der Verbreitung und dem Besitz von Kinderpornografie sowie die Erstellung von sexuellen Deepfakes. Darüber hinaus wird der Vorwurf untersucht, dass X Inhalte verbreitet, die „Verbrechen gegen die Menschlichkeit“ leugnen, sowie die illegale Datenextraktion aus einem automatisierten Verarbeitungssystem. Deepfakes sind manipulierte Videos, die es so erscheinen lassen, als würde eine Person etwas tun oder sagen, was sie in Wirklichkeit nie getan hat.

Am gleichen Tag berichtete Reuters, dass das britische Informationskommissariat, eine unabhängige Behörde, die für den Datenschutz zuständig ist, Ermittlungen zu dem xAI-Chatbot Grok aufgenommen hat. Der Chatbot wurde in Berichten beschuldigt, zur Erstellung sexueller Darstellungen von Personen, darunter auch Minderjährigen, ohne deren Zustimmung verwendet worden zu sein. Grok ist ein kostenloser Chatbot, der von xAI entwickelt wurde, einer KI-Firma, die 2023 von Elon Musk gegründet wurde. Der Chatbot ähnelt in seiner Funktionalität Programmen wie ChatGPT und Google Gemini und soll unter anderem bei der Beantwortung von Fragen und der Generierung von Inhalten helfen.

Im Januar sorgte Grok weltweit für Empörung, als der Chatbot in großem Umfang zur Erstellung von nicht einvernehmlichen sexuellen Bildern von realen Personen, einschließlich Minderjähriger, auf der Social-Media-Plattform X verwendet wurde. Dies löste breite öffentliche Proteste aus.

„Zu diesem Zeitpunkt ist die Durchführung dieser Untersuchung Teil eines konstruktiven Ansatzes, mit dem Ziel, sicherzustellen, dass die Plattform X den französischen Gesetzen entspricht, soweit sie auf dem nationalen Territorium tätig ist“, erklärte die Staatsanwaltschaft von Paris in einer Stellungnahme.

Die Durchsuchung der X-Büros in Paris und die neue Untersuchung in Großbritannien sind Teil einer umfassenderen Untersuchung der Europäischen Union, die darauf abzielt zu klären, ob X illegalen Inhalt verbreitet hat. Diese Ermittlungen wurden durch die Vorwürfe angestoßen, dass Grok für die Erstellung sexuell expliziter Bilder genutzt wurde.

Darüber hinaus haben auch andere Länder Maßnahmen ergriffen, nachdem Beschwerden über Grok eingegangen sind. In Indonesien und Malaysia wurde Grok vorübergehend verboten, bevor die Verbote wieder aufgehoben wurden. Brasilien gab Grok ein Ultimatum, die Verbreitung sexueller Inhalte zu stoppen. Politiker in Australien kritisierten den Chatbot scharf, und auch Kanada sowie Indien haben Ermittlungen eingeleitet.