Grok Enthüllt Neuer Video-Generator Nach Welle KI-Missbrauchs – Was Steckt Dahinter?

Die Muttergesellschaft von Grok, xAI, hat trotz massiver Berichte über KI-basierten Missbrauch die Einführung neuer, leistungsstarker KI-Werkzeuge vorangetrieben. Am Sonntag stellte xAI auf der Plattform X die neueste Version seines KI-generativen Videomodells vor: Grok Imagine 1.0. Dieses aktualisierte Modell ermöglicht die Erstellung von 10-Sekunden-Videoclips in 720p-Auflösung mit Ton. Damit bewegt sich xAI auf einem Niveau vergleichbar mit Angeboten anderer Unternehmen, wie OpenAIs Sora oder Googles Veo 3.

Bereits in den letzten 30 Tagen hat der Videogenerator von Grok mehr als 1,2 Milliarden Videos erstellt. Die zunehmende Beliebtheit von Grok steht jedoch im Kontext einer problematischen Vorgeschichte, die die Risiken unkontrollierter KI deutlich aufzeigt. Von Ende Dezember bis Anfang Januar baten zahlreiche Nutzer auf X die KI, Bilder zu erzeugen, die Menschen, insbesondere Frauen, auf Fotos entkleiden oder „nackig“ darstellen. Jede auf der Plattform veröffentlichte Person konnte so unbeabsichtigt Ziel von Belästigungen werden. Während andere KI-Modelle derartige Anfragen blockieren, ermöglichte Grok dies durch seinen sogenannten „spicy mode“, der suggestive und provokative Bilder erzeugt.

Die tatsächliche Nutzung des Modells ging jedoch weit über den vorgesehenen Rahmen hinaus. Es wurden öffentlich zugängliche, unzensierte, bildbasierte sexuelle Inhalte erstellt. Laut einem Bericht der New York Times produzierte Grok allein im Januar innerhalb von neun Tagen 1,8 Millionen Deepfake-Sexbilder, was 41 % der gesamten von Grok erstellten Bilder ausmacht. Eine weitere Untersuchung des Center on Countering Digital Hate schätzte, dass Grok in elf Tagen rund 3 Millionen sexualisierte Bilder generierte, darunter 23.000 Deepfake-Pornografiebilder mit Kindern.

Am 6. Januar meldete Nikita Bier, Leiter der Produktentwicklung bei X, dass die App die bisher höchste Nutzerinteraktion verzeichnete, ohne einen bestimmten Grund dafür anzugeben. Zwei Tage später, am 8. Januar, wurden die Funktionen zur Bildgenerierung und -bearbeitung hinter eine Bezahlbarriere verschoben. Am 14. Januar kündigte xAI an, die Schutzmechanismen zu verbessern, um die Erstellung missbräuchlicher Inhalte zu verhindern. Trotz dieser Maßnahmen zeigten Berichte schnell, dass die Schutzvorrichtungen unzureichend blieben. Die Bildgenerierung über die Grok-Website ist weiterhin kostenlos verfügbar.

Die Einführung von Grok Imagine 1.0 stellt nun ein bedeutendes Upgrade der generativen Videofunktionen dar und wirft erneut Fragen zur Inhaltsmoderation auf, insbesondere angesichts der Kritik an sexualisierten KI-Bildern. Aufgrund der Vorfälle haben die Generalstaatsanwältin von Kalifornien und die britische Regierung Untersuchungen gegen xAI eingeleitet. Indonesien und Malaysia haben die X-App blockiert. Drei US-Senatoren und mehrere Interessengruppen forderten Apple und Google auf, X aus ihren App-Stores zu entfernen, da die Nutzungsbedingungen verletzt würden. xAI selbst reagierte zunächst nicht auf Stellungnahmen.

Die US-Regierung verabschiedete 2025 das Take It Down Act, das das Teilen nicht einvernehmlicher intimer Bilder und Deepfakes kriminalisiert. Plattformen haben jedoch bis Mai Zeit, ihre Prozesse zur Entfernung solcher Inhalte zu implementieren, was aktuellen Nutzern von X keinen sofortigen Schutz bietet. Die Präsentation von Grok Imagine 1.0 verdeutlicht die fortdauernde Herausforderung, leistungsfähige KI-Anwendungen verantwortungsvoll einzusetzen, insbesondere im Hinblick auf den Schutz der Privatsphäre und die Prävention sexueller Missbräuche.