X geht gegen bezahlte Creator vor, die KI-generierte Kriegsinhalte verschleiern

Nach den Luftangriffen der USA und Israels auf Ziele im Iran am vergangenen Wochenende, die als Reaktion auf zunehmende Spannungen über nukleare Programme und regionale Aktivitäten durchgeführt wurden, hat der Iran Gegenschläge in Form von Raketen- und Drohnenangriffen gestartet. Diese Eskalation löste eine intensive Reaktion in den sozialen Medien aus, wobei viele Creator Inhalte über die Ereignisse teilten.

In der Ära der künstlichen Intelligenz wurden jedoch zahlreiche dieser Beiträge durch KI bearbeitet oder manipuliert, sodass sie nicht immer authentische Informationen widerspiegeln. Nikita Bier, Leiterin des Produktbereichs bei X, kündigte am Dienstag an, dass die Plattform künftig Creator bestrafen wird, die KI-generierte Inhalte über den Krieg veröffentlichen, ohne dies deutlich zu kennzeichnen. Die Regelung betrifft ausschließlich Teilnehmer des unternehmenseigenen Einnahmenbeteiligungsprogramms, das Creatorn erlaubt, Einkommen basierend auf der Reichweite und Popularität ihrer Beiträge zu erzielen.

Wer gegen diese neue Richtlinie verstößt, erhält zunächst eine Sperre von drei Monaten innerhalb des Programms. Wiederholte Verstöße können zu einem dauerhaften Ausschluss führen, wodurch die Möglichkeit entfällt, über X Einnahmen zu erzielen. Die zunehmende Nutzung von KI in sozialen Medien erschwert es für Nutzer, echte von manipulierten Inhalten zu unterscheiden. Laut einer Umfrage von CNET können nur 44 % der US-Erwachsenen zuverlässig erkennen, welche Bilder und Videos authentisch sind.

Bier erklärte auf X, dass besonders in Kriegszeiten der Zugang zu verlässlichen Informationen vor Ort von entscheidender Bedeutung sei. Sie wies darauf hin, dass die heutigen KI-Tools es leicht machen, täuschende Inhalte zu erstellen, die Nutzer in die Irre führen können.

Obwohl die neue Richtlinie zunächst nur für bezahlte Creator gilt, bleibt offen, ob Nutzer, die solche Inhalte teilen, aber nicht am Einnahmenbeteiligungsprogramm teilnehmen, Konsequenzen zu erwarten haben. Die Sperre für einkommensgenerierende Creator wirkt sich direkt auf deren Einnahmen aus, adressiert jedoch nicht die breitere Problematik der Verbreitung falscher Kriegsinformationen.

Laut Bier wird X die Verstöße erkennen, indem Beiträge überprüft werden, die durch Community-Notes markiert sind oder Metadaten und Hinweise enthalten, die auf generative KI-Tools zurückzuführen sind. Ein Sprecher von X reagierte bislang nicht auf Anfragen zur weiteren Stellungnahme.