Pentagon vs. Anthropic: Ein Konflikt, der den Kongress alarmieren sollte

Der Vertrag zwischen dem US-Verteidigungsministerium und dem KI-Unternehmen Anthropic geriet Ende Februar in eine ernste Auseinandersetzung, die deutlich machte, dass bestehende Gesetze und Vorschriften den Fortschritt künstlicher Intelligenz nur unzureichend regulieren. Das Pentagon plante, Anthropics KI-System Claude für sämtliche gesetzlich zulässigen Aufgaben einzusetzen. Anthropic hingegen schloss eine Nutzung für umfassende inländische Überwachung oder vollständig autonome Waffensysteme aus.

Da das Unternehmen den Anforderungen der Regierung nicht nachkam, gaben Präsident Donald Trump und Verteidigungsminister Pete Hegseth bekannt, Anthropic als „Risiko in der Lieferkette“ einzustufen und die Verwendung seiner Produkte in Verteidigungsverträgen zu verbieten. Vertreter des Pentagon erklärten, dass dies keine praktischen Probleme verursache, da geltendes Recht die Durchführung solcher Überwachungen untersage und keine Pläne für den Einsatz von Claude in autonomen Waffensystemen bestünden. Fachleute für Technologie und Datenschutz betonen jedoch, dass die Rechtslage unklar sei und ein Konflikt zwischen einem privaten Unternehmen und einer Bundesbehörde nicht der richtige Ort sei, diese Fragen zu klären.

Hamza Chaudhry, Leiter für KI und nationale Sicherheit beim Future of Life Institute, äußerte, dass der Streit ein deutliches Governance-Vakuum offenbart und als Weckruf für den Kongress dienen sollte. Als unmittelbare Folge wandte sich das Pentagon an OpenAI, mit dem ein Vertrag abgeschlossen wurde, der weniger präzise Einschränkungen bezüglich Nutzung für Massenüberwachung oder autonome Waffensysteme enthielt. OpenAI betonte jedoch, dass Sicherheitsmaßnahmen verstärkt wurden, und CEO Sam Altman bestätigte, dass die KI von den Geheimdiensten des Verteidigungsministeriums nicht verwendet werden solle.

OpenAI-Forscher Noam Brown warnte davor, die Verantwortung für Sicherheit allein den KI-Laboren oder Geheimdiensten zu überlassen, und bezeichnete die Situation als gefährlichen Präzedenzfall, bei dem demokratische Entscheidungsprozesse umgangen werden könnten.

Zunehmende Rolle der KI in der Überwachung

Das Risiko der KI-Nutzung für inländische Überwachung liegt nicht primär darin, dass Systeme wie Claude oder ChatGPT direkt Bürger ausspionieren, sondern darin, dass vorhandene Daten von Behörden oder privaten Datenbrokern ohne richterliche Genehmigung verarbeitet werden können. Standortdaten, Surfverhalten und Kontakte werden bereits gesammelt und können weiterverkauft werden. KI ermöglicht nun die Verarbeitung dieser Informationen in großem Maßstab.

Anthropic-CEO Dario Amodei erklärte am 26. Februar, dass leistungsstarke KI es ermögliche, verstreute, einzeln harmlose Daten automatisch zu einem umfassenden Bild des Lebens einer Person zusammenzuführen.

KI und Waffensysteme

Ein weiterer zentraler Konfliktpunkt war die Sorge, dass Claude die vollständige Kontrolle über Waffensysteme ohne menschliche Aufsicht erhalten könnte. Eine KI-gestützte Zielauswahl unter menschlicher Kontrolle sei akzeptabel, vollständige Autonomie jedoch problematisch. Amodei betonte, dass aktuelle KI-Modelle für autonome Waffensysteme nicht zuverlässig genug seien. Experten wie Greg Nojeim vom Center for Democracy and Technology teilen diese Einschätzung.

Das Verteidigungsministerium wies darauf hin, dass der Einsatz vollständig autonomer Waffen derzeit nicht möglich ist, obwohl Richtlinien dies nicht kategorisch verbieten. Experten betonen, dass Entscheidungen über den Einsatz solcher Technologien nicht von Militärs, Beamten oder Unternehmen getroffen werden sollten, sondern durch gewählte Kongressmitglieder.

Regulierung von KI

Die Frage nach der Regulierung von KI ist nicht neu. Früher setzten Regierungen auf eine lockere Regulierung, während Risiken wie psychische Schäden durch Chatbots und Verletzungen der Privatsphäre deutlich geworden sind. Bei militärischer KI ist klar, dass der Kongress die Zuständigkeit besitzt. Chaudhry forderte klare gesetzliche Grenzen, die definieren, welche KI-Anwendungen in der nationalen Sicherheit erlaubt sind und welche nicht.

Nojeim betonte, dass KI-Überwachung nicht eigenmächtig durch Militär oder Geheimdienste autorisiert werden sollte. Der Kongress könnte im Rahmen einer Novellierung des Foreign Intelligence Surveillance Act entscheiden, ob Geheimdienste für den Kauf von Daten richterliche Genehmigungen benötigen. Idealerweise würde der Kongress den Einsatz von KI in der Überwachung regulieren und Regeln für autonome Waffensysteme festlegen.

Langfristige Auswirkungen des Konflikts

Die Einstufung von Anthropic als Risiko in der Lieferkette durch das Pentagon könnte abschreckend auf andere Unternehmen wirken, die Sicherheitsgrenzen für ihre Technologien setzen. Nojeim warnte, dass ein solcher Präzedenzfall die Sicherheit insgesamt verringern könnte. Anthropic kündigte an, die Einstufung gerichtlich anzufechten, weiterhin aber mit dem Pentagon zu verhandeln und seine KI-Modelle den Streitkräften zu nominalen Kosten bereitzustellen.

Trotz des Konflikts nutzt das US-Militär weiterhin Anthropics KI, unter anderem im aktuellen Krieg im Iran. Amodei betonte, dass es mehr gemeinsame Interessen als Unterschiede zwischen Anthropic und dem Verteidigungsministerium gebe und dass das Unternehmen die militärische Nutzung seiner Modelle so lange unterstützen werde, wie dies erlaubt ist.