Trump fordert von den US-Behörden Stopp der Nutzung von Claude AI nach Stellungnahme von Anthropic zu Überwachungsbeschränkungen

Am Freitag forderte Präsident Donald Trump, dass alle US-Bundesbehörden die Nutzung von Claude AI, einem KI-System des Unternehmens Anthropic, sofort einstellen. Anlass war die Entscheidung von Anthropic, dem Verteidigungsministerium die Erlaubnis zu verweigern, Claude für umfassende inländische Überwachung oder vollständig autonome Waffensysteme ohne menschliche Kontrolle einzusetzen. Trump veröffentlichte diese Anordnung auf seiner Plattform Truth Social und kündigte gleichzeitig an, dass für bestimmte Behörden wie das Verteidigungsministerium eine Übergangsfrist von sechs Monaten gewährt werde.

Diese Maßnahme stellt die jüngste Eskalation in einem anhaltenden Konflikt zwischen Anthropic und der US-Regierung dar. Claude wird bereits umfassend im Pentagon eingesetzt, unter anderem in geheimen Systemen. Die Trump-Administration hatte jedoch beabsichtigt, die Technologie für alle rechtlich zulässigen Zwecke nutzen zu können. Anthropic hingegen betonte, dass laut bestehenden Verträgen Claude weder für die Massenüberwachung von US-Bürgern noch für autonome offensive Waffensysteme ohne menschliche Kontrolle eingesetzt werden darf.

Zu Beginn der Woche hatte Verteidigungsminister Pete Hegseth dem CEO von Anthropic, Dario Amodei, mitgeteilt, dass er selten genutzte gesetzliche Befugnisse einsetzen werde, um das Unternehmen entweder zur Nutzung von Claude für alle rechtlich zulässigen Zwecke zu verpflichten oder es als Risiko in der Lieferkette zu kennzeichnen. Letzteres könnte die Nutzung durch Regierung und Verteidigungsauftragnehmer erheblich einschränken. Anthropic wurde eine Frist bis Freitag eingeräumt, um den Forderungen nachzukommen.

Amodei erklärte, dass das Unternehmen, das mit dem Ziel gegründet wurde, KI-Sicherheit zu fördern, "nicht guten Gewissens" den Forderungen des Pentagon nachkommen könne, Vertragsklauseln aufzuheben, die den Einsatz von Claude für vollständig autonome Waffensysteme oder inländische Überwachung verbieten. Er äußerte zudem Bedenken, dass bestehende Gesetze nicht mit den technischen Möglichkeiten der Massenüberwachung Schritt hielten. Bereits heute kann die Regierung beispielsweise Browserverläufe oder Bewegungsdaten von Einzelpersonen ohne richterliche Anordnung erfassen. KI-Systeme wie Claude verstärken diese Möglichkeiten erheblich, da sie verstreute Daten automatisch und in großem Umfang zu einem umfassenden Bild des Lebens einer Person zusammenfügen können.

Michael Pastor, Dekan für Technologierecht an der New York Law School, betonte, dass es üblich sei, in Verträgen präzise Nutzungsklauseln zu definieren. Er erklärte, dass Anthropic richtig handele, indem es genau klären wolle, was unter "rechtmäßigen Zwecken" zu verstehen sei. Wenn das Pentagon nicht transparent macht, ob die Technologie für Massenüberwachung genutzt werden soll, seien die Bedenken des Unternehmens nachvollziehbar.

Claude gilt als das am weitesten verbreitete KI-System beim US-Militär. Mögliche Alternativen stammen von OpenAI, Google oder xAI von Elon Musk. Ein internes Memo von OpenAI-CEO Sam Altman, das am Freitag im Wall Street Journal erwähnt wurde, zeigt, dass OpenAI ähnliche Beschränkungen verfolgt wie Anthropic: keine Massenüberwachung innerhalb der USA und kein Einsatz für autonome Offensivwaffen. Altman wies darauf hin, dass diese Einschränkungen technisch umgesetzt werden könnten, beispielsweise durch den Einsatz von Cloud-basierten Modellen.

In der Technologiebranche, insbesondere bei Google und OpenAI, haben Mitarbeiter Petitionen verbreitet, in denen sie ihre Unternehmen auffordern, Anthropic zu unterstützen und den Einsatz von KI-Modellen für Massenüberwachung oder autonome tödliche Waffensysteme abzulehnen. Die Petition kritisierte, dass das Pentagon versuche, die Unternehmen gegeneinander auszuspielen, und dass dies nur wirke, wenn unklar sei, wie die einzelnen Unternehmen positioniert seien.

Wie in der Konsumententechnologie haben sich KI-Systeme auch in Regierungs- und Militärbereichen stark verbreitet. Ihre Fähigkeiten haben sich in den letzten Jahren erheblich weiterentwickelt, während Regulierung und Aufsicht hinterherhinken. Der Einsatz von KI verstärkt die Risiken von Unternehmens- und Regierungsüberwachung, da diese Technologien einfacher und kostengünstiger nutzbar sind.

Pastor wies darauf hin, dass der aktuelle Konflikt weitreichende Auswirkungen auf das Verhältnis zwischen Regierungen und Technologieunternehmen haben könnte, insbesondere wenn unterschiedliche Auffassungen über den angemessenen Einsatz von Technologie bestehen. Er erklärte, dass Anthropic befürchten könnte, dass ein Nachgeben die Tür für zahlreiche neue Einsatzmöglichkeiten von Claude öffnet und dadurch die Kontrolle über die sichere Nutzung der Technologie beeinträchtigt wird.