Nationale Sicherheit ist kein "Freifahrtschein für Vergeltung"

Die KI-Firma Anthropic verbot dem Pentagon die Nutzung ihrer Technik in autonomen Waffen und zur Massenüberwachung der Bevölkerung - und wurde damit für die US-Regierung zum Gegner. Ein Gericht gibt nun dem Unternehmen Recht.

Die KI-Firma Anthropic hat einen wichtigen Etappensieg in ihrem Streit mit dem Pentagon über die Verwendung Künstlicher Intelligenz im Militär errungen. Eine kalifornische Richterin entschied, dass die Einstufung von Anthropic als Lieferketten-Risiko für die nationale Sicherheit durch das US-Verteidigungsministerium nicht gerechtfertigt war und aufgehoben werden muss.

Auslöser für den Konflikt war das Beharren von Anthropic darauf, dass KI-Modelle des Unternehmens nicht zur Massenüberwachung von Amerikanern sowie in autonomen Waffensystemen genutzt werden dürfen. Das US-Verteidigungsministerium fordert hingegen die Rechte für "jede rechtmäßige Nutzung" ein und betont, dass kein Unternehmen der Regierung Vorschriften machen könne.

Folgen noch unklar

Richterin Rita Lin kam zu dem Schluss, dass die Einstufung als Lieferketten-Risiko nur auf dem Wunsch basierte, ein Exempel zu statuieren, weil Anthropic die Regierung kritisiert hatte - und nicht auf einer begründeten Befürchtung, dass die Firma ihr KI-Modell tatsächlich sabotieren würde. Sie erklärte in ihrer Entscheidung, dass die Berufung auf die nationale Sicherheit "kein Freifahrtschein ist, um Regierungskritiker zu bestrafen und Vergeltung gegen sie zu üben". Bereits im Frühjahr hatte sie die Umsetzung der Regierungs-Entscheidung blockiert.

Eine Einstufung als Lieferketten-Risiko hat für ein Unternehmen weitreichende Konsequenzen über die Nutzung im US-Militär hinaus. So hatte Präsident Donald Trump angeordnet, dass alle US-Bundesbehörden die Nutzung von Anthropic-Technologie einstellen sollen. Zudem hieß es von Verteidigungsminister Pete Hegseth, dass auch alle Unternehmen ihre Geschäftsbeziehungen zu Anthropic kappen müssten, wenn sie das US-Militär beliefern wollten.

Zunächst war nicht bekannt, ob die Regierung plant, gegen die Entscheidung der Richterin in Berufung zu gehen. Es ist höchst ungewöhnlich, dass eine US-Firma zum Lieferketten-Risiko erklärt wird. Zugleich betonte die Richterin, dass das Verteidigungsministerium nicht Anthropic-Software nutzen müsse, sondern stattdessen auf Technologie anderer KI-Unternehmen umsteigen könne, solange dies rechtlich einwandfrei geschehe. Das Pentagon schraubte die Nutzung von Anthropic-KI zurück und will sie bis Ende September komplett aufgeben.

Anthropic: KI nicht verlässlich genug

Anthropic-Chef Dario Amodei warnt, dass Künstliche Intelligenz es möglich mache, über das Netz verstreute Daten einzelner Menschen in großem Stil automatisiert zu einem detaillierten Bild ihres Lebens zusammenzusetzen.

Zugleich sei KI noch nicht verlässlich genug, um in vollständig autonomen Waffen eingesetzt zu werden. "Wir werden nicht wissentlich ein Produkt liefern, das Amerikas Kämpfer und Zivilisten in Gefahr bringt", schrieb Amodei in einem Blogbeitrag.