Das KI-Unternehmen Anthropic will sich Forderungen des US-Verteidigungsministeriums in einem Streit um Sicherheitsvorkehrungen für künstliche Intelligenz (KI) widersetzen. Dies sagte Anthropic-Chef Dario Amodei. US-Verteidigungsminister Pete Hegseth fordert, dass Anthropic alle Sicherheitsvorkehrungen beim Einsatz der KI-Technologie für militärische Zwecke entfernt. Damit könnte die Technologie zur autonomen Zielerfassung von Waffen oder zur Überwachung in den USA eingesetzt werden.
Hintergrund ist der Plan des Verteidigungsministeriums, KI-Modelle auch in geheimen Netzwerken zu nutzen, ohne dabei den üblichen Einschränkungen der Hersteller zu unterliegen. Die US-Regierung will KI-Modelle auf allen Geheimhaltungsstufen verstärkt einsetzen, um militärische Entscheidungen zu beschleunigen.
Laut Amodei will das Verteidigungsministerium nur mit KI-Firmen Verträge abschließen, die „jeder rechtmäßigen Nutzung“ zustimmten und Schutzvorkehrungen aufhöben. Das Ministerium habe gedroht, Anthropic aus seinen Systemen zu entfernen, wenn das Unternehmen an seinen Schutzmaßnahmen festhalte. Zudem habe es gedroht, die Firma als „Risiko für die Lieferkette“ einzustufen und den Defense Production Act anzuwenden, um die Entfernung der Schutzmaßnahmen zu erzwingen.
„Wir können der Forderung nicht guten Gewissens nachkommen“
„Diese Drohungen ändern nichts an unserer Position. Wir können der Forderung nicht guten Gewissens nachkommen“, sagte Amodei. Es sei das Vorrecht des Ministeriums, die Vertragspartner auszuwählen, die am ehesten mit seiner Vision übereinstimmten. „Aber angesichts des erheblichen Werts, den die Technologie von Anthropic für unsere Streitkräfte darstellt, hoffen wir, dass sie ihre Entscheidung überdenken“, sagte Amodei. Sollte sich das Ministerium dafür entscheiden, die Zusammenarbeit mit Anthropic zu beenden, werde Anthropic einen reibungslosen Übergang zu einem anderen Anbieter ermöglichen.
Ein Unternehmenssprecher teilte mit, Anthropic sei weiterhin bereit, die Gespräche mit dem Verteidigungsministerium fortzusetzen und sich für die „betriebliche Kontinuität für das Ministerium und die amerikanischen Kampftruppen“ einzusetzen.
Amodei hatte zuvor wiederholt ethische Bedenken geäußert, etwa im Hinblick auf den Einsatz autonomer Drohnen oder KI-gesteuerte Überwachung. Das Unternehmen entwickelt den KI-Chatbot Claude, stellt seine Technologie jedoch bisher nicht für das interne militärische Netzwerk GenAI.mil bereit.
Anthropic ist derzeit eine Ausnahme: Konkurrenten wie Alphabet (Google), xAI und OpenAI haben bereits Abkommen mit der Regierung geschlossen und teilweise die üblichen Nutzungsbeschränkungen für das Militärnetzwerk aufgehoben. Experten warnen jedoch vor Risiken, da KI-Modelle unter anderem dazu neigen, Informationen zu „halluzinieren“.