Anthropic und das Pentagon streiten über Claudes Einsatz im Militär und zur Massenüberwachung

Anthropic gerät mit dem Pentagon wegen „unethischer” Verwendungszwecke von Claude aneinander

Anthropic, eines der größten Unternehmen im Bereich der künstlichen Intelligenz (KI), steht Berichten zufolge wegen der Verwendung seiner KI-Modelle für Aktivitäten, die das Unternehmen als unethisch erachtet, in der Kritik des Kriegsministeriums.

Axios berichtete, dass Verteidigungsminister Pete Hegseth erwägt, Anthropic als Risiko für die Lieferkette einzustufen, was bedeuten würde, dass alle Verträge und Verbindungen zu dem Unternehmen gekündigt werden müssten. Darüber hinaus müssten auch alle Unternehmen, die mit dem Pentagon zusammenarbeiten, auf die Dienste von Anthropic verzichten.

Der Konflikt entbrannte, als das Unternehmen sich weigerte, die Verwendung seines Markenmodells Claude in Massenüberwachungskampagnen und Operationen mit vollständig autonomen militärischen Geräten zuzulassen. Das Pentagon hingegen behauptet, es sollte in der Lage sein, die Fähigkeiten von Claude für „alle rechtmäßigen Zwecke” zu nutzen, ohne dass das Unternehmen in diesen Prozessen ein Mitspracherecht hat.

Sollte Anthropic letztendlich als Risiko für die Lieferkette eingestuft werden, würde dies bedeuten, dass das Modell aus den Informationssystemen des Pentagons entfernt werden müsste, da nur Claude Zugang zu den geheimen Systemen der Organisation hat.

Dadurch konnte Claude aktiv an der Operation Absolute Resolve teilnehmen, die im Januar zur Entführung von Nicolas Maduro aus Venezuela führte. Auch wenn die Rolle, die das Modell während der Operation spielte, nicht vollständig offengelegt wurde, stellt dies eine Eskalation beim Einsatz von KI für militärische Kampagnen dar.

Die Pattsituation könnte einen Präzedenzfall dafür schaffen, wie KI-Unternehmen mit Regierungen in der westlichen Welt umgehen können, und damit die Grundlage für den Grad der Kontrolle bilden, den diese Unternehmen über ihre Modelle ausüben können, wenn diese für militärische Zwecke eingesetzt werden. Ein Sprecher von Anthropic erklärte, das Unternehmen führe „produktive Gespräche in gutem Glauben mit dem Verteidigungsministerium darüber, wie diese Arbeit fortgesetzt und diese neuen und komplexen Fragen richtig gelöst werden können”.

FAQ

• Mit welchen Problemen hat Anthropic gegenüber dem Verteidigungsministerium zu kämpfen? Anthropic steht unter Beobachtung des Verteidigungsministeriums, weil es sich weigert, sein KI-Modell Claude für Aktivitäten zuzulassen, die es als unethisch erachtet, wie beispielsweise Massenüberwachung und autonome Militäroperationen.
• Mit welchen möglichen Konsequenzen könnte Anthropic rechnen, wenn es als Risiko für die Lieferkette eingestuft wird? Wenn es als Risiko für die Lieferkette eingestuft wird, würden alle Verträge mit dem Pentagon gekündigt, was den Rückzug von Claude aus den Informationssystemen des Pentagons erforderlich machen würde.
• Wie hat Anthropic auf die Forderungen des Pentagon bezüglich seines KI-Modells reagiert? Das Unternehmen behauptet, dass es „produktive Gespräche” mit dem Kriegsministerium führt, um komplexe ethische Fragen im Zusammenhang mit der Nutzung seiner KI-Technologie zu klären.
• An welcher aktuellen Militäroperation war Claude beteiligt und welche Bedeutung hatte diese? Claude war an der Operation Absolute Resolve beteiligt, die die Entführung von Nicolás Maduro aus Venezuela ermöglichte und eine bedeutende Eskalation beim Einsatz von KI-Technologien durch das Militär darstellte.