アンソロピックと国防総省、クロードの軍事利用と大規模監視利用をめぐり対立

Anthropic、クロードの「非倫理的」な使用をめぐって国防総省と対立

最大手の人工知能（AI）企業の一つである Anthropic は、同社が非倫理的とみなす活動への AI モデルの使用について、国防総省から非難を受けているとの報道があります。

Axios は、ピート・ヘグセス国防長官が、Anthropic をサプライチェーンのリスクとして指定することを検討していると報じた。これは、同社とのすべての契約および関係を断ち切らなければならないことを意味する。さらに、国防総省と取引のあるすべての企業も、Anthropic のサービスを放棄しなければならない。

この対立は、同社が商標モデルであるクロードを大量監視キャンペーンや完全自律型軍事機器が関与する作戦での使用を許可することを拒否したことで勃発した。一方、国防総省は、同社がこれらのプロセスに口出しすることなく、「あらゆる合法的な目的」のためにクロードの能力を活用できるべきだと主張している。

最終的にアンソロピック社がサプライチェーン上のリスクと指定されれば、同モデルは国防総省の情報システムから撤去されることになる。機密システムへのアクセス権を持つのはクロードのみだからだ。

これによりクロードは「絶対的決意作戦」に積極的に関与し、1月にベネズエラのニコラス・マドゥロ大統領の救出につながった。作戦中のモデルの役割は完全には明らかにされていないものの、軍事作戦におけるAI利用のエスカレーションを示す事例である。

この対立は、欧米諸国におけるAI企業と政府の関わり方に先例を確立し、軍事目的で使用されるモデルに対する企業の管理水準の基盤を築く可能性がある。 アンソロピック社の広報担当者は「国防総省と、この取り組みを継続し新たな複雑な課題を適切に解決する方法について、誠意を持って建設的な対話を進めている」と述べた

。

FAQ

• アンソロピックは国防総省とどのような問題を抱えているのか？ アンソロピックは、自社のAIモデル「クロード」を大量監視や自律型軍事作戦など、倫理に反すると見なす活動に使用することを拒否したため、国防総省の監視下に置かれている。
• サプライチェーンリスクに指定された場合、Anthropicが直面する可能性のある影響は何ですか？ サプライチェーンリスクに指定された場合、国防総省との全契約が打ち切られ、国防総省の情報システムからClaudeを撤去する必要が生じます。
• 国防総省のAIモデルに関する要求に対し、アンソロピックはどのように対応しているか？ 同社は国防総省との間で「建設的な対話」を継続中と表明し、AI技術利用にまつわる複雑な倫理的問題の解決を目指している。
• クロードが関与した最近の軍事作戦とその意義は？ クロードは「絶対的決意作戦」に参加し、ベネズエラのニコラス・マドゥロ大統領の救出を支援。これは軍によるAI技術活用の重大なエスカレーションを示す事例となった。