다리오 아모데이의 앤트로픽, 미국 정부를 상대로 소송 제기… “국방부가 AI 안전 가드레일 때문에 보복했다”

앤트로픽, 역사적 AI 소송으로 국방부에 맞서다

여러 보도에 따르면, 앤트로픽은 3월 9일 연방 법원에 두 건의 소송을 제기해 미 국방부와 트럼프 행정부가 취한 조치에 이의를 제기했다. 앤트로픽은 자사 클로드(Claude) 인공지능 시스템에서 안전장치를 제거하라는 요구를 거부한 뒤 정부가 회사에 불법적으로 보복했다고 주장했다. 소송은 통상 스파이 활동이나 사보타주가 의심되는 해외 적대 세력에 적용되는 지정(Designation)을 겨냥하며, 국내 기술 기업에 적용되는 경우는 드물다는 점을 문제 삼고 있다.

이번 분쟁은 앤트로픽의 클로드 AI 모델을 미 국방 기관이 어떻게 사용할 수 있는지를 둘러싼 앤트로픽과 펜타곤 간 계약 협상에서 비롯됐다. 앤트로픽은 앞서 국가안보 이니셔티브를 지원해왔고, 2024년 6월에는 미국 정부의 기밀 네트워크에 모델을 배포한 최초의 프런티어(최첨단) AI 기업이 되었다. 이를 통해 분석가와 군사 기획자들이 정보 검토, 시뮬레이션, 작전 계획 및 사이버보안 업무를 수행하는 데 도움을 제공했다.

국방부가 계약 갱신의 일환으로 클로드를 “모든 합법적 목적”에 대해 제한 없이 사용할 수 있도록 요구하면서 긴장이 고조됐다. 앤트로픽은 대부분의 조건에 동의했지만, 두 가지 제한을 고수했다. 미국인을 대상으로 한 대규모 국내 감시에 자사 AI가 사용되는 것을 금지하고, 완전 자율형 치명적 무기 체계에 배치되는 것을 막는다는 내용이다.

회사 경영진은 현재의 프런티어 AI 모델이 자율 무기용으로는 여전히 신뢰성이 너무 낮고, 대규모 감시 프로그램은 헌법적 보호와 충돌할 수 있기 때문에 이러한 안전장치가 필요하다고 주장했다. 앤트로픽은 이러한 제한이 정부와의 이전 협업 기간 동안 어떤 군사 임무도 방해한 적이 없다고 밝혔다.

협상은 2월 24일 앤트로픽 CEO 다리오 아모데이(Dario Amodei)와 국방장관 피트 헤그세스(Pete Hegseth) 간 회동 이후 결렬됐다. 며칠 뒤인 2월 27일, 도널드 트럼프 대통령은 트루스 소셜(Truth Social)에 글을 올려 연방 기관들에게 앤트로픽 기술 사용을 “즉시 중단”하라고 지시했으며, 해당 기업에 대한 지속적 의존을 “재앙적인 실수”라고 표현했다.

얼마 지나지 않아 헤그세스는 10 U.S.C. § 3252에 명시된 연방 조달 권한에 따라 앤트로픽을 공급망 위험으로 분류하는 조치에 나섰다. 3월 4일 전후로 회사에 발송된 서한에서 확인된 이 지정은, 사보타주나 외국의 영향에 취약하다고 간주되는 기술을 특정 정부 계약업체가 사용하는 것을 제한한다.

앤트로픽은 이 조치가 법의 취지를 훨씬 넘어서는 확대 해석이라고 주장한다. 법원 제출 서류에서 회사는 해당 지정이 국내 공급업체와의 정책적 이견이 아니라 외국과 연계된 안보 위협을 대상으로 고안된 것이라고 주장한다. 소송은 정부가 법이 요구하는 “가장 덜 제한적인 수단(least restrictive means)”을 사용하지 않았으며, 대신 회사가 비공식 블랙리스트라고 부르는 조치를 부과했다고 주장한다.

법원 제출 서류는 헌법적 우려도 제기한다. 앤트로픽은 자율 무기 및 국내 감시와 같은 AI 사용에 대한 제한을 공개적으로 주장해온 것을 이유로 회사가 처벌을 받았다고 하며, 이는 수정헌법 제1조를 위반한다고 주장한다. 소장에 따르면, 회사를 국가안보 위험으로 낙인찍는 것은 평판을 훼손하고 수억 달러 규모의 계약을 위협할 수 있다.

앤트로픽은 법원에 해당 지정을 집행하지 못하도록 막고, 회사와의 거래를 중단하라는 연방 기관 지침을 철회하도록 명령하며, 향후 유사 조치를 금지해 달라고 요청하고 있다. 회사는 정부에 자사 기술 구매를 강제하려는 것이 아니라 정책적 차이를 이유로 한 보복을 막는 것이 목적이라고 밝혔다.

“사법적 심사를 요청한다고 해서 국가안보를 보호하기 위해 AI를 활용하겠다는 우리의 오랜 약속이 바뀌는 것은 아닙니다.” 앤트로픽 대변인은 성명에서 이렇게 말했다. “하지만 이는 우리의 사업과 고객, 그리고 파트너를 보호하기 위한 필요한 단계입니다.”

펜타곤 관계자들은 진행 중인 소송 사건에 관한 정책을 이유로 이번 소송에 대해 공개적으로 언급하지 않았다. 일부 국방 분야 지도자들은 과거에 비상 상황에서는 군 기관이 계약업체 기술에 대해 완전한 작전 권한을 유지해야 하며, 벤더가 시스템 사용 방식을 좌우하도록 허용할 수 없다고 주장해왔다.

이번 분쟁은 군사용 AI 계약 확보 경쟁이 격화되는 가운데 발생했다. 오픈AI를 포함한 경쟁사들은 앤트로픽과의 협상이 결렬된 것과 비슷한 시기에 펜타곤과 합의에 도달했다. 한편 구글과 마이크로소프트 같은 주요 기술 파트너들은 국방과 무관한 상업 서비스 분야에서 앤트로픽과의 협업을 계속하겠다는 의사를 밝혔다.

업계 분석가들은 이번 사건의 결과가 국가안보 이해관계가 걸려 있을 때 연방 정부가 AI 기업에 안전 정책 변경을 압박하는 방식에 대한 선례를 세울 수 있다고 말한다. 현재로서는 앤트로픽의 소비자 제품과 상업용 AI 서비스는 계속 이용 가능하며, 펜타곤의 지정 조치를 둘러싼 법적 다툼은 법원을 통해 본격적으로 진행되기 시작했다.

FAQ 🧭

• 앤트로픽은 왜 미국 정부를 상대로 소송을 제기했나요?
  앤트로픽은 AI 안전 제한을 제거하라는 요구를 거부한 뒤 펜타곤이 회사를 국가안보 공급망 위험으로 불법적으로 낙인찍었다고 주장하며 소송을 제기했습니다.
• 앤트로픽과 펜타곤 사이의 분쟁을 촉발한 것은 무엇인가요?
  국방부가 계약 협상 과정에서 앤트로픽의 클로드 AI 시스템을 제한 없이 사용하도록 요구하면서 갈등이 시작됐습니다.
• “공급망 위험” 지정은 무엇을 의미하나요?
  당국이 보안 또는 조달 위험을 초래한다고 판단할 경우, 해당 회사의 기술을 정부 계약업체가 사용하는 것을 제한할 수 있는 표식입니다.
• 소송이 진행되는 동안에도 앤트로픽의 AI 서비스는 계속 운영되나요?
  네, 법적 절차가 진행되는 동안에도 앤트로픽의 상업용 AI 제품과 소비자 서비스는 계속 이용할 수 있습니다.