앤트로픽과 미 국방부, 클로드의 군사 및 대규모 감시 활용을 놓고 충돌

앤트로픽, 클로드의 ‘비윤리적’ 사용을 두고 펜타곤과 충돌

가장 큰 인공지능(AI) 기업 중 하나인 앤트로픽이, 회사가 비윤리적이라고 보는 활동에 자사 AI 모델이 사용되는 문제를 두고 국방부(Department of War)로부터 압박을 받고 있는 것으로 전해졌다.

Axios는 보도를 통해, 피트 헤그세스 국방장관이 앤트로픽을 공급망 위험으로 지정하는 방안을 검토 중이라고 전했다. 이는 회사와의 모든 계약과 관계를 축소·중단해야 함을 의미한다. 또한 펜타곤과 거래하는 모든 기업들도 앤트로픽의 서비스를 포기해야 한다.

이번 충돌은 앤트로픽이 자사의 상표 모델인 클로드가 대규모 감시 캠페인과 완전 자율 군사 장비가 수반되는 작전에 사용되는 것을 허용하지 않으면서 불거졌다. 반면 펜타곤은 해당 과정에서 회사가 발언권을 갖지 못하더라도, 클로드의 역량을 “모든 합법적 목적”을 위해 활용할 수 있어야 한다고 주장한다.

앤트로픽이 최종적으로 공급망 위험으로 지정된다면, 클로드가 펜타곤의 정보 시스템에서 철수해야 함을 의미한다. 현재 조직의 기밀 시스템에 접근할 수 있는 것은 클로드뿐이기 때문이다.

이로 인해 클로드는 1월 베네수엘라의 니콜라스 마두로를 탈출시키는 결과로 이어진 ‘절대 결의 작전(Operation Absolute Resolve)’에 적극적으로 참여할 수 있었다. 작전 중 모델이 맡은 역할은 아직 완전히 공개되지 않았지만, 이는 군사 작전에 AI를 활용하는 수준이 한층 강화됐음을 보여준다.

이번 대치는 서구권에서 AI 기업이 정부와 어떻게 관계를 맺을 수 있는지에 대한 선례를 만들 수 있으며, 군사 목적으로 사용될 때 이러한 기업들이 자사 모델에 대해 어느 정도의 통제권을 유지할 수 있는지에 대한 기준을 마련할 수도 있다.

앤트로픽 대변인은 회사가 “DoW와 선의로 생산적인 대화를 나누며 그 작업을 계속하고, 새롭고 복잡한 이슈들을 올바르게 다루는 방법을 모색하고 있다”고 밝혔다.

FAQ

• 앤트로픽은 국방부와 어떤 문제를 겪고 있나?
  앤트로픽은 대규모 감시 및 자율 군사 작전 등 자사가 비윤리적이라고 판단하는 활동에 AI 모델 클로드가 사용되는 것을 허용하지 않으면서 국방부의 조사를 받고 있다.
• 공급망 위험으로 분류되면 앤트로픽은 어떤 잠재적 결과에 직면할 수 있나?
  공급망 위험으로 지정될 경우 펜타곤과의 모든 계약이 중단되며, 펜타곤의 정보 시스템에서 클로드를 철수해야 한다.
• 자사 AI 모델과 관련한 펜타곤의 요구에 앤트로픽은 어떻게 대응했나?
  앤트로픽은 자사의 AI 기술 사용을 둘러싼 복잡한 윤리적 이슈를 다루기 위해 국방부와 “생산적인 대화”를 이어가고 있다고 밝혔다.
• 클로드가 관여한 최근 군사 작전은 무엇이며, 그 의미는 무엇인가?
  클로드는 베네수엘라의 니콜라스 마두로를 탈출시키는 데 기여한 절대 결의 작전에 참여했으며, 이는 군의 AI 기술 활용이 크게 확대됐음을 보여준다.