보고서: 앤스로픽의 클로드 AI, 기밀 펜타곤 시스템에서 불확실한 미래에 직면

고위험 펜타곤 회의에서 시험대에 오른 군사용 AI 거버넌스

2월 24일 회의는, 최대 2억 달러 규모의 2025년 파일럿 계약에 따라 기밀 국방부 네트워크에 통합된 대규모 언어 모델 클로드의 이용 정책을 둘러싸고 수주간 이어진 긴장 이후 열렸다. 클로드는 현재 특정 보안 펜타곤 시스템 전반에서 운용되는 유일한 ‘완전 승인’ 대규모 언어 모델이다.

Axios 보도에 따르면, 헤그세스는 스티브 파인버그 부장관과 얼 매튜스 법률고문이 동석한 가운데, 미국인에 대한 대규모 감시와 인간의 감독 없이 완전 자율로 작동하는 무기 체계에 관한 앤스로픽의 제한에 이의를 제기했다. 국방 당국자들은 이러한 제한이 합법적인 군사적 적용을 제약하며, 의회 및 행정부의 권한을 우선해선 안 된다고 주장했다.

앤스로픽은 자사의 안전장치가 국가안보 적용을 가능하게 하면서도 오남용을 방지하기 위한 것이라는 입장을 유지해 왔다. 회사는 자사 정책이 정당한 군사적 사용을 막는 것이 아니라, 동의 없는 개인 추적이나 인간 통제 없이 치명적 시스템을 배치하는 활동 등을 금지한다고 말한다.

“협상에 정통한 소식통에 따르면, 앤스로픽은 자사 모델의 ‘정당한 군사 작전’ 사용에 반대한 적이 없다”고 폭스뉴스 수석 국가안보 특파원 제니퍼 그리핀은 X에서 보도했다. “또한 헤그세스에게, 마두로 급습에서 자사 모델이 사용된 것과 관련해 펜타곤이나 팔란티어에 불만을 제기한 적도 없다고 말했다.”

클로드는 정보 분석, 사이버 방어, 작전 기획에 사용되어 왔다. 보도에 따르면, 클로드는 1월 3일 작전에서 기획 및 실시간 분석을 지원했으며, 그 결과 베네수엘라 대통령 니콜라스 마두로가 체포됐다. 이후 앤스로픽은 내부 준수(compliance) 검토의 일환으로 모델의 관여에 대한 명확한 설명을 요청했는데, 펜타곤 당국자들은 이를 비판으로 해석했다.

1월 9일, 헤그세스는 메모를 발행하며 인공지능(AI) 제공업체들에게 그가 ‘제한적 조건’이라고 묘사한 것들을 제거할 것을 촉구했다. 이 지침은 재협상의 무대를 마련했고, 결국 2월 24일 회의로 이어졌다.

펜타곤은 앤스로픽이 자사 조건을 수정해야 하는 마감 시한을 2월 27일로 설정했다. 가능한 대응책에는 국방생산법(Defense Production Act)을 발동해 준수를 강제하거나, 앤스로픽을 공급망 위험(supply chain risk)으로 지정하는 방안이 포함되며, 이 경우 계약업체들이 클로드 관련 시스템에서 투자/의존을 철회하도록 요구될 수 있다.

당국자들은 기존 인프라에서 클로드를 분리하는 작업이 운영적으로 복잡하다는 점을 인정한다. 그럼에도 국방부에는 대안이 있다. 그록(Grok) 모델의 xAI, OpenAI의 ChatGPT, 그리고 제미니(Gemini)의 구글은 유사한 국방부 계약을 맺고 있으며, 협상이 결렬될 경우 역할을 확대할 수 있는 위치에 있을 수 있다.

이번 분쟁은 군사 환경에서의 AI 거버넌스에 관한 더 넓은 질문을 부각한다. 특히 신흥 기술을 둘러싼 연방법이 계속 진화하는 가운데, 국가안보 작전에 시스템이 깊게 내장될 때 민간 AI 개발사가 독립적인 윤리 정책을 유지할 수 있는지가 쟁점이다.

소셜미디어 전반의 반응은 유난히 솔직했다. 한 X 사용자는 그리핀의 X 게시물에 대한 반응으로 “영장 없는 감시가 돌아왔다”고 썼다. 또 다른 사용자는 그리핀의 글에 “이건 지금보다 훨씬 더 큰 뉴스가 되어야 한다. 헌법 위반이 발생할 심각한 가능성이 있다”고 답글을 달았다. 다른 이들은 냉소적 유머를 섞어 스카이넷의 도래가 멀지 않을지도 모른다고 농담했다. 해당 사용자는 “스카이넷은 여기 있다… 2029 타임라인이 LIVE다”라고 말했다.

양측 모두 2월 24일 논의가 실질적이었다고 평가했다. 마감 시한 전까지 앤스로픽이 안전장치를 조정할지 여부가, 펜타곤의 가장 진보한 AI 통합 가운데 하나의 미래를 결정할 수 있다.

FAQ 🤖

• 2월 24일 펜타곤 회의에서는 무엇이 논의됐나요?
  회의는 클로드 AI에 대한 앤스로픽의 제한이 합법적인 군사적 적용을 제한하는지 여부에 초점을 맞췄습니다.
• 펜타곤이 앤스로픽을 압박하는 이유는 무엇인가요?
  국방 당국자들은 회사의 안전장치가 승인된 국가안보 목적의 사용을 방해한다고 주장합니다.
• 앤스로픽이 따르지 않으면 어떤 일이 벌어질 수 있나요?
  펜타곤은 국방생산법을 발동하거나 회사를 공급망 위험으로 지정할 수 있습니다.
• 클로드의 대안은 있나요?
  네. xAI, OpenAI, 구글의 모델들이 국방부 계약 하에 있으며 필요시 역할을 확대할 수 있습니다.