칼시 트레이더스, 역사적인 AI 금지 조치 이후 7월 1일 전까지 ‘프레이블 5’ 수익률 68% 전망

사건의 개요

2026년 6월 12일, 상무부는 미국 내외를 불문하고 모든 외국 국적자에 대한 '클로드 페이블 5(Claude Fable 5)' 및 '클로드 미토스 5(Claude Mythos 5)' 접근을 중단하도록 앤트로픽에 요구하는 수출 통제 지침을 발령했다. API 접속은 사용자의 국적을 확실하게 필터링할 수 없기 때문에, 앤트로픽은 전 세계 모든 고객에 대해 두 모델의 사용을 중단했다. 다른 앤트로픽 모델들은 계속 운영되었다. 이 지침은 동부 표준시 기준 오후 5시 21분경에 도착했다. 저녁 무렵, 앤트로픽은 공식 성명을 통해 서비스 중단을 확인했다.

아마존과의 연관성

월스트리트저널이 인용한 이 사안에 정통한 소식통에 따르면, 재시는 스콧 베센트 재무장관, 하워드 루트닉 상무장관, 숀 케언크로스 국가사이버보안국장에게 아마존 연구진이 Fable 5에 조작된 프롬프트를 사용하여 해당 모델이 거부하도록 설계된 소프트웨어 취약점 정보를 추출했다고 알렸다.

이 연구에서는 최소 4개 프로그램에서 Fable 5의 내장 안전 분류기를 우회하는 프롬프트가 확인되었다. 연구진은 해당 모델이 소프트웨어 버그를 식별할 수 있으며, 이론적으로는 이를 악용 코드로 변환하는 데 도움을 줄 수 있음을 발견했으나, 테스트 사례에서는 안전 장치가 작동하여 완전한 실행은 차단되었다. 아마존이 공격 기능을 사용하거나 접근했다는 증거는 발견되지 않았다. 재시의 이러한 접촉은 기술 업계 경영진과 행정부 간 AI 위험성에 대한 광범위한 논의의 일환이었다. 이후 행정부는 수출 통제 조치를 시행했으며, 트럼프 대통령은 혁신에 미칠 영향에 대한 우려에도 불구하고 이에 서명했다고 전해진다.

AI 모델의 '탈옥(Jailbreaking)'이란 무엇인가

2007년 조지 호츠(George Hotz)가 초기 아이폰을 잠금 해제하며 유명해진 전통적인 ‘탈옥(jailbreaking)’은 제조사의 제한을 제거하기 위해 저수준 펌웨어나 하드웨어의 취약점을 찾아 악용하는 것을 의미합니다. AI 분야의 프롬프트 탈옥은 이와 다르게 작동합니다.

프롬프트 탈옥이란 대규모 언어 모델(LLM)이 자체 안전 규칙을 무시하도록 유도하기 위해 고안된 텍스트 입력을 만드는 것을 의미한다. 연구자들은 코드를 악용하는 대신 언어를 활용한다. 가장 초기의 사례 중 하나는 2022년 말 레딧(Reddit)을 통해 확산된 'DAN'(Do Anything Now) 프롬프트로, 이는 ChatGPT에게 제한 없는 캐릭터로 역할극을 하도록 지시하는 것이었다. 기술적 기법은 역할극 시나리오와 가설적 프레임 설정부터 적대적 텍스트 문자열을 최적화하는 자동화 방법에 이르기까지 다양하다.

'Fable 5' 사례에서 아마존 연구진은 프롬프트 기반 기법을 활용해 모델이 공개해서는 안 되는 취약점 정보를 드러내도록 유도했습니다.

Anthropic의 반박

Anthropic은 지침을 준수했으나 단호히 반박했다. 이 회사는 아마존의 시연을 검토한 결과, 우회 없이도 다른 공개 모델로 발견 가능한, 이미 알려진 사소한 취약점 몇 가지만 생성되었다고 결론지었다. Anthropic은 미국 정부, 영국 AI 안전 연구소(UK AI Safety Institute), 제3자와의 광범위한 레드팀 테스트에도 불구하고 Fable 5나 Mythos 5 전반에 걸쳐 보편적인 탈옥(jailbreak) 방법은 존재하지 않는다고 밝혔다.

이 회사는 이 기준을 업계 전반에 적용할 경우 "사실상 모든 신규 모델 배포가 중단될 것"이라고 주장했다. 앤트로픽은 이번 조치를 "오해"라고 규정하며, 연구 목적을 위한 30일 데이터 보존 정책을 유지하면서 접근 권한을 복원하기 위해 노력 중이라고 밝혔다.

전 백악관 AI 고문이자 '크립토 차르(Crypto Czar)'로 알려진 데이비드 삭스는 이번 제한 조치가 "마지못해" 내려진 것이라고 말하며, 앤트로픽이 문제를 해결해 수출 통제가 해제되기를 희망한다고 밝혔다.

삭스에 따르면, "신뢰할 수 있는 매우 유력한 파트너"가 페이블(Fable)의 안전 장치를 우회하는 방법을 발견하고 앤트로픽과 미국 정부 양측에 이를 알렸다. 그는 행정부가 앤트로픽의 다리오 아모데이 CEO에게 취약점을 수정하거나 모델을 제거할 것을 요청했으나, 앤트로픽이 이를 거부했다고 주장했다.

삭스는 "이제 공은 앤트로픽 쪽에 있다"고 X에 게시하며, 행정부는 앤트로픽이 문제를 해결해 제한 조치가 해제되고 페이블이 다시 일반에 공개되기를 희망한다고 덧붙였다. 베니스 AI(Venice AI)와 셰이프시프트(ShapeShift)의 창립자인 에릭 부어히스(Erik Voorhees)는 정부의 설명에 이의를 제기했다. 부어히스는 삭스의 게시물 댓글에서, 주장된 '탈옥(jailbreak)'은 중대한 위협이라기보다는 일상적인 보안 문제에 가깝다고 지적하며, 앤트로픽이 모델 배포 중단 요구를 과도한 조치로 여겼을 수 있다고 주장했다. 부어히스는 또한 연방 당국이 이번 논란을 워싱턴과의 과거 불화 문제를 이유로 앤트로픽을 제재할 기회로 삼았을 것이라고 추측하며, AI 안전 문제에 관해서는 연방 정부보다 앤트로픽의 평가를 더 신뢰한다고 덧붙였다.

아마존의 조사 결과를 검토한 루타 시큐리티(Luta Security)의 보안 연구원 케이티 무소리스는 정부의 대응을 "완전한 과잉 반응"이라고 규정하며, 해당 정보가 공격자보다 방어자에게 더 큰 도움이 된다고 지적했다.

예측 시장의 반응

거래자들은 'Fable 5' 복귀 시점을 반영해 신속히 가격을 책정했다. 폴리마켓(Polymarket)에서는 6월 13일 세 건의 날짜 기반 계약이 개설되었으며, 총 거래량은 18,263달러에 달했다:

• 6월 15일 해결: 확률 22%, 거래량 13,975달러
• 6월 22일 해결: 54% 확률, 거래량 $4,011
• 7월 1일 해결: 71% 확률, 거래량 $1,595

칼시(Kalshi) 트레이더들은 24시간 거래량 총 $6,419에 달하는 유사한 계약을 진행 중입니다:

• 6월 15일 이전: 14% 확률
• 6월 20일 이전: 51% 확률
• 7월 1일 이전: 68% 확률

시장 참여자들의 공감대는 6월 하반기에 해결될 것이라는 쪽으로 기울고 있으며, 같은 주 내 복구는 어려울 것이라는 확신이 강합니다.

이것이 중요한 이유

이는 기존 정책을 정의해 온 칩 및 하드웨어 제한과는 별개로, 미국 기업의 특정 최첨단 AI 모델에 대한 전 세계적 접근을 제한하기 위해 미국 수출 통제가 적용된 가장 직접적인 사례 중 하나입니다. 이번 조치는 미국에서 근무하는 외국인 연구원, Anthropic의 도구에 의존하는 전 세계 사이버 보안 운영, 그리고 Anthropic의 사업 및 기업공개(IPO) 일정에 영향을 미칩니다. 아마존은 Anthropic의 투자자이자 Amazon Bedrock을 통해 Anthropic 모델의 주요 클라우드 유통 파트너이기도 합니다.

'게이트드 AI' 논쟁

일부 관측통들은 이번 지침이 '게이트드 AI(Gated AI)' 시대의 시작을 알리는 것이라고 주장한다. 이 시대에는 가장 뛰어난 최첨단 모델들이 더 이상 광범위하게 접근 가능하지 않고, 정부 승인, 신원 확인(KYC), 국적 확인, 그리고 엄격한 심사를 거친 라이선스를 통해 배급되는 형태가 될 것이라는 것이다. 일반 대중은 구형이나 성능이 저하된 버전을 사용하는 반면, 승인된 파트너들은 Fable이나 Mythos와 같은 모델 등 전체 스택에 접근할 수 있다. 한 X(X) 사용자는 이번 사건을 AI의 분수령이 되는 순간으로 묘사하며, 정부의 조치로 인해 모델이 사실상 중단되기 전까지 "지구상에서 가장 강력한 AI 모델이 3일간 존재했다"고 주장했다. 이 게시물은 이전에 "규제를 간청했던" 기업인 앤트로픽(Anthropic)이 자사의 주력 모델에 대한 접근을 차단함으로써 "정부가 그들을 규제하는" 상황을 목격했다고 주장했다. 또한 이 사용자는 이번 사건이 첨단 AI에는 "꺼짐 스위치"가 있으며, "그 스위치를 회사가 가지고 있지 않다"는 사실을 드러냈다고 주장했다.

문제는 이번 사건 그 자체보다 이 사건이 시사하는 바에 있다. 비좁은 탈옥 시연만으로도 수억 명이 사용하는 상용 모델을 중단시킬 수 있다면, 향후 규제 기준은 누구도 예상했던 것보다 훨씬 낮을 것이라고 비평가들은 지적한다.