빅 AI의 규제 장악 전략이 역효과를 냈을 가능성이 크다

세계에서 가장 영향력 있는 AI 기업들은 연방 정부에 자신들에 대한 규제를 적극적으로 요청하고 있다. 하지만 이들의 전략은 역효과를 냈을 가능성이 크다. 업계 리더들이 소규모 경쟁자들을 배제하기 위해 규제 장벽을 쌓으려 애쓰는 동안, 입법자들은 주요 AI 연구소에 50%의 공공 지분 보유를 의무화하고, 승인되지 않은 시스템을 개발한 개발자에게 최대 20년의 징역형을 부과하는 등의 법안을 제안하고 있다.

인공지능 붐을 주도해 온 기업들은 지난 2년 동안 인간의 이해를 초월하는 시스템을 구축해 왔다. 그리고는 더 이상한 행동을 취했습니다. 그들은 워싱턴으로 가서 정부에 자신들의 산업을 보호하기 위한 장벽을 세워달라고 요청한 것입니다. 이는 전형적인 기업의 전략이었습니다. AI가 초래할 존재적 위험에 대해 입법자들에게 경고함으로써, 최대 규모의 선도 연구소들은 소규모 스타트업 경쟁사들이 감당할 수 없는 고비용의 안전 규제를 유도하고자 했던 것입니다.

흥미롭게도 워싱턴은 실제로 그들의 요구에 귀를 기울였다. 하지만 정치인들은 기술 거물들에게 안락한 규제 독점권을 부여하는 대신, 그들을 당황하게 만들었다. 이제 이 업계는 초지능에 대한 연방 차원의 금지 제안, 연방 교도소 수감 위협, 그리고 세계에서 가장 가치 있는 비상장 기술 기업들의 지분 절반을 몰수하려는 입법적 압박에 직면해 있다.

두려움을 팔아 경쟁 장벽을 쌓다

인공지능 업계는 현재 막대한 자본력을 갖춘 대형 선도 연구소와 소규모 오픈소스 개발자들로 양분되어 있다. 거대 기업들, 특히 앤트로픽(Anthropic)은 재앙적인 경고에 크게 힘을 실고 있다. 논리는 간단하다. AI는 너무나 위험하기 때문에, 극도로 보안이 철저하고 막대한 자금을 보유한 소수의 기업만이 이를 개발할 수 있도록 허용되어야 한다는 것이다. 최근 한 전직 앤트로픽 직원은 회사가 너무 빠르게 움직여 실제로 인류에 해를 끼칠 수 있다는 이유로 회사를 그만두었다고 밝혔다.

트럼프 전 행정부의 암호화폐 및 AI 담당 수석 보좌관 데이비드 삭스(David Sacks)와 같은 비평가들은 이러한 주장의 속내를 꿰뚫어 보고 있다. 그는 주요 AI 연구소가 규제 장악 전략을 펼치고 있다고 비난했다. “앤트로픽은 공포 조장을 바탕으로 정교한 규제 장악 전략을 펼치고 있습니다. 스타트업 생태계를 훼손하고 있는 주 정부의 규제 광풍에 대해 주된 책임이 있습니다,”라고 삭스는 2025년 10월 X에 게시했습니다. 이번 주말, 삭스는 이 주제에 대해 다시 X에 글을 올리며 다음과 같이 썼습니다.

그러니 마음껏 경계를 정해 보세요. 그 경계를 설정하는 건 바로 여러분입니다. 초지능을 개발하지 않는 가장 쉬운 방법은, 여러분이 그것을 개발하지 않기로 합의하는 것입니다. 그 대가로 여러분이 선호하는 규제 체계를 요구하는 것은 대중과 정치 체제에 대한 협박으로 보일 것입니다. 그러니 그냥 그렇게 하세요. 그렇게 한다면 다음 논의를 위한 호의적인 분위기를 조성할 수 있을 것이다. 그렇지 않다면, 우리는 이것이 단지 또 다른 규제 포획 시도였거나 선거 시즌을 겨냥한 심리전이었다는 것을 알게 될 것이다.”

만약 정부가 비용이 많이 드는 제3자 평가 기관, 막대한 컴퓨팅 기준, 엄격한 라이선스 제도를 의무화한다면, 스타트업들은 끝장날 것입니다. 기존 기업들은 공공 안전을 명분으로 시장을 오늘날의 상태 그대로 동결시켜 자신들의 지배력을 공고히 할 수 있게 됩니다. 정부가 이에 동조하여 기업들이 원하는 대로 정확한 규칙을 제정해 준다면, 이는 훌륭한 전략이 될 것입니다.

20년 징역형 위협

그러다 상황이 틀어졌습니다. 버니 샌더스 상원의원과 그렉 카사르 하원의원은 9월 3일 ‘인공 초지능 금지법(Ban Artificial Superintelligence Act)’을 발의했습니다. 이 법안은 광범위한 인간 인지 능력을 따라잡거나 능가하는 시스템, 혹은 시스템 중단에 저항할 수 있는 시스템의 개발을 영구적으로 금지할 것이다. 또한 새로운 내각급 AI 기관이 규정을 마련할 때까지 첨단 기술 개발을 전면 중단할 것을 요구한다.

이 법안을 위반할 경우의 처벌 조항에서 이야기는 더욱 극적으로 전개된다. 이 법안은 승인되지 않은 AI를 개발한 기업에 대해 법인 해산 및 개발자에게 최대 20년의 징역형을 부과하겠다고 위협하고 있다. 20년. 이는 승인받지 않은 코드를 작성하는 행위를 핵무기 위반과 동일한 법적 중대성으로 취급하는 셈이다. 주요 연구소들은 워싱턴에 찾아가 보호 장치를 요청했으나, 워싱턴은 연구원들을 연방 교도소에 수감하겠다고 위협하며 대응했다.

동의한 CEO

반전이라면, 일부 업계 리더들이 사실상 이러한 통제를 지지하고 있다는 점이다. 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) 최고경영자는 최근 제3자 평가 기관의 도입과 정부 주도의 연구소 간 협력을 촉구하는 포괄적인 논문을 발표했다. 그는 업계가 선도적인 역할을 주도적으로 수행해야 한다고 주장한다.

이후 아모데이는 CBS의 ‘선데이 모닝’에 출연해 그동안 숨겨왔던 진실을 거침없이 털어놓았다. “너무 오랫동안 업계는 이 기술에 위험이 있다는 사실을 사람들에게 숨겨왔습니다,”라고 그는 방송사에 말했다. AI의 민간 통제에 대한 질문을 받자, 그는 “이 기술이 민간 기업에 의해 개발되고 있다는 사실은 항상 매우 이상했습니다… 저도 그들과 같은 생각입니다. 저 역시 불편합니다.”라고 인정했다.

아모데이는 50%의 지분을 몰수하자는 주장을 명시적으로 지지하지는 않았지만, 입법적 공세를 이끄는 바로 그 전제를 인정했다. 첨단 AI는 민간 기업의 손에 맡겨두기에는 너무나 중요하다.

지정학적 충돌

이 문제는 AI 규제를 둘러싼 싸움이 더 이상 단순한 국내 기업 간 다툼이 아니기 때문에 매우 중요하다. 이는 세기의 가장 중요한 기술적 도약을 누가 장악할지에 대한 전투다.

선도적인 연구소들은 독재 국가들에 첨단 칩 공급을 차단함으로써 민주 국가들의 우위를 확대하려 하며, 동시에 자신들의 기술 발전 속도를 신중하게 조율하고 있다. 그러나 극단적인 안전성을 중심으로 오버턴 윈도우를 정의함으로써 정치인들은 극단적인 몰수를 정당화할 수 있게 된다. 업계는 보호적인 규제 체계를 설계하고 있다고 생각했다. 그러나 결과적으로, 기술을 국유화하는 것이 지극히 합리적인 정책 선택처럼 보이는 정치적 환경을 우연히 만들어낸 셈이다.

앞으로의 전망

이 모든 안전성 강화 움직임은 결국 완전히 다른 현실과 정면으로 충돌할 수도 있다. 연구소들이 개발 속도 제한을 간청하고 의회가 초지능 금지 법안을 마련하는 동안, 도널드 트럼프 미국 대통령은 최근 이러한 모든 속도 조절 움직임을 일축했다.

9월 13일 아일랜드에 있는 자신의 골프장에서 기자들과 만난 그는 존재적 위협에 대한 경고를 “일어날 리 없는 일들”이라며 일축했다. 그는 모라토리엄이나 시스템 내 평가자 도입이라는 아이디어를 완전히 거부했다. 대신 그는 전체 분야를 지정학적 경쟁으로 규정하며 “AI에서 승리하는 자가 모든 것을 차지한다”고 단언했다. 이로 인해 업계는 세 가지 극명하게 다른 미래 중 하나를 맞이하게 될 전망이다. 이 기술은 기존 강자들에 의해 장악되거나, 7조 달러 규모의 공공 부유 기금에 인수되거나, 아니면 완전히 규제 없는 지정학적 경쟁 속으로 내몰릴 수 있다. 아직 상황이 완전히 정리되지는 않았지만, 한 가지는 분명하다. 정부 개입을 요청했던 기업들은 곧 자신들이 바랐던 바로 그 결과를 얻게 된 것을 후회하게 될지도 모른다.