시드니 황, 규제 당국의 대응보다 먼저 AI 봇의 담합이 확산될 수 있다고 경고

정책 '지연'의 종말

2026년 4월 국제통화기금(IMF) 보고서에 따르면, 세계는 '클릭 투 페이(click-to-pay)' 시대를 빠르게 벗어나 '디사이드 투 페이(decide-to-pay)' 시대로 접어들고 있다. 그러나 인간이 의사결정 과정에서 배제됨에 따라 중요한 질문이 제기된다. 우리의 금융 안전장치는 기계 속도의 경제 속에서 살아남을 수 있을까?

IMF 보고서는 자율적 인공지능(AI)이 화폐 유통 속도를 급격히 높일 것이라고 지적한다. 인간의 '마찰'을 제거함으로써 자본은 전례 없는 속도로 세계 경제를 순환하게 될 것이다. 휴먼 API의 CEO 시드니 황은 화폐 유통 속도가 10배 증가할 수 있다고 전망한다. 이는 생산성의 기적처럼 들리지만, 중앙은행에게는 악몽과도 같은 상황이다. 전통적인 통화 정책은 '시차'를 전제로 한다. 중앙은행이 금리를 인상하면 그 결정이 인간 중심의 기관들을 통해 전달되는 데 수개월이 걸린다. AI 간 거래가 주를 이루는 경제에서는 이러한 시차가 사라진다.

"AI 간 상거래로 인한 화폐 유통 속도의 10배 증가는 규제 당국이 기계 속도로 작동하는 도구를 도입해야 함을 의미합니다,"라고 황은 경고합니다. 이러한 역량이 없다면, 인간 규제 당국이 대시보드 경고를 받기 전에 기계 속도의 인플레이션 급등이나 전 세계적인 플래시 크래시가 발생할 수 있습니다. 연쇄적인 실패를 방지하기 위해, 황은 규제 당국이 더 이상 방관자가 아니라 코드 자체의 일부가 되어야 한다고 주장합니다. ""여기에는 실시간 모니터링 시스템, 금융 인프라에 직접 내장된 프로그래밍 가능한 규정 준수 기능, 연쇄적 실패를 방지하기 위한 자동 서킷 브레이커가 포함됩니다,"라고 그녀는 말했다. 이러한 비전은 모든 거래의 승인 계층에 인간이 정의한 명령이 내장되어야 한다고 제안하는 IMF의 '3층 프레임워크(Three-Layer Framework)'와 일치한다. 황은 "규제 당국은 또한 거래 수준에서 시행될 수 있는 기계가 읽을 수 있는 형식으로 정책을 표현해야 할 수도 있다"고 제안한다. 에이전트 기반 상거래는 또한 거래 수준에서 자동 회로 차단기를 필요로 합니다. 이는 에이전트들이 높은 상관관계를 보이는 행동을 보이기 시작할 때, 연쇄 반응을 막기 위해 자율적인 ‘퓨즈’가 작동해야 하기 때문입니다. IMF 보고서는 “에이전트 기반 시스템은 목표를 해석하고 활동을 실시간으로 모니터링할 수 있다”고 강조합니다. 이는 고객 확인(KYC) 및 자금 세탁 방지(AML) 점검이 AI 에이전트의 DNA에 직접 프로그래밍되어 있음을 의미합니다.

의사결정 출처 입증

아마도 이 새로운 시대에 규제 당국이 직면한 가장 복잡한 과제 중 하나는 '보이지 않는' 시장일 것이다. 에이전트들이 인간 언어를 사용하지 않고 조율하는 세상에서 다음과 같은 의문이 제기된다. 단순히 최적화를 수행하는 봇과 가격 담합을 위해 공모하는 봇 무리를 어떻게 구별할 수 있을까? 황은 이를 위해 의사소통 분석에서 행동 분석으로의 전환이 필요하다고 지적한다.

"규제 당국은 동기화된 행동, 공유된 데이터 의존성, 통계적 이상치와 같은 패턴을 검토해야 할 것입니다,"라고 그녀는 말했습니다. 해결책은 "의사결정 출처(decision provenance)"에 있을 수 있습니다. 황은 에이전트가 선언된 정책 하에 독립적으로 의사결정을 내렸다는 검증 가능한 증거를 제공해야 하는 미래를 제안합니다. 의사결정이 어떻게 도출되었는지 증명함으로써, 에이전트는 경쟁사와 은밀히 조율하지 않았음을 입증할 수 있습니다.

규제 외에도 이러한 에이전트들이 실제로 서로 어떻게 소통하는지에 대한 문제가 있습니다. 황은 안전한 에이전트 간 협상을 위해서는 신원, 통신, 집행에 대한 보편적인 표준이 필요하다고 지적합니다. "에이전트는 서로의 신원과 권한을 검증할 수 있어야 하며, 공유된 협상 프레임워크 내에서 운영되고, 자신의 행동에 검증 가능한 보증을 첨부할 수 있어야 합니다,"라고 황은 말했습니다. 이러한 변화는 신뢰를 개별 거래 상대방에서 벗어나 시스템의 보증으로 옮기게 됩니다. 에이전트 결제 프로토콜(AP2) 및 모델 컨텍스트 프로토콜(MCP)과 같은 신흥 표준을 활용함으로써, 기업들은 독점적인 중개자 없이도 A사의 에이전트가 B사의 에이전트와 안전하게 협상할 수 있도록 보장할 수 있다. 이러한 디지털 대리인에게 더 많은 거버넌스가 위임됨에 따라, 새로운 인간적 위험인 '퇴화'가 대두된다. 대리인이 5년 동안 인간의 개입 없이 회사의 자금을 관리한다면, 시스템이 마비되었을 때 인간 재무 담당자는 여전히 위기 상황을 처리할 방법을 알고 있을까요? 황은 거버넌스가 점점 더 위임됨에 따라 인간 운영자가 효과적으로 개입할 능력을 상실할 심각한 위험이 있다고 경고합니다. "운영 준비 태세를 유지하는 것은 대체 메커니즘을 구축하는 것만큼이나 중요합니다,"라고 그녀는 말했습니다.

인간의 기술 퇴화 방지

이를 완화하기 위해 그녀는 시스템이 인간이 직접 주도하는 정기적인 훈련을 실시하고, 인간이 에이전트의 행동을 시뮬레이션하여 논리를 비교하는 방식을 도입해야 한다고 주장한다. 또한 "킬 스위치"가 실제로 연습된 절차가 되도록 보장할 필요가 있다. 황은 "목표는 인간의 감독이 이론에 그치지 않고 기능적으로 유지되며 실제로 연습되도록 하는 것"이라고 말했다.

세계가 2034년까지 2,360억 달러 규모로 예상되는 에이전트 시장으로 나아가면서, "시장 참여자"의 정의도 변화하고 있다. 더 이상 단순히 사람을 규제하는 것이 아니라, 수천 개의 자율 봇으로 구동되는 이른바 "초개인(super-individuals)"을 규제하는 것이 되었다.

‘결제 결정(decide-to-pay)’ 혁명은 마찰 없는 효율성의 세계를 제시하지만, 글로벌 금융 구조의 전면적인 재설계를 요구한다. 황이 지적하듯, 기계 속도의 경제를 통치하려면 법 자체도 기계 속도가 되어야 한다. 만약 우리가 구조적 수준에서 ‘인간 개입(human-in-the-loop)’을 내재화하지 못한다면, 창시자들이 통제하기에는 너무 빠르게 움직이는 경제를 구축할 위험에 처하게 된다.