스크립트에서 스웜으로: AI가 기존의 시빌 공격 방어 체계를 무너뜨리는 이유

• 파올로 다미코는 향후 5년 내에 AI 에이전트가 신원 관리를 핵심적인 역할로 전환시킬 것이라고 말합니다.
• Agentkit과 x402의 통합을 통해 승인된 에이전트당 1명의 검증된 사용자에 대한 거래 보안이 보장됩니다.
• 2026년까지 World ID는 ZK 암호화를 활용해 사용자가 새로운 사람임을 증명하도록 요구함으로써 봇을 차단할 것입니다.

'반복적 봇'의 종말

수년 동안, 단일 행위자가 시스템을 교란하기 위해 수많은 가짜 신원을 생성하는 시빌(Sybil) 공격에 대한 대응은 봇과 유사한 행동을 탐지하는 게임이었습니다. 만약 천 개의 계정이 완벽하게 동기화되어 움직이거나 동일한 경직된 스크립트를 사용한다면, 보안 시스템은 이를 악성으로 쉽게 식별할 수 있었습니다.

그러나 인공지능(AI)의 도입은 이러한 전통적인 방어 체계를 근본적으로 무너뜨리고 있습니다. 진화하는 위협 환경에 초점을 맞춘 Bitcoin.com News와의 인터뷰에서 Tools for Humanity의 수석 제품 엔지니어인 파올로 다미코(Paolo D’Amico)는 AI가 어떻게 기술적 도구에서 디지털 공격자들을 위한 정교한 "전력 증강 수단"으로 변모했는지 설명했습니다.

과거에는 대규모 시빌(Sybil) 공격을 수행하려면 '복제 계정'들이 서로 구별되도록 하기 위해 상당한 기술적 부담이 필요했습니다. 다미코에 따르면, AI는 신뢰할 수 있는 페르소나 생성을 자동화함으로써 이러한 진입 장벽을 낮췄습니다. "AI는 이러한 자동화를 실제로 더 쉽게 배포할 수 있게 할 뿐만 아니라 더 설득력 있게 만듭니다,"라고 다미코는 지적합니다. "이는 공격자가 현실적인 행동을 생성하고, 동적으로 적응하며, 기존 보안 통제를 우회할 수 있는 능력을 확장합니다."

정적인 코드를 따르는 기존 봇과 달리, AI 기반 에이전트는 고유한 소셜 미디어 게시물을 생성하고, 다양한 온체인 거래에 참여하며, 인간의 타이밍에서 나타나는 "지터(jitter)"를 모방할 수 있습니다. 이러한 동적 적응 능력으로 인해 기존 보안 시스템이 계정 클러스터가 단일 주체에 의해 제어되고 있음을 식별하는 것은 거의 불가능해졌습니다.

다미코가 지적한 가장 중요한 변화는 아마도 자동화된 트래픽을 인식하는 방식의 근본적인 변화일 것이다. 역사적으로 보안 팀은 단순한 기준 하에 운영되어 왔다. 즉, 자동화된 트래픽은 나쁘고, 인간의 트래픽은 좋다는 것이다. 그러나 합법적인 작업을 수행하는 분산형 AI 에이전트의 시대로 접어들면서, 이러한 이분법적 구도는 무너지고 있다.

"에이전트는 온라인 상호작용을 위한 새로운 인터페이스를 제공하며, 이로 인해 유해한 자동화와 합법적이거나 의도된 자동화 활동을 구별하기가 더 어려워지고 있습니다,"라고 다미코는 설명합니다. "결과적으로, 사이트들은 이제 자동화 자체가 더 이상 악용의 확실한 신호가 아닌 세상에 맞춰 방어 체계를 조정해야 합니다."

CAPTCHA는 사라질 것인가?

AI가 퍼즐을 풀고 인간의 브라우징 패턴을 모방할 수 있다면, 다음과 같은 의문이 제기됩니다. 기존의 CAPTCHA는 이제 끝났을까요? 다미코에 따르면, 이러한 도구들이 반드시 사라지는 것은 아니지만 급격한 진화를 겪고 있습니다. 단순한 퍼즐에 의존하는 방식은 AI가 점점 더 우위를 점해가는 게임이 되고 있습니다. 대신, 견고한 솔루션은 디지털 세계에서 인간을 근본적으로 더 잘 표현하는 방향으로 나아가야 합니다. 다미코는 프라이버시 패스(Privacy Pass) 워킹 그룹에서 제안한 것과 같은 새로운 표준을 예로 들며, 더 깊은 기술적 계층을 통해 "인간 개입(human-in-the-loop)" 행동이 검증되는 미래를 엿볼 수 있다고 지적한다. 자율 에이전트의 시빌 스웜(Sybil swarm) 위협에 대응하기 위해, 검증된 고유성을 최우선으로 하는 새로운 인프라가 등장하고 있다. 월드 ID 프로토콜(World ID Protocol)을 기반으로 한 SDK인 에이전트킷(Agentkit)이 바로 그러한 솔루션 중 하나다.

웹사이트는 에이전트킷을 통합함으로써 월드 ID 자격 증명에 설정된 규칙에 따라 콘텐츠 접근을 제한하거나 통제할 수 있습니다. 가장 즉각적인 적용 사례는 고유한 인간을 기준으로 한 요청 제한입니다. 예를 들어, 플랫폼은 검증된 각 개인에게 특정 시간 내에 정해진 횟수의 요청만 허용함으로써, 대량으로 생성된 봇 계정의 이점을 효과적으로 무력화할 수 있습니다. 다미코에 따르면, 월드 ID는 시빌 공격의 확장을 훨씬 더 어렵게 만드는 보안 계층을 도입합니다. 이 생태계에서는 공격자가 단순히 새로운 이메일 주소나 전화번호를 제공하는 것만으로는 더 이상 새로운 신원을 획득할 수 없습니다. 시스템에 있어서는 반드시 새로운 사람이어야만 합니다. 이러한 변화는 정교한 신뢰할 수 있는 하드웨어인 '오브(Orb)'와 제로 지식(ZK) 암호화의 사용을 기반으로 하며, 개인의 프라이버시를 침해하지 않으면서도 고유성을 검증할 수 있도록 보장합니다.

자율 에이전트 경제가 성장함에 따라, 과제는 단순한 신원 확인에서 권한 부여로 옮겨가고 있습니다. x402와 같은 새로운 프로토콜을 통해 에이전트는 웹 리소스에 대해 직접 결제할 수 있게 되었습니다. 그러나 중요한 보안 문제는 여전히 남아 있습니다. 에이전트가 악성 스크립트처럼 행동하는 것이 아니라, 과연 인간을 대신하여 비용을 지출하고 있는지 어떻게 알 수 있을까요?

규제 전망: 기반으로서의 프라이버시

다미코는 x402와 에이전트킷(Agentkit)의 통합이 디지털 시대를 위한 "대리권" 모델을 제공한다고 설명합니다. x402가 결제 메커니즘을 처리하는 동안, 에이전트킷은 요청 배후의 권한을 검증합니다.

"AgentKit을 통해 사용자는 자신의 인간 증명 제시를 에이전트에게 위임할 수 있습니다,"라고 D’Amico는 말합니다. "이 모델에서 World ID는 증명을 생성할 수 있는 여러 개의 승인된 키를 가질 수 있습니다. 하나의 키는 사용자의 기기에 속하며, 사용자는 AgentKit을 통해 에이전트 키를 승인할 수도 있습니다."

이는 에이전트가 x402를 통해 결제를 진행할 때, 검증된 인간으로부터 명시적으로 권한을 위임받았음을 증명하는 암호화 서명이 함께 전달된다는 것을 의미합니다. 무엇보다 중요한 점은 이 권한이 제한적이라는 것입니다. 에이전트는 부여받은 권한 범위 내에서만 행동할 수 있으며, 사용자의 World ID를 변경하거나 신원 관리 권한을 더 광범위하게 장악할 수는 없습니다. 이러한 기술들이 디지털 신원의 경계를 넓혀가고 있지만, 이들은 진공 상태에서 존재하는 것은 아닙니다. 그러나 이러한 혁신을 위한 앞길은 끊임없이 변화하는 글로벌 규제 환경과 밀접하게 연결되어 있습니다. D’Amico는 규제 프레임워크의 진화를 장애물이 아닌 기술 성장에 필수적인 동반자로 간주합니다. "AI가 계속 발전함에 따라, 신원 및 개인정보 보호를 둘러싼 규제 프레임워크도 기술과 함께 진화할 것으로 예상합니다,"라고 D’Amico는 말합니다. "이러한 발전은 환경을 재편하여 새로운 기회를 열어주는 동시에 새로운 위험과 공격 경로를 초래할 것입니다."

향후 5년을 내다보며, 다미코는 신원 관리가 주변적인 보안 기능에서 인터넷의 핵심 기둥으로 전환될 것이라고 전망한다. "AI 네이티브" 세상에서 신원의 정의는 창작자와 전달자 모두를 포괄하도록 확장되어야 한다. "인간의 경우, 이는 신원이 온라인상에서 실제 인물을 신뢰할 수 있게 대변할 수 있도록 하는, 더욱 강력한 검증 가능한 신뢰 기반이 필요함을 의미합니다,"라고 다미코는 예측한다. "이와 동시에, 자율 에이전트를 위한 신원 프레임워크의 중요성도 커질 것으로 예상합니다." 에이전트가 금융 시스템 및 플랫폼과 더욱 의미 있는 방식으로 상호작용하기 시작함에 따라, 업계는 에이전트가 누구나 무엇을 대표하는지, 권한의 범위는 어느 정도인지, 그리고 실제 사용자를 대신하여 행동하고 있는지 여부를 검증할 수 있는 보다 명확한 방법을 필요로 하게 될 것입니다.