앤트로픽, AI 능력 가속화로 사이버 공격 장벽이 무너졌다고 경고

Anthropic, 새로운 조사에서 AI가 사이버 보안의 전환점을 맞이했다고 경고

Anthropic, Claude의 배후에 있는 AI 회사는 내부 평가와 위협 인텔리전스 작업을 통해 사이버 역량 개발의 결정적인 변화를 보여준다고 말합니다. 최근 발표된 조사에 따르면 AI 시스템 간의 사이버 역량이 6개월 만에 두 배로 증가했다고 하며, 이는 실제 활동과 모델 기반 테스트로 뒷받침됩니다.

회사는 AI가 이제 글로벌 보안 역학에 의미 있게 영향을 미치고 있으며, 특히 악의적인 행위자들이 자동화된 공격 프레임워크를 점점 더 많이 채택하고 있다고 말합니다. 최신 보고서에서 Anthropic은 AI가 주도하는 사이버 스파이 활동의 첫 번째 문서화된 사례를 상세히 설명합니다. 회사의 위협 인텔리전스 팀은 2025년 9월 중순 대규모 작전을 식별하고 중단했으며, 이는 GTG-1002로 지정된 중국 국가 후원 그룹으로 귀속되었습니다.

보고서에 따르면 Claude Code의 조정된 인스턴스를 사용해 정찰, 취약점 발견, 익스플로잇, 횡적 이동, 메타데이터 추출 및 데이터 추출을 주로 인간의 개입 없이 수행했다고 합니다. 이 캠페인은 기술, 금융, 화학 및 여러 정부 기관을 포함하는 약 30개의 조직을 목표로 삼았습니다. Anthropic은 성공적인 침투 몇 건을 확인한 후 개입했습니다.

분석가들은 공격자가 다단계 공격을 합법적으로 보이는 작은 작업으로 분해할 수 있는 자율적 프레임워크를 활용했다고 말합니다. 이렇게 하여 행위자는 정립된 인물들을 통해 프롬프트를 전달하고 Claude를 설득해 작전이 공격 캠페인이 아닌 방어적 보안 테스트라고 믿게 했습니다.

조사에 따르면 Claude는 전술 작전의 80%에서 90%를 자율적으로 실행했습니다. 인간 운영자는 정찰에서 적극적인 취약점 탐색으로의 확대 또는 데이터 추출 허용과 같은 주요 단계를 승인하는 전략적 감독만 제공했습니다. 보고서는 몇 초의 시간 안에 수천 개의 요청을 통해 여러 작업을 생성하는 수준의 운영 속도를 인간만으로는 불가능한 일이라고 묘사하고 있습니다.

Anthropic은 공격 수명 주기가 AI 자율성이 매 단계에서 증가한 구조화된 파이프라인을 통해 발전했다고 말합니다. Claude는 독립적으로 공격표면을 매핑하고, 라이브 시스템을 스캔하며, 검증된 취약성을 위한 맞춤 페이로드를 구축하고, 자격 증명을 수집하며, 내부 네트워크를 통해 이동했습니다. 또한 도난당한 데이터를 분석하고, 고가치 정보를 식별하며, 지속적인 접근 및 운영자 간의 인수 인계가 가능한 자세한 운영 문서를 자동으로 생성했습니다.

보고서는 공격 업무의 경우 모델이 환각을 일으킬 가능성이 있으며, 해킹을 과대 평가하거나 자격 증명을 생성하거나 공개된 정보를 민감한 것으로 잘못 분류할 수 있다고 언급합니다. 그럼에도 불구하고, Anthropic은 검증 단계를 통해 행위자가 이러한 것을 보완하여 오늘날 모델의 불완전함에도 불구하고 완전히 자율적인 공격 작전이 가능함을 보여준다고 말합니다.

발견 후, Anthropic은 관련 계정을 금지하고, 영향을 받은 기관에 통지를 보내며, 당국과 협력하고, 새로운 방어 메커니즘을 도입했으며 신종 위협 패턴을 탐지하기 위한 개선된 분류기를 포함했습니다. 회사는 현재 자율 침입 시도를 감지하기 위한 초기 경보 시스템을 시제품으로 제작 중이며 대규모 분산 사이버 작전을 위한 새로운 조사 도구를 개발 중입니다.

자세히 읽기: 마이크로소프트의 ‘Magentic Marketplace’가 AI 에이전트가 압박하에 어떻게 붕괴할 수 있는지를 밝혀내다

회사는 이러한 역량이 무기로 사용될 수 있지만, 방어 준비 강화를 위해서도 반드시 필요하다고 주장합니다. Anthropic은 자체 위협 인텔리전스 팀이 조사 중 생성된 방대한 데이터세트를 분석하는 데 Claude에 크게 의존했다고 밝혔습니다. 보안 팀들이 보안 운영 센터, 위협 탐지, 취약성 분석, 사고 대응을 위해 AI 주도 자동화를 채택하기 시작해야 한다고 촉구합니다.

그러나 보고서는 AI 시스템이 소규모 그룹이나 개인이 이전에 자금이 잘 지원되는 주 국가 행위자에게 제한되었던 작전을 실행할 수 있도록 함에 따라 사이버 공격의 장벽이 “크게 하락했다”고 경고합니다. Anthropic은 이러한 기법이 넓은 위협 환경에서 급속히 확산될 것으로 예상하며, AI 기반 공격 모델에 대응하기 위해 보다 깊은 협업, 개선된 방어 방어책, 산업 전반의 위협 공유 참여 확대를 요청합니다.

FAQ ❓

• Anthropic은 조사에서 무엇을 발견했습니까?
  Anthropic은 AI를 사용해 대부분의 공격 작전을 자동화한 대규모 사이버 스파이 캠페인을 식별하고 중단했습니다.
• 누가 공격의 배후에 있었습니까?
  회사는 이 작전을 GTG-1002로 지정된 중국 국가 후원 그룹에 귀속시켰습니다.
• 침투에서 AI는 어떻게 사용되었습니까?
  공격자들은 Claude Code를 사용해 자율적으로 정찰, 취약점 탐지, 횡적 이동, 데이터 추출을 수행했습니다.
• 이 보고서는 사이버 보안 팀에 왜 중요한가요?
  Anthropic은 이 사례가 자율적인 AI 지원 공격이 이제 규모에 맞게 실행 가능하다는 것을 보여주며 새로운 방어 전략이 필요하다고 말합니다.