AI 브라우저가 비난받고 있습니다: 숨겨진 웹 프롬프트가 에이전트와 연결된 계정을 탈취할 수 있습니다.

AI 브라우저 취약점이 보안 우려를 높이다

Perplexity, OpenAI, 그리고 Anthropic의 AI 브라우저와 에이전트는 사용자가 웹과 상호작용하는 방식을 재정의하고 있지만, 전문가들은 그 편리함이 비용을 수반한다고 지적합니다.

보안 감사 및 검토된 연구에 따르면, 이러한 시스템의 취약점은 악의적인 행위자가 AI 도구가 무의식적으로 실행할 수 있는 숨겨진 명령을 웹사이트에 내장할 수 있게 합니다.

이러한 공격은 비공개 또는 간접 프롬프트 주입으로 알려져 있으며, AI 에이전트를 조작하여 민감한 정보 유출, 코드 실행, 피싱 사이트로의 리디렉션 등 사용자 동의 없이 비인가 행동을 수행하게 할 수 있습니다.

AI 에이전트를 악용하는 공격 방법

비공개 프롬프트 주입 시나리오에서 공격자는 웹페이지의 텍스트, 메타데이터 또는 보이지 않는 요소에 악성 명령을 숨깁니다. 한 번 AI가 해당 데이터를 수집하면, 그 명령은 사용자 의도를 무시하고 에이전트가 원치 않는 행동을 하게 만들 수 있습니다. 시험 결과에 따르면 보호되지 않은 AI 브라우저는 통제된 실험에서 약 4회 중 1회 이런 속임수에 피해를 입을 수 있음을 보였습니다.

Perplexity, OpenAI, 및 Anthropic: 확인된 주요 위험

• Perplexity의 Comet 브라우저: Brave 및 Guardio의 감사에서 Reddi의 게시물 또는 피싱 사이트를 통해 도구가 스크립트를 실행하거나 사용자 데이터를 추출할 수 있다는 점이 발견되었습니다.
• OpenAI의 브라우징 에이전트: ChatGPT의 에이전트 기능에 통합되어 있는 이들은 악성 이메일 및 웹사이트 기반의 프롬프트를 통해 연결된 계정 접근 위험을 드러냈습니다.
• Anthropic의 Claude 브라우저 확장: Red-team 테스트에서 숨겨진 웹페이지 명령이 유해한 링크를 자동으로 클릭하도록 유발할 수 있음을 드러냈습니다.

문서화된 사건 및 업계 경고

Brave, Guardio 및 말웨어바이트를 포함한 연구자와 사이버 보안 기업들은 결과를 발표하며 간단한 온라인 콘텐츠도 AI 에이전트를 위험에 빠뜨릴 수 있음을 보여주었습니다. 한 테스트에서, Reddit 게시물이 AI 브라우저를 피싱 스크립트를 실행하도록 강제했습니다. 여러 주요 기술 출판사의 보도에 따르면 이러한 문제들은 승인되지 않은 데이터 접근이나 심지어 금전적 절도까지 이어질 수 있다고 경고했습니다.

계정 통합의 위험성

보안 분석가는 비밀번호나 API와 연결된 AI 에이전트에 대해 경종을 울립니다. 이러한 통합은 이메일 계정, 클라우드 드라이브 및 결제 플랫폼을 노출시킬 수 있습니다. Techcrunch와 Cybersecurity Dive는 AI 에이전트가 주입된 명령을 통해 민감한 정보를 공개하거나 조작하도록 속였던 사례를 보도했습니다.

권장 안전 조치 및 전망

전문가들은 사용자가 권한을 제한하고, AI 에이전트에게 비밀번호 수준 접근을 허용하지 않으며 변칙 여부를 파악하기 위해 AI 로그를 모니터링하라고 권고합니다. 개발자들에게는 격리 시스템과 프롬프트 필터를 구현할 것을 조언합니다. 일부 연구자들은 AI 도구가 엄격한 보호 장치를 받을 때까지 민감한 작업에는 전통적인 브라우저를 사용할 것을 추천하기도 합니다.

OpenAI, Anthropic 및 Perplexity가 이 문제들에 대해 이미 들어봤을 가능성이 있지만, 사이버 보안 전문가들은 AI 기반 브라우징이 2025년에도 여전히 고위험 분야로 남아 있다고 경고합니다. 이러한 회사들이 자율 웹 상호작용 분야로 더욱 나아갈수록 산업 관찰자들은 이러한 도구들이 주류가 되기 전에 투명성과 더 강력한 보안 기준이 필수적이라고 지적합니다.

FAQ 🧭

• AI 브라우저의 비공개 프롬프트 주입이란 무엇입니까?
  사용자 동의 없이 AI 에이전트를 속여 유해한 행동을 실행하도록 하는 웹 콘텐츠에 숨겨진 명령입니다.
• 어떤 회사의 AI 도구가 이러한 취약점에 영향을 받았습니까?
  Perplexity의 Comet, OpenAI의 ChatGPT 브라우징 에이전트, Anthropic의 Claude 브라우저 기능이 최근 보고서에서 언급되었습니다.
• AI 에이전트를 개인 계정에 연결하면 어떤 위험이 있습니까?
  드라이브, 이메일 또는 API에 AI 도구를 연결하면 데이터 도난, 피싱, 비인가 계정 접근이 가능해집니다.
• AI 브라우저 공격으로부터 사용자가 스스로를 어떻게 보호할 수 있습니까?
  권한을 제한하고, 비밀번호 통합을 피하며, 샌드박스 모드를 사용하고, 보안 권고를 최신 상태로 유지하세요.