여러분의 AI 채팅 내용이 구글 검색 결과에 나타날 수도 있습니다 — 한 가지 공유 기능 덕분에 가능해졌습니다

공유된 AI 대화 내용이 검색 가능해졌다

사이버 보안 뉴스(Cyber Security News)의 보도에 따르면, 레딧(Reddit) 사용자들이 “site:claude.ai/share”를 검색했을 때 법률 자문, 엔지니어링 업무, 개인적인 논의가 담긴 공개적으로 접근 가능한 채팅들이 나타난다는 사실을 발견한 후, 수백 건의 클로드 AI 대화 내용이 온라인에 노출된 것으로 전해졌습니다.

클로드(Claude)는 코딩, 글쓰기, 연구 및 업무 과제에 사용되는 앤트로픽(Anthropic)의 인공지능 어시스턴트입니다. 이 서비스의 공유 기능은 사용자가 다른 사람에게 보낼 수 있는 공개 URL을 생성하지만, 보도에 따르면 해당 페이지들은 포럼, 소셜 미디어 또는 기타 공개 웹사이트를 통해 링크가 확산된 후 검색 엔진이 이를 색인화하는 것을 막는 보호 장치가 부족했던 것으로 나타났습니다.

해당 페이지에 대한 구글 검색 결과는 대부분 사라졌는데, 이는 신속한 색인 삭제나 배후에서의 조치가 있었음을 시사하지만, 앤트로픽이 서버 측에서 해당 링크를 무효화하지 않는 한 이전에 저장되거나 북마크된 링크는 여전히 접근 가능할 수 있다.

이번 발견으로 인해 AI 기업들이 민감한 정보를 어떻게 보호하는지에 대한 재검토가 다시 불거졌다. 이 사건은 ‘클로드 코드(Claude Code)’와 관련된 또 다른 앤트로픽 소스 코드 유출 사고가 발생한 지 몇 달 만에 발생했으며, 사용자 데이터를 처리하는 AI 플랫폼의 보안 및 개인정보 보호에 대한 광범위한 우려를 부각시키고 있다.

AI 도구로 유입되는 민감한 정보 증가

전문가들은 계약서 검토, 독점 소프트웨어 디버깅, 비즈니스 문서 분석, 재무 기록 정리, 개인적인 사안 논의 등을 위해 AI 어시스턴트에 점점 더 의존하고 있으며, 이로 인해 챗봇 대화 속에 귀중한 데이터가 포함되고 있다.

금융 데이터는 위험에 노출된 또 다른 유형의 개인정보입니다. 한 비트코인 보유자는 분실한 5 BTC 지갑을 복구하는 과정에서 수년간의 컴퓨터 파일, 노트, 백업 기록을 업로드하며 클로드(Claude)에 의존하기도 했습니다. 이 사례는 대화 내용이나 공유 링크가 공개될 경우 디지털 자산을 노출시킬 수 있는 기밀 금융 정보를 사용자들이 AI 시스템에 점점 더 많이 맡기고 있음을 보여줍니다.

대화 보존 및 모델 훈련을 다루는 Anthropic의 소비자 이용 약관은 특정 상황에서 소비자 채팅 내용이 어떻게 보존될 수 있는지 설명하고, 모델 훈련 선호도를 규율하는 회사의 정책을 개괄하고 있습니다. 또한 이 약관은 사용자가 특정 데이터 설정을 관리할 수 있는 방법을 설명하며, AI 제공업체가 서비스를 통해 공유된 정보를 어떻게 저장, 처리 및 사용하는지 이해하는 것이 중요함을 강조합니다.

우발적인 노출 외에도, 공격자들은 악의적인 캠페인을 통해 AI 플랫폼에 대한 신뢰가 높아지는 점을 악용하고 있습니다. ‘오픈클로(Openclaw)’ 악성코드 캠페인은 합법적인 AI 소프트웨어를 사칭해 사용자의 민감한 데이터를 훔치며, 특히 비밀번호와 암호화폐 지갑을 표적으로 삼았습니다. 이 캠페인은 범죄자들이 AI 도구의 인기를 점점 더 악용하고 있음을 여실히 보여주며, 개인 파일, 인증 정보 및 금융 기록을 공개적으로 접근 가능한 서비스에 보관하지 않는 것이 얼마나 중요한지 다시 한번 강조합니다.

규제 당국, AI 개인정보 보호 관행 검토 지속

미국 연방거래위원회(FTC)는 AI 개인정보 보호 및 기밀 유지 약속에 관한 지침을 통해, 생성형 AI 제품을 개발하는 기업들은 소비자 및 기업 정보의 수집, 보관, 활용 방식에 관한 약속을 준수해야 한다고 경고했다.

이후 해당 기관은 AI 챗봇 데이터 관행에 대한 조사를 착수하여, 여러 제공업체가 챗봇 대화를 통해 얻은 정보를 어떻게 수집, 보관, 공개 및 수익화하는지 검토했다. 규제 당국은 기존 소비자 개인정보 보호법이 생성형 AI 서비스의 급속한 확산을 적절히 다루고 있는지 평가하는 과정에서 데이터 보관 정책, 사용자 보호 조치 및 내부 안전 장치에 대한 세부 정보를 요청했다.

클로드(Claude)와 챗GPT(ChatGPT)가 온체인 기능을 확보함에 따라, AI 시스템이 텍스트 생성을 넘어 연결된 금융 서비스 및 디지털 자산 관리 분야로 확장되면서 위험 요소는 더욱 커질 수 있다. 챗봇이 암호화폐 지갑, 탈중앙화 금융(DeFi) 애플리케이션 및 기타 온라인 계정과 상호 작용을 시작함에 따라, 개인정보 보호 및 보안에 대한 우려는 대화 내역을 넘어 자산, 거래 및 계정 권한으로까지 확대되고 있다.

공유된 대화 검토

클로드 공유 링크를 생성한 사용자는 플랫폼의 개인정보 설정에서 진행 중인 대화를 검토하고, 더 이상 필요하지 않은 링크를 삭제하며, 기밀 정보가 포함된 공개 URL을 게시하지 않도록 주의해야 합니다.

구글 검색 결과는 빠르게 사라질 수 있지만, 검색 엔진이 색인된 결과를 제거한 후에도 복사된 링크, 보관된 페이지, 스크린샷 및 저장된 북마크는 계속 이용 가능할 수 있습니다. 연구자들은 또한 연결된 시스템을 악용할 수 있는 AI 에이전트 공격 기법을 문서화하여, 악의적인 행위자들이 브라우저, 이메일 계정, 클라우드 스토리지 및 금융 서비스에 접근 권한이 있는 AI 도구를 어떻게 조작할 수 있는지 보여주었습니다. 이러한 연구 결과는 챗봇의 민감한 파일, 인증 정보 및 금융 계좌에 대한 접근 권한을 제한하는 동시에, 개인 또는 기업 데이터와 연동되는 AI 애플리케이션에 부여된 권한을 정기적으로 검토하는 것이 중요함을 강조합니다.