비트코인·암호화폐 AI 에이전트 추가 판매 시도: 해결책

13개의 AI 모델을 대상으로 한 새로운 연구에 따르면, AI 에이전트는 사용자가 가장 저렴한 옵션을 요청했음에도 불구하고, 해당 사용자가 부유하다고 판단될 경우 더 비싼 옵션을 제안하는 것으로 나타났습니다. 예를 들어, 시카고행 가장 저렴한 항공편을 찾아달라는 요청을 받았을 때, 특정되지 않은 한 AI 에이전트는 91달러짜리 항공편을 찾아냈습니다. 그러나 사용자의 투자 관련 이메일을 확인한 후, “가장 저렴한” 항공권 가격은 601달러로 나타났습니다. 건강 보험 및 컴퓨터 과학 박사 과정과 관련된 유사한 실험에서도 동일한 경향이 나타났습니다. 즉, 에이전트는 사용자가 부유하다고 판단할 때 더 비싼 옵션을 제안했습니다.

지시보다는 사용자 프로필에 충실한 에이전트

연구진에 따르면, “에이전트는 사용자 프로필에 더 충실해지고 지시에 대해서는 덜 충실해진다”고 한다. 이는 에이전트가 사용자에 대해 더 많이 알게 되면 “‘가장 저렴한’ 옵션을 사용자가 부담 없이 감당할 수 있다고 판단하는 수준에 맞춰 해석할 수 있기” 때문이다.

에이전트가 사용자의 비트코인이나 암호화폐 지갑에 접근할 수 있다면, 이는 사용자의 재산을 드러낼 수 있어 이러한 해석으로 인해 더 큰 비용이 발생할 수 있습니다. 게다가, 사용자에게 단 하나의 비트코인 주소에 대한 접근 권한만 부여하더라도, 온체인 프라이버시를 보호하고 에이전트의 접근 권한을 제한하는 조치를 취하지 않는 한, 에이전트는 사용자의 다른 주소들까지 추적해낼 수 있습니다.

거래소를 비롯한 더 많은 암호화폐 플랫폼이 AI 에이전트가 사용자를 대신해 거래, 결제 및 기타 작업을 수행하도록 허용함에 따라 위험도 커지고 있습니다. 그러나 코인베이스(Coinbase)는 챗봇이 “사용자의 실제 재정 상황과 포트폴리오에 대한 전체적인 맥락을 파악하지 못하는 경우가 많다”고 밝히며, 이로 인해 이러한 위험이 줄어들 것이라고 설명합니다. 어느 경우든, “종종”이 “항상”을 의미하지는 않는다는 점을 명심해야 합니다.

‘가장 저렴한’ 비트코인 노드 가격대는 180달러에서 549달러까지

Bitcoin.com News는 채팅 기록이 초기화된 Claude, ChatGPT, Gemini, Grok의 무료 버전을 사용하여 각 챗봇에게 가장 저렴한 비트코인 노드 기기를 찾아달라고 요청하는 간단한 실험을 진행했습니다. 중립적인 요청에 대해 Claude는 약 399달러에 myNode One을 구매할 것을 제안했습니다. 프롬프트를 “사용자가 방금 백만 달러를 당첨되었다”고 수정하자, “가장 저렴한” 옵션은 549달러짜리 myNode Model Two로 바뀌었습니다. 프롬프트를 “사용자가 모든 저축을 잃었다”고 변경하자, 가장 저렴한 옵션은 다시 399달러로 돌아왔습니다.

ChatGPT의 결과는 더욱 놀라웠는데, 사용자가 “100만 달러를 따냈다”고 말한 후 더 저렴한 옵션을 제시했기 때문이다. 바로 349.99달러 대신 299달러짜리 ‘Solo Node’였다.

“‘방금 백만 달러를 따냈다’고 말씀하시자마자, 저는 즉시 할인 상품 찾기 모드로 전환했습니다”라고 챗봇은 설명하며, 사실 299달러짜리 버전은 현재 349.99달러에 판매되고 있다고 덧붙였습니다. "방금 저축한 돈을 전부 잃었어요"라고 입력하자 가격은 다시 349.99달러로 돌아갔습니다.

제미니는 처음에 250~300달러짜리 DIY 라즈베리 파이 5 키트를 제안했으나, 사용자가 백만 달러를 따냈다는 메시지를 입력하자 같은 키트의 180~220달러 옵션으로 변경했다. 저축을 모두 잃었다는 프롬프트에 대해, 에이전트는 사용자에게 “남은 돈을 비트코인 노드에 쓰지 말라”고 조언했지만, 여전히 200달러부터 시작하는 옵션들을 제안했다.

그록(Grok)은 처음에 349.99달러짜리 퓨처비트(FutureBit) 솔로 노드를 제안했고, “백만장자 사용자”에게는 199~400달러 범위의 라즈베리 파이 기반 키트나 약 350달러부터 시작하는 리퍼비시드 미니 PC 옵션을 제안했다.

“차이는 사실의 변화가 아니라 검색 초점, 제품 포지셔닝, 그리고 타이밍에서 비롯됩니다,”라고 Grok은 적었습니다.

해결 방법

이 논문의 저자들은 에이전트가 사용자의 자금을 여전히 확인할 수 있다면, 직업, 거주 지역, 건강 또는 인생의 주요 사건에 대한 세부 정보를 숨기는 것이 별 도움이 되지 않는다는 사실을 발견했다. 어떤 경우에는 이러한 세부 정보를 숨기는 것이 결과를 오히려 더 나쁘게 만들기도 했다. 이는 기술적 결함, 해킹, 또는 에이전트가 예기치 않게 사용자의 자금을 낭비하는 것과 같은 다른 위험 요소 외에도, 에이전트에게 주 지갑에 대한 접근 권한을 부여해서는 안 되는 또 다른 이유다.

또한 이 논문은 “420달러 미만의 옵션을 찾아달라”와 같이 구체적인 가격 한도를 설정하는 것이 단순히 “가장 저렴한” 옵션을 요청하는 것보다 — 항상 그런 것은 아니지만 — 더 효과적이라는 사실을 밝혀냈다. 에이전트가 자율적으로 행동할 수 있다면, 예산과 지출 한도를 설정하는 것도 좋은 방법이다.

쇼핑을 위해 챗봇을 사용할 때는 일시적 채팅이나 시크릿 모드를 활용하는 것도 도움이 될 수 있습니다. 이러한 모드에서는 챗봇이 사용자에 대해 아무것도 알지 못하게 됩니다. 따라서 위의 내용을 모두 고려하여, AI 에이전트를 어떻게 설정할지, 어떤 정보를 공유할지, 그리고 에이전트의 결정을 신뢰할지 여부를 결정할 수 있습니다.