'10억 명의 사망': 빌 게이츠, AI가 치명적인 사태를 초래할 수 있다고 밝혀

빌 게이츠, AI로 인한 대규모 인명 피해 위험 경고

빌 게이츠는 9월 27일 방영된 ‘미트 더 프레스(Meet the Press)’ 인터뷰에서, 인공지능이 사람들이 이전에는 감히 상상조차 할 수 없었던 규모의 공격을 감행하는 데 도움을 줄 수 있다고 경고했다. 인공지능이 인류를 멸망시킬 수 있느냐는 질문에, 마이크로소프트 공동 창업자인 그는 결과를 예측하기보다는 심각한 가능성을 제시했다. 게이츠는 다음과 같이 말했다:

"AI는 확실히 10억 명의 사망자를 초래할 수 있는 사건을 일으킬 만큼 강력합니다."

AI를 활용한 공격에 대한 그의 경고는 점점 더 정교해지는 도구와 해를 끼치려는 의도를 가진 사람들의 결합에 초점을 맞췄다. 게이츠는 생물학적 공격과 사이버 공격을 당면한 우려 사항으로 지목했다. 그는 올해 AI가 이 두 분야에서 위험한 임계점을 넘어섰다고 주장한 반면, 개발의 상당 부분이 민간 부문에서 이루어진 탓에 정부에는 기술적 전문성이 부족하다고 지적했다.

게이츠가 AI를 ‘진화적 사건’이라 부르는 이유

인터뷰에서 그는 이 기술을 “진화적 사건”이라고 칭하며, 정책 입안자, 연구자, 유권자, 기업들이 AI 활용에 관한 결정에 참여할 것을 촉구했다. 그는 AI가 이미 어떤 면에서는 인간보다 더 똑똑하다고 설명하며, 향후 몇 년 동안 급속한 발전이 있을 것이라고 예측했다. 또한 AI 시스템은 개별 인간의 학습 한계 없이 지식을 전달할 수 있다고 주장했다. 지난 8월 AI의 이점과 해악에 관한 그의 에세이에서도 이와 관련된 주장이 제기되었다. 지금 내리는 선택에 따라 이 기술이 불평등을 줄일지, 아니면 심화시킬지가 결정될 수 있다는 것이다.

이번 인터뷰는 일요일 방송 전에 게이츠가 제기했던 우려를 확장한 것이다. AI 감독에 관한 이전 발언에서 그는 국제원자력기구(IAEA)를 모델로 한 국제 기구 설립을 제안했으며, AI를 이용한 생물학적 공격에 대해 경고한 바 있다.

게이츠, AI 안전장치 의무화 법안 촉구

업계가 자체적으로 규제를 할 수 있겠느냐는 질문에 게이츠는 다음과 같이 답했다.

"자율 규제만으로는 충분하다고 생각하는 사람은 아무도 없습니다."

그는 입법이 필요하며 법 집행 기관과 입법자들이 이러한 보호 조치에 무엇이 포함될지 결정하는 데 도움을 주어야 한다고 말했다. 게이츠는 또한 킬 스위치만으로는 공격을 막을 수 없다고 주장했다. 킬 스위치를 통해 기업은 AI 서비스를 중단할 수 있으며, 모니터링을 통해 시스템의 동작 내역을 파악하고 수사 당국을 위해 기록을 보존할 수 있다. 그는 규정 준수가 개발자들에게 약간의 업무 부담을 더할 수는 있겠지만, 개발 속도를 극적으로 늦추지는 않을 것이라고 말했다.

게이츠는 국경을 초월한 협력도 필수적일 것이라고 했다. 그는 이 과제를 냉전 시대의 핵무기 협상에 비유한 뒤, AI 협정 체결이 그보다 더 어렵다고 설명했다. 그는 핵무기가 핵분열성 물질 접근 등 고유한 특징을 가지고 있다고 말했다. 게이츠는 AI를 주로 국가 간 경쟁으로만 취급할 경우, 적절한 안전장치 없이 급속한 개발이 촉진될 수 있다고 경고했다. 9월 22일 유엔에서 안토니우 구테흐스 사무총장 역시 독립적인 감독 체계를 갖춘, 국가 간 AI 위험에 대한 공동 대응 방안인 다자간 AI 위험 관리 체계를 촉구했다.

사이버 공격에 대한 게이츠의 우려는 자금을 보관하고 이체하는 소프트웨어에도 적용된다. 40개 이상의 비트코인 및 디지털 자산 기관들이 주요 AI 개발사들에게 검증된 보안 연구원들에게 첨단 시스템에 대한 통제된 초기 접근 권한을 부여해 줄 것을 요청했다. 보다 강력한 방어적 접근 권한을 요청한 것은, 방어 측이 이에 상응하는 도구를 갖추지 못한 상태에서 공격자들이 이러한 기능을 이용해 소프트웨어의 취약점을 찾아낼 수 있다는 우려를 반영한 것이다.

AI를 활용한 사기는 더 시급한 위험으로 대두되고 있다

소비자들은 이미 범죄자들이 AI를 이용해 사기를 더 설득력 있게 만드는 소규모 사례들을 겪고 있습니다. FBI는 연방 요원으로 위장한 사람들이 AI로 생성된 영상과 가짜 웹사이트를 이용해 과거 사기 피해자들에게 접근하고 있다고 경고했습니다. 신원 도용 사기에 대한 이 경고는 금융 절도와 관련되어 있으며, 이는 게이츠가 언급한 대규모 인명 피해 사건과는 다른 유형의 피해입니다. 이 두 사례 모두 악용하려는 사람들의 손에 강력한 도구가 들어갈 수 있다는 그의 우려를 잘 보여준다. 암호화폐 보유자의 경우, 공격자가 비밀번호나 복구 정보를 탈취할 때 피싱 메시지나 가짜 거래소로 인해 손실을 입을 수도 있다. 암호화폐 사기를 피하기 위한 조치로는 웹사이트 주소를 확인하고, 원치 않는 메시지에 포함된 링크 대신 공식 사이트를 통해 해당 기관에 연락하는 것이 포함된다.