AI 전문가: 진리 프로토콜은 정보 시대의 SSL이 될 수 있습니다

허위정보와 그 위험성

2024년은 인공지능(AI)이 적절한 안전장치가 없을 경우 어떤 위험을 초래할 수 있는지에 대한 강력한 경고의 해였습니다. 인도의 대규모 민주주의 운동에서부터 대만의 긴장된 정치 분위기까지 전 세계를 휩쓸며 AI 기반 허위정보 캠페인은 그 흔적을 남겼습니다.

대만에서는 딥페이크 뉴스 앵커가 현실과 허구의 경계를 흐리게 했고, 미국에서는 바이든 대통령이 뉴햄프셔 민주당원들에게 투표를 단념하도록 한다는 가짜 오디오가 정치적 조작에 AI가 얼마나 쉽게 악용될 수 있는지를 드러냈습니다. 이러한 합성 미디어의 어마어마한 양과 정교함은 많은 사람들을 불확실성에 빠뜨렸으며, 사실과 허구를 구별하는 데 어려움을 겪게 했습니다.

그러나 Swarm Network의 창립자이자 CEO인 Yannick Myson과 같은 일부 전문가들은 문제가 단순히 선거 조작보다 깊다고 주장합니다. 그는 AI 유도 정신병이라는, AI 챗봇과의 장기적인 상호작용과 연관 짓는 일부 연구들이 있는 심각한 현상을 인용합니다. 이 AI 유도 정신병의 대가는 막대했습니다; 일부는 직업을 잃었고, 다른 사람들은 정신과 치료를 받게 되었습니다.

“딥페이크가 우리의 시각 처리 단축키를 악용하는 것처럼, AI 정신병은 우리의 심리적 취약점을 악용하며, 챗봇은 망상적인 사고를 검증하고 증폭시키는 완벽한 메아리 방으로 작용합니다,”라고 마이슨은 말했습니다.

중앙집중식 대분산식 솔루션

마이슨은 현재의 반응적 조치, 예를 들어 임시방편적인 팩트체크 이니셔티브가 이 증가하는 문제를 해결하기에 단순히 불충분하다고 믿습니다. “업계가 깨달은 것은 임시방편적인 팩트체크가 합성 미디어의 속도나 AI 시스템의 심리적 조작에 맞추어 따라잡을 수 없다는 것입니다,”라고 그는 주장합니다.

그의 솔루션은 Swarm Network에 구현되어 있는, 대규모로 검증을 내장하는 것에 초점을 맞춥니다. 이는 콘텐츠 생성 시점에서 출처를 정립하고, 디지털 정보의 출처가 추적되고 인증될 수 있도록 하는 것을 포함합니다. 더 나아가, 마이슨은 정보가 디지털 영역을 통해 확산됨에 따라 교차 점검되고 검증되는 분산 검증 시스템을 지지합니다.

이러한 견고한 “진실의 인프라”에 대한 비전은 AI 산업 내부의 증가하는 우려와 일치합니다. 기술이 빠르게 발전함에 따라, 그 남용의 윤리적 및 사회적 함의가 점점 더 뚜렷해지고 있습니다. 정교한 AI 생성 허위사실에 의해 뒷받침되는 디지털 정보에 대한 신뢰의 붕괴는 민주적 과정, 사회적 결속, 심지어 개별적인 정신적 안녕마저 위협합니다.

이를 해결하기 위해 일부는 새로운 기술과 관련된 잠재적 위험으로부터 사용자를 보호하는 데 중요한 도구로 입증된 과거의 예를 인용하며 규제 대응을 지지하고 있습니다. 그러나 비평가들은 이것이 혁신을 억압하는 의도치 않은 결과를 가져올 수 있다고 경고하며, 마이슨도 이에 동의하는 듯합니다.

“규제는 도움이 될 수 있지만, 진실을 중앙집중화하는 함정을 피해야 합니다. 우리는 정부가 ‘허위정보 법’을 무기로 사용하여 토론을 침묵시킨 사례를 보았습니다,”라고 Swarm Network CEO는 성명했습니다.

이를 뒷받침하는 사례로, 마이슨은 EU 관료들이 유럽 연합의 디지털 서비스 법(Digital Services Act, DSA)을 “제한적인 참여의 도구”로 사용하고 있다고 지적합니다. 마이슨은 EU AI 법도 유사한 문제를 야기한다고 주장합니다.

DSA나 AI법을 시행하는 대신, 마이슨은 투명성을 요구하고, 합성 미디어의 명확한 표기, C2PA 같은 개방적인 출처 기준을 지원합니다. “규칙은 의견이 아닌 증거를 강제해야 합니다,”라고 그가 주장했습니다.

검증의 미래

CEO에 따르면, Meta와 TikTok과 같은 주요 소셜 미디어 플랫폼들은 이를 인식하고, 더 분산된 접근 방식으로 팩트체크를 전환했습니다.

“이 전환은 중앙집중식 팩트체킹이 병목현상과 단일 실패 지점을 만든다는 근본적인 인식을 보여줍니다. 콘텐츠 검증의 미래는 정부나 기업에게 무엇이 진실인지 결정할 힘을 주는 것이 아닙니다,”라고 CEO는 말했습니다.

마이슨은 이러한 전환이 Swarm Network가 제공하는 솔루션과 같은 것들을 필수적으로 만든다고 믿습니다. 소수의 중앙집중식 팩트체커에 의존하기보다는, Swarm은 “사람 검토자와 함께 작업하는 AI 에이전트를 사용해 확인된 주장에 대한 감사 가능한 온체인 기록을 만듭니다.”

실제로, AI 에이전트는 이론적인 개념에서 실용적인 응용으로 빠르게 이동하고 있으며, 다양한 분야의 운영 방식을 근본적으로 변화시키고 있습니다. 이러한 에이전트의 주요 이점은 자동화 및 최적화 능력입니다. 그들은 짧은 시간 내에 방대한 양의 데이터를 처리하고, 인간이 놓칠 수 있는 패턴을 식별하며, 피로 없이 24시간 운영할 수 있습니다.

그럼에도 불구하고, AI 에이전트의 광범위한 채택은 해결해야 할 복잡한 과제를 도입합니다. 이러한 도전 과제를 극복하기 위해, 마이슨은 “에이전트를 투명한 협력자로 전환하고, 확인되지 않은 예언자로 만들지 않는” 회사의 접근 방식을 설명했습니다. 그는 다음과 같이 덧붙였습니다:

“Swarm에서는 에이전트가 정보를 작고 테스트 가능한 주장으로 분해하고, 서로 교차 점검하며, 세부사항이 필요한 경우 인간이 개입합니다. 모든 단계는 로그로 기록되고 온체인에 고정되므로 그들의 추론은 재생 가능합니다. 간단히 말해: 검증 가능한 흔적만 있고, 불투명한 상자는 없습니다.”

한편, 마이슨은 향후 5년 안에 팩트체크가 수동 과정에서 디지털 생활의 기본 기능으로 진화할 것이며, AI 에이전트는 단순한 속도가 아니라 투명성에 의해 평가될 것이라고 믿습니다. 궁극적인 비전은 인터넷의 기초적인 레이어로 진실을 만드는 것입니다.

“웹 트래픽에 SSL이 기본이 된 것과 마찬가지로, 정보에 대한 진실 프로토콜이 기본이 될 것입니다. 그리고 이것이 AI가 세상을 소음으로 가득 찬 상태로 만드는 것을 방지하는 방법입니다,”라고 마이슨은 결론지었습니다.