공개 없으면 수익도 없다: X, 합성 전쟁 허위조작에 맞서 수익화를 무기화하다

커뮤니티 노트의 역할

소셜 미디어 플랫폼 X는 무력 충돌을 다룬 인공지능 생성 영상에 초점을 맞춰 크리에이터 수익 배분 정책을 대폭 개정한다고 발표했습니다. 이번 조치는 중동 전쟁이 격화되는 가운데, 분쟁 기간 중 허위정보에 대한 우려가 커지는 상황에서 나왔습니다.

X의 제품 책임자인 니키타 비어(Nikita Bier)는 말했습니다 공개(고지) 없이 AI로 생성된 전쟁 영상을 게시하는 크리에이터는 수익 공유 프로그램에서 90일간 정지 처분을 받게 됩니다. 반복 위반 시에는 영구 퇴출됩니다. 집행은 플랫폼의 크라우드소싱 팩트체킹 시스템인 커뮤니티 노트(Community Notes)와 생성형 AI 도구에 내장된 메타데이터 및 신호에 의존하게 됩니다.

비어는 전쟁 시기에는 사람들이 현장의 진정한 정보에 접근할 수 있는 것이 매우 중요하다고 강조하며, 현대 AI는 사람들을 오도할 수 있는 콘텐츠를 아주 손쉽게 만들 수 있다고 경고했습니다.

이번 발표는 미국과 이스라엘의 이란과의 전쟁을 둘러싼 허위정보가 온라인에서 빠르게 확산되는 가운데 나왔으며, 이는 더 광범위한 지역 분쟁으로 번질 위험이 있습니다. 소셜 미디어 플랫폼들은 위기 상황에서 합성 미디어가 대중의 인식을 왜곡하지 않도록 막아야 한다는 압박을 점점 더 크게 받고 있습니다.

바이럴된 콘텐츠 중에는 USS 에이브러햄 링컨(Abraham Lincoln) 항공모함의 파괴를 시뮬레이션한 고(高)제작비 AI 영상도 있었습니다. 해당 주장과 영상은 미 중부사령부(U.S. Central Command)에 의해 일축되었습니다. 영화 같은 퀄리티의 이 영상은 극초음속 미사일이 미국의 이지스(Aegis) 방어망을 압도하는 장면을 보여줍니다. 또 다른 클립은 CIA의 지역 본부가 초토화되는 모습을 담았다고 주장했지만, 팩트체커들은 이것이 아랍에미리트(UAE) 샤르자(Sharjah)에서 2015년에 발생한 주거용 건물 화재 영상을 AI로 디지털 보정해 군사 타격처럼 보이게 만든 것이라고 추적한 것으로 전해졌습니다.

유튜브(Youtube)와 틱톡(Tiktok) 같은 다른 플랫폼들도 AI 생성 콘텐츠에 대한 공개(고지) 요건을 도입했지만, X의 접근은 준수 여부를 수익화와 직접 연동한다는 점에서 더 엄격합니다. X는 분산형 팩트체킹 도구로서 커뮤니티 노트에 크게 의존해 왔으며, 이번 새 정책은 그 시스템을 집행에 통합해, 공개되지 않은 AI 전쟁 콘텐츠의 탐지를 사실상 크라우드소싱으로 수행하게 합니다.

FAQ ❓

• X가 이를 집행하는 이유는 무엇인가요? X는 공개되지 않은 AI 전쟁 영상이 이란 분쟁 중 이용자들을 오도할 위험이 있다고 말합니다.
• 크리에이터에게 어떤 영향이 있나요? 크리에이터는 AI 전쟁 영상임을 공개해야 하며, 그렇지 않으면 수익 접근 권한을 잃게 됩니다.
• 왜 지금 이 정책이 긴급한가요? X는 지역 긴장을 부추기는 바이럴 가짜 클립들을 근거로 들고 있습니다.
• 시청자(이용자)에게는 어떤 의미인가요? 이 규정은 이용자들이 AI 가짜가 아니라 진짜 분쟁 보도를 보도록 하는 것을 목표로 합니다.