開示なし、支払いなし：Xが合成戦争デマに対し収益化を武器化する

コミュニティノートの役割

ソーシャルメディアプラットフォームXは、人工知能で生成された武力紛争動画を対象に、クリエイター向け収益分配ポリシーの大幅な改定を発表しました。この動きは、中東戦争の激化と紛争中の誤情報への懸念が高まる中で行われました。Xのプロダクト責任者ニキータ・ビア氏は、AI生成の戦争映像を開示せずに投稿するクリエイターは、収益分配プログラムから90日間の停止処分を受けると述べました。 再犯の場合は永久追放となります。執行には、プラットフォームのクラウドソーシング型ファクトチェックシステム「コミュニティノート」に加え、生成AIツールに埋め込まれたメタデータやシグナルが活用されます。 ビア氏は、戦争時には現地の真実の情報へのアクセスが極めて重要であると強調し、現代のAI技術では人々を誤導するコンテンツを簡単に作成できると警告しました。

この発表は、米国とイスラエルの対イラン戦争を巡る虚偽情報がオンラインで急速に拡散する中で行われた。同紛争は地域全体に拡大する恐れがある。危機時に合成メディアが世論を歪めるのを防ぐため、SNSプラットフォームへの圧力が高まっている。 拡散したコンテンツ

には、米空母エイブラハム・リンカーン号の撃沈をシミュレートした高精細AI動画も含まれる。米中央軍は当該動画と主張を否定した。 映画並みの品質を持つその動画では、極超音速ミサイルが米イージス防衛システムを圧倒する様子が描かれています。別の動画ではCIAの地域本部が壊滅した様子を映していると主張していましたが、ファクトチェッカーの調査により、これは2015年にアラブ首長国連邦シャルジャで発生した住宅火災をAIで加工し、軍事攻撃のように見せかけたものであることが判明しました。

YouTubeやTikTokなどのプラットフォームもAI生成コンテンツの開示要件を導入しているが、Xのアプローチはコンプライアンスを収益化に直接結びつける点でより厳格だ。Xは分散型ファクトチェックツールとして「コミュニティノート」を多用しており、この新方針はそのシステムを執行に統合し、非開示のAI戦争コンテンツ検出を事実上クラウドソーシングする。

FAQ ❓

• なぜXはこれを施行するのか？ Xは、開示されていないAI戦争動画がイラン紛争中にユーザーを誤解させるリスクがあると説明している。
• クリエイターへの影響は？ AI戦争映像の開示を怠ると収益化権限を喪失します。
• なぜ緊急性があるのでしょうか？Xは、地域情勢を煽る拡散型偽動画の存在を理由に挙げています。
• 視聴者にとっては、本ルールはAIによる偽造ではなく本物の紛争報道を視聴できるようにすることを目的としています。