Crypto詐欺師、トランプやマスクを使った偽のプレゼント企画を進めるためにAIディープフェイクを悪用

AI生成のトランプ、マスク、ブテリンのビデオがXで広まり、暗号詐欺を推進

生成AIは画期的な進展をもたらしましたが、それはまたディープフェイク詐欺の脅威を増大させました。広範な利用可能性と生成AIツールのコストの低下により、最も資金の乏しい詐欺師でもこれらの技術に手が届くようになり、彼らは最小限の努力で驚くほどリアルな偽のメディアを作成できるようになっています。

過去には、デジタル詐欺は操作された画像や捏造されたウェブサイトに依存していました。今では、実際のものとほぼ区別がつかない声を備えたハイパーリアルなビデオがインターネットに出回っており、事実とフィクションを区別することの難しさを増しています。

今週共有された特定の偽ビデオでは、ドナルド・トランプがマリア・バーティロモとのインタビューで登場しますが、これは彼らの以前のインタビューの1つから編集された可能性があります。AIで生成され、欺瞞的に編集されたビデオでは、AIで変更されたトランプが「これを世界中にシェアしてください。私はこれから[詐欺サイト]でイーロン・マスクと共に2000万ドルの暗号ギブアウェイを行います」と宣言します。

偽バーティロモが「どうやって参加するの？」と聞くと、トランプはビデオで「ただウェブサイト[詐欺サイト]を訪れるだけです。それはいくつかの簡単なステップで、3分もかからないはずです」と答えます。これに対してバーティロモは熱心に応じます：

私は確実に参加します。

これらのビデオはX全体に散らばっており、特に暗号メディアやインフルエンサーにリンクされた投稿の返信セクションに広まっています。発見した各トランプのディープフェイクには異なるURLが含まれていましたが、いくつかのサイトは複数のビデオにわたって繰り返されていました。Whois検索によれば、これらのトランプ関連の詐欺サイトはすべて2025年3月12日に作成され、Nicenicを通じてプライベートに登録されています。これらのビデオを配信するXアカウントをさらに調査すると、これはAI生成詐欺を広める初めての試みではないことが示唆されています。

このグループによって共有された別のディープフェイクビデオでは、イーロン・マスクがタッカー・カールソンと共演しています。操作された映像で、マスクは「私は今すぐ[詐欺サイト]で2000万ドルの暗号ギブアウェイを行います」と発表します。カールソンが「どうやって参加するの？」と尋ねると、マスクは偽のトランプビデオと同じ脚本の応答を行い、カールソンは偽バーティロモを反映して「確実に参加します」と述べます。ビデオは二人が笑って終わり、信憑性の錯覚をさらに増幅させます。

さらに詐欺師たちはEthereumの共同創設者Vitalik Buterinのディープフェイクも進めています。再びインタビューの設定で、インタビュアーは偽のButerinに「Ethereumアービトラージボットとは何ですか？」と尋ねます。偽のButerinは「Ethereum開発者チームがステーキングのような受動的収入のためのアービトラージボットを作成しました」と述べます。たどたどしい英語で、インタビュアーは「どのように参加できますか？」と尋ね、偽のButerinは「ただウェブサイト[詐欺サイト]を訪れてください。それはボットを設定するための数分の簡単なステップだけです」と答えます。

これらのディープフェイクビデオを配信しているXアカウントは、新たに作成されたものではなく、購入されたように見えます。多くは2019年、2014年、2020年にさかのぼります。詐欺師の中には、アカウントの前の所有者の投稿を削除することさえせず、デジタルのパンくず跡を残しています。さらに、これらのアカウントのいくつかは、XRP倍増スキームのような他の詐欺を宣伝しているのが見受けられます。ここでは被害者がXRPを預け入れると2倍の額を受け取るという偽の約束で誘われますが、実際には誰も約束された支払いを受けることはなく、預け入れたXRPは単に盗まれるだけです。

これらの詐欺スキームは一部の人にとって簡単に認識されるかもしれませんが、疑うことを知らない個人は簡単に欺かれ、ディープフェイクビデオの説得力に引き寄せられ、これらの詐欺サイトを訪れることを誤って信じてしまう可能性があります。