Evolusi penipuan deepfake telah mencapai tingkat kecanggihan baru dengan integrasi kecerdasan buatan (AI), membuat skema penipuan semakin meyakinkan dan sulit dideteksi. Contoh terbaru melibatkan deepfake Presiden AS Donald Trump yang beredar di X, berusaha memancing individu yang tidak curiga ke dalam penipuan cryptocurrency.
Penipu Kripto Memanfaatkan AI Deepfakes untuk Mendorong Giveaway Palsu Dengan Trump dan Musk
Artikel ini diterbitkan lebih dari setahun yang lalu. Beberapa informasi mungkin sudah tidak terkini.
DITULIS OLEH
BAGIKAN
Video Trump, Musk, dan Buterin yang Dihasilkan oleh AI Menyebar di X, Mempromosikan Penipuan Crypto
Meskipun AI generatif telah mendorong kemajuan terobosan, teknologi ini juga memperbesar ancaman penipuan deepfake. Ketersediaan luas dan semakin menurunnya biaya alat AI generatif telah menempatkan teknologi ini dalam jangkauan bahkan para penipu yang paling kekurangan dana, memungkinkan mereka untuk memproduksi media palsu yang sangat realistis dengan sedikit usaha.
Di masa lalu, penipuan digital mengandalkan gambar yang dimanipulasi dan situs web yang dibuat-buat. Sekarang, video yang sangat realistis dengan suara yang hampir tidak dapat dibedakan dari aslinya beredar di internet, menambah tantangan untuk memisahkan fakta dari fiksi.
Satu video palsu tertentu yang dibagikan minggu ini menampilkan Donald Trump dalam wawancara dengan Maria Bartiromo, yang mungkin telah diedit dari salah satu wawancara mereka sebelumnya. Dalam video yang dihasilkan secara artifisial dan diedit dengan menipu, Trump yang telah diubah oleh AI menyatakan, “Bagikan ini ke seluruh dunia. Saya akan melakukan giveaway crypto senilai $20 juta dengan Elon Musk di [situs web penipuan] dimulai sekarang.”
Bartiromo palsu kemudian bertanya, “Bagaimana saya bisa bergabung?” “Cukup kunjungi situs web [situs web penipuan],” jawab Trump dalam video tersebut. “Hanya beberapa langkah cepat. Seharusnya tidak memakan waktu lebih dari tiga menit.” Terhadap hal ini, Bartiromo dengan antusias merespons:
Saya pasti akan bergabung.
Video-video ini tersebar di X, terutama di bagian balasan dari postingan yang terkait dengan media crypto dan influencer. Yang penting, setiap deepfake Trump yang kami temukan memiliki URL yang berbeda, meskipun beberapa situs diulang di beberapa video. Pencarian Whois mengungkapkan bahwa semua situs web terkait Trump palsu ini dibuat pada 12 Maret 2025, dan didaftarkan secara pribadi melalui Nicenic. Pemeriksaan lebih lanjut terhadap akun X yang mendistribusikan video-video ini menunjukkan bahwa ini bukan upaya pertama mereka menyebarkan penipuan yang dihasilkan AI.
Video deepfake lain yang kami temukan yang dibagikan oleh kelompok ini menampilkan Elon Musk bersama Tucker Carlson. Dalam rekaman yang dimanipulasi, Musk menyatakan, “Saya akan menjalankan giveaway crypto senilai $20 juta di [situs web penipuan] dimulai sekarang.” Carlson kemudian bertanya, “Bagaimana saya bisa bergabung?” Musk melanjutkan memberikan respons skrip yang sama persis seperti video Trump palsu, dan Carlson, menirukan Bartiromo palsu, menyatakan bahwa dia akan “pasti bergabung.” Video berakhir dengan kedua pria tertawa, semakin memperkuat ilusi keaslian.
Selain itu, para penipu mendorong deepfake dari pendiri Ethereum Vitalik Buterin. Sekali lagi video tersebut adalah dalam bentuk wawancara dan Buterin ditanya oleh pewawancara, “Apa itu Ethereum Arbitrage Bot?” Buterin palsu kemudian menyatakan, “Tim pengembang Ethereum telah menciptakan Arbitrage Bot untuk pendapatan pasif seperti staking.” Dalam bahasa Inggris yang patah-patah, pewawancara mengatakan, “Bagaimana kita bisa bergabung?” Buterin palsu kemudian berkata, “Cukup kunjungi situs web [situs web penipuan], ini hanya beberapa langkah cepat untuk mengatur bot yang seharusnya tidak memakan waktu lebih dari sepuluh menit.”
Akun X yang mendistribusikan video-video deepfake ini tampaknya telah dibeli daripada baru dibuat, karena banyak yang berasal dari tahun 2019, 2014, dan 2020. Beberapa penipu bahkan tidak repot menghapus postingan dari pemilik akun sebelumnya, meninggalkan jejak remah-remah digital. Selain itu, beberapa akun ini telah terlihat mempromosikan penipuan lainnya, seperti skema penggandaan XRP, di mana korban diiming-imingi untuk menyetor XRP dengan janji palsu untuk menerima dua kali jumlahnya. Dalam kenyataannya, tidak ada yang pernah mendapat pembayaran yang dijanjikan—XRP yang disetorkan hanya dicuri.
Meskipun skema penipuan ini mungkin mudah dikenali bagi sebagian orang, individu yang tidak curiga dapat dengan mudah tertipu, terperdaya oleh sifat meyakinkan dari video-video deepfake, dan terjebak dalam mengunjungi situs web penipuan ini.
