Crypto-bedragare utnyttjar AI-djupfejker för att driva falska giveaways med Trump och Musk

AI-genererade videor med Trump, Musk och Buterin sprids på X, främjar kryptovalutabedrägerier

Medan generativ AI har drivit banbrytande framsteg, har det också förstärkt hotet från deepfake-bedrägerier. Den omfattande tillgängligheten och de minskande kostnaderna för generativa AI-verktyg har gjort dessa teknologier tillgängliga även för de mest resursfattiga bedragarna, vilket gör det möjligt för dem att enkelt producera slående realistisk falsk media med minimal insats.

Tidigare förlitade sig digitala bedrägerier på manipulerade bilder och fabricerade webbplatser. Nu sprids hyperrealistiska videor med röster som nästan är omöjliga att skilja från det verkliga över internet och intensifierar utmaningen att skilja fakta från fiktion.

En särskild falsk video som delades denna vecka visar Donald Trump i en intervju med Maria Bartiromo, som förmodligen redigerades från en av deras tidigare intervjuer. I den artificiellt skapade och vilseledande redigerade videon deklarerar den AI-förändrade Trump, “Dela detta över hela världen. Jag kommer att göra ett kryptovalutagevinst på 20 miljoner dollar tillsammans med Elon Musk på [bedrägliga webbplats] som startar nu.”

Den falska Bartiromo frågar sedan: “Hur går jag med?” “Besök bara webbplatsen [bedrägliga webbplats],” svarar Trump i videon. “Det är bara några enkla steg. Det borde inte ta längre än tre minuter.” Till detta svarar Bartiromo entusiastiskt:

Jag kommer definitivt att gå med.

Dessa videor är spridda över X, särskilt i svarsektionerna av inlägg kopplade till kryptomedia och influencers. Det är värt att notera att varje Trump deepfake vi upptäckte hade en annan URL, även om vissa av webbplatserna upprepas över flera videor. En Whois-sökning avslöjar att alla dessa bedrägliga Trump-relaterade webbplatser skapades den 12 mars 2025 och registrerades privat genom Nicenic. Ytterligare granskning av X-kontona som distribuerar dessa videor tyder på att detta inte är deras första försök att sprida AI-genererade bedrägerier.

En annan deepfake-video vi upptäckte delad av denna grupp visar Elon Musk tillsammans med Tucker Carlson. I det manipulerade materialet säger Musk, “Jag kommer att göra ett kryptovalutagevinst på 20 miljoner dollar på [bedrägliga webbplats] som startar nu.” Carlson frågar sedan, “Hur går jag med?” Musk fortsätter att leverera exakt samma skriptade svar som den falska Trump-videon, och Carlson, som speglar den deepfake Bartiromo, förklarar att han “definitivt kommer att gå med.” Videon avslutas med att båda männen skrattar, vilket ytterligare förstärker illusionen av autenticitet.

Dessutom driver bedragarna en deepfake av Ethereums medgrundare Vitalik Buterin. Återigen är videon i en intervjusättning och Buterin blir frågad av intervjuaren, “Vad är Ethereum Arbitrage Bot?” Den falska Buterin säger sedan, “Ethereum utvecklarteam har skapat Arbitrage Bot för passiv inkomst som staking.” På trasig engelska säger intervjuaren, “Hur kan vi gå med?” Den falska Buterin säger sedan, “Besök bara webbplats [bedrägliga webbplats], det är bara några enkla steg för att ställa in boten som borde ta längre än tio minuter.”

X-kontona som distribuerar dessa deepfake-videor verkar ha köpts snarare än nyskapats, eftersom många går tillbaka till 2019, 2014 och 2020. Några av bedragarna brydde sig inte ens om att ta bort inlägg från kontonas tidigare ägare, vilket lämnade ett digitalt spår efter sig. Dessutom har flera av dessa konton upptäckts främja andra bedrägerier, såsom XRP dubblingsscheman, där offer lockas att sätta in XRP med det falska löftet om att få dubbelt så mycket. I verkligheten får ingen någonsin den utlovade utbetalningen—den insatta XRP:n blir helt enkelt stulen.

Även om dessa bedrägliga system kan vara lätta att känna igen för vissa, kan intet ont anande individer lätt bli lurade, lockade av den övertygande naturen hos deepfake-videorna, och lurade att besöka dessa bedrägliga webbplatser.