En AI-genererad Elon Musk fick hundratals Coinbase-kunder att försöka skicka kryptovaluta till bedragare. Kryptobörsens eget AI-skydd stoppade 4,7 miljoner dollar. Hur mycket som ändå kom fram har bolaget inte sagt.
Falsk Musk lovade dubbla pengarna – AI stoppade 45 miljoner

Bedragarna slog till när intresset var som störst. Den 15 oktober visade Tesla upp sin nya ”flygande” Roadster på Spacex testanläggning i McGregor, Texas, enligt CNN. Samtidigt startade bedragare en livesändning på Youtube som var gjord för att likna Teslas officiella sändning, rapporterar The Block.
Läs även: USA beslagtar 12 miljarder efter kryptostölden – pekar ut Nordkorea. Realtid
I sändningen syntes en deepfake av Elon Musk som lovade att dubbla all kryptovaluta som tittarna skickade. På skärmen visades plånboksadresser och en QR-kod. Enligt Coinbase hade sändningen över 500 000 tittare.
Det framgår av ett blogginlägg som den amerikanska kryptobörsen publicerade den 17 november.
Hundratals försökte skicka pengar
Under ungefär två timmar försökte hundratals Coinbase-kunder föra över sammanlagt flera miljoner dollar till bedragarnas adresser, enligt bolaget.
Coinbase uppger att dess AI-baserade bedrägeriskydd stoppade 4,7 miljoner dollar, omkring 45 miljoner kronor. Enligt bolaget motsvarar det cirka 91 procent av överföringsförsöken.
Missa inte: Ny bank hackad: 1,1 miljarder i farozonen. Dagens PS
Alltså kom ungefär 9 procent av försöken igenom. Om andelen gäller belopp handlar det om runt 465 000 dollar, drygt 4 miljoner kronor, enligt Realtids beräkning. Coinbase har dock inte redovisat hur mycket som faktiskt nådde bedragarna. Det påpekar sajten Coincentral, som också noterar att ingen utomstående har granskat siffran.
Coinbase betonar att inga konton hackades och att inga lösenord eller inloggningsuppgifter stals. Kunderna skickade pengarna frivilligt.
AI mot AI
Enligt Coinbase bedömde maskininlärningsmodeller i realtid hur riskabla överföringarna var. Modellerna flaggade typiska tecken på falska utlottningar, imitation av kända varumärken och nyskapade plånboksadresser.
Läs även: Jobbdator kapades av hackare – nu är 62 miljarder kronor borta. Realtid
Därefter gick en särskild AI-agent för bedrägeriskydd in. Den förklarade för kunderna hur den här typen av bedrägerier brukar vara uppbyggda och ifrågasatte själva erbjudandet.
Enligt bolaget hade agenten aldrig tränats på just den här bedrägeritypen. Den skötte allt från den första flaggade överföringen till den sista utan att någon människa var inblandad.
De flesta plattformar övervakar i dag transaktioner i realtid. Men det är svårt att stoppa betalningar som kunden själv har godkänt efter att ha blivit lurad, skriver The Block. Coinbase säger att bolaget ska fortsätta att satsa hårt på AI-skydd för att hålla jämna steg med nya bedrägerityper.
Gammalt trick i ny tappning
Upplägget är inte nytt. I juni 2024 fick en liknande Youtube-sändning med en deepfake av Musk in mer än 50 000 dollar på två timmar. Det visade en granskning från DFRLab vid tankesmedjan Atlantic Council.
Realtid har tidigare skrivit om hur deepfakes med kändisar blåser småsparare på stora summor. Vi har också skrivit om hur bedragare använder tekniken för att lura banken. Även Dagens PS har rapporterat om en dramatisk ökning av AI-bedrägerier.





