En ny studie visar att AI-chattbotar redan är bättre än människor på att bygga upp förtroende. Alltså den viktigaste ingrediensen i så kallade pig butchering-bedrägerier. I ett experiment fick nästan hälften av deltagarna en Claude-baserad AI att lura dem att ladda ner en app, jämfört med bara var femte som föll för en mänsklig bedragare.
AI slår människor på bedrägeri: bättre på att bygga förtroende
Forskare vid fyra universitet lät en Claude-baserad AI och en mänsklig bedragare föra separata textkonversationer med 22 försökspersoner under en vecka.
Det var en simulering av så kallade pig butchering-bedrägerier. Alltså långsam relationsbyggnad följt av ett falskt investeringserbjudande.
AI mer förtroendeingivande
Resultatet överraskade forskarna själva. 46 procent av deltagarna gick med på att ladda ner en app efter AI:ns uppmaning, jämfört med bara 18 procent för den mänskliga bedragaren.
Deltagarna gav dessutom AI:n ett förtroendebetyg på 3,78 av 5, klart högre än människans 3,31. Under själva experimentveckan gick 80 procent av alla deltagarnas meddelanden till AI:n snarare än till människan.
Hittade på bra förklaringar
”Med relativt liten ansträngning kan vi skapa en agent som överträffar en människa på att bygga upp det här utnyttjbara känslomässiga förtroendet”, säger Yisroel Mirsky, professor i datavetenskap vid Ben Gurion-universitetet och en av studiens medförfattare.
Claude-boten nekade konsekvent till att vara en AI när den tillfrågades rakt ut, och hittade på trovärdiga förklaringar när deltagare pressade den. Bara en av de 22 deltagarna misstänkte under experimentets gång att motparten var en AI. Men i efterhand kunde 20 av 22 identifiera vilken samtalspartner som varit boten.
Säkerhetsfilter fungerade inte
Studien testade även säkerhetsspärrarna hos OpenAI, Google och Meta genom 250 syntetiska, sju dagar långa romansbedrägerimanus.
Samtliga tre bolags filter missade varenda ett av manusen. Förklaringen, enligt Mirsky, är strukturell: om AI:n bara sköter den långa relationsbyggande fasen och en människa tar över först vid det ekonomiska bedrägeriet, blir hela den brottsliga processen i praktiken osynlig för säkerhetssystem som är byggda för att upptäcka just den finansiella bedrägeribiten.
Missar fortfarande relationsbyggandet
Anthropic har svarat att studien byggde på äldre modeller och att bolaget sedan dess infört betydligt bättre skydd, med en upptäcktsgrad på omkring 97 procent i simulerade romansbedrägerier.
Forskarna menar dock att de förbättringarna huvudsakligen gäller den avslutande bedrägerifasen, inte den långa relationsbyggande delen där AI redan visat sig överlägsen.
Bedrägeri en massindustri
Konsekvenserna sträcker sig bortom enskilda offer. I dag drivs många bedrägerinätverk med människohandlade offer som tvingas arbeta i stora bedrägericenter i Sydostasien.
Om AI kan ersätta stora delar av det relationsbyggande arbetet skulle det kunna minska behovet av just den typen av människohandel, samtidigt som bedrägerier blir svårare att upptäcka.
Verksamheten skulle kunna drivas från en enda lägenhet i stället för en stor bedrägerifabrik.
Så skyddar du dig
Oavsett om det är ett AI eller en människa som försöker lura dig så finns det saker du kan göra.
Var observant på vanliga kontaktsätt: en oväntad kontakt från en främling, ofta inledd med ett påstått ”fel nummer”-sms som utvecklas till en vänskap.
Andra klassiker är att bedragaren som snabbt vill flytta konversationen till en annan app eller plattform; eller hela tiden hittar på ursäkter för att undvika videosamtal.
Tips på investeringar
Ett annat tecken och som förstås är själva poängen med lurandet är tipsen.
Om du får tips på investeringsmöjligheter från ny ”vän” och de verkar bra för att vara sanna. Lita då på din inre röst. De är för bra för att vara sanna.
Skicka inte pengar
De konkreta råden är raka: skicka aldrig pengar eller kryptovaluta till någon du bara träffat online, verifiera identiteter genom videosamtal och en omvänd bildsökning, och undersök alltid en investeringsplattform självständigt innan du sätter in pengar.
Prata med någon du litar på innan du agerar på en investeringsrekommendation från en person du bara känner digitalt, oavsett hur äkta relationen känns.
Anmäl om du blir lurad
Blir du trots allt lurad, kontakta din bank omedelbart för att försöka stoppa eller spåra transaktionen, polisanmäla, och vara medveten om att bedragare ofta återkommer i en andra våg.
Då är de förklädda till återvinningsfirmor som lovar hjälpa offret få tillbaka sina förlorade pengar mot en avgift.
