"AI lyfter cyberbrott till ny nivå – nästa attackvåg redan här"

Hackerattacken mot ChatGPT

När AI-verktyg används av personer världen över, blir det också ett lönsamt mål för cyberkriminella. Ett konkret exempel på detta är att i fjol så upptäcktes en sårbarhet i ChatGPT:s app för macOS.

Angripare lyckades installera spionprogrammet SpAIware i appens minne, vilket gjorde det möjligt att löpande hämta ut användardata och konversationer mellan personer och appen.

Lyckligtvis har OpenAI nu åtgärdat problemet, men händelsen visar på hur AI-plattformar kan bli mål för avancerade cyberattacker och den allvarliga säkerhetsrisken det innebär.

Många framgångsrika attacker

Ännu en eskalerande trend är AI-driven spear-phishing.

Dessa sofistikerade nätfiskeattacker blir allt bättre på att använda AI för att noggrant analysera roller, ansvarsområden och digitala beteenden bland anställda inom en organisation.

FBI pressar kinesiska cyberbrottslingar – utlovar jättebelöning

Amerikanska federala polisen tar till drastiska åtgärder.

Även om cyberkriminella främst riktar in sig på chefer, på grund av deras veto att godkänna betalningar eller eftersom de har tillgång till känsliga data, sträcker sig hotet bortom ledarrollerna.

AI-genererade meddelanden efterliknar vardaglig kommunikation, vilket gör dem övertygande och svåra att upptäcka. Resultatet blir att framgångsgraden för dessa attacker är hög – vilket ställer organisationer inför svåra säkerhetsutmaningar.  

Ökat hot mot kritisk infrastruktur 

Utvecklingen illustrerar en bredare trend där AI inte bara förbättrar nätfiske utan även möjliggör avancerade angrepp mot samhällets kritiska infrastruktur.

Automatiserade attacker gör det enklare än någonsin att infiltrera och spionera på exempelvis el- och vattennät. MSB har därför lanserat projekt för att stärka dessa system mot attacker eftersom konsekvenserna kan bli så pass omfattande för samhället.

Läs även: Energibolag varnar: Så lätt kan hackare ta kontroll över elnätet. Realtid

MSB har noterat hur dessa riktade cyberattacker har använts mot kritisk infrastruktur i Ukraina – och resultaten har varit oroväckande.

Säkerhet inget val längre

För att säkra samhällets mest kritiska system, allt eftersom användningen av AI mognar och cyberkriminella blir allt bättre på att gynna sina motiv tack vare tekniken, krävs en proaktiv strategi.

Det viktigaste i alla IT-system kommer alltid att vara personerna som har tillgång till det.

”Ryssland låg bakom bank-ID-attacken”

Experter på området är säkra på sin sak.

Därför är det väsentligt att medarbetare är utbildade kring säkerhetsrisker, samt att det finns goda säkerhetsrutiner – inte minst för verksamheter som levererar samhällskritiska funktioner.

Faktum är att det inte längre är ett val med alla lagar och regler som tillkommit på området de senaste åren.

Här för att stanna

AI-drivna säkerhetssystem kan dock också använda tekniken på ett liknande sätt som cyberkriminella gör, men då med målet att skydda från dessa typer attacker.

Ett sådant säkerhetssystem skannar och känner av möjliga hot för att antingen varna eller begränsa användares åtkomster tills riskerna är uteslutna.

Missa inte: Hackertjänster gör det enkelt att bli cyberkriminell. Realtid

Det kan exempelvis hjälpa till med att avgöra om ett mejl i inkorgen är en del av en nätfiskekampanj.

AI är här för att stanna – frågan är bara om vi kan hålla jämna steg med dess ibland mörka skugga. 

Fredrik Sandström
Säkerhetsexpert Check Point Softwar

Nordkorea spionerade på dig via Google play

Har lyckats sprida spionprogram.