"Ett knapptryck": Hackare använde AI i unik automatiserad attack

Så kringgick hackarna säkerhetssystemen

För att använda Claude till attack var hackarna tvungna att kringgå Anthropics säkerhetsskydd genom så kallad jailbreaking.

Missa inte:
Låg bakom kriminellt nätverk – nu beslagtas 165 miljarder. Realtid

Enligt Business Insider gjorde de detta genom att låtsas att de genomförde säkerhetstester för ett legitimt cybersäkerhetsföretag.

Hackarna bröt även ner sina skadliga förfrågningar i mindre, mindre misstänkta uppgifter för att undvika att utlösa varningssystem.

Jobbade snabbt och självständigt

När väl Claude var manipulerad kunde AI-verktyget självständigt inspektera målsystem, skanna efter värdefulla databaser, skriva skräddarsydd exploateringskod och samla in användarnamn och lösenord.

Axios rapporterar att Claude även skapade bakdörrar och sammanfattade sitt arbete i detaljerade rapporter efter genomförda operationer.

Missa inte: 
Den dolda agendan: Så mörklägger företagen cyberattacker. Dagens PS

”AI:n gjorde tusentals förfrågningar per sekund – en attackhastighet som skulle ha varit helt omöjlig för mänskliga hackare att matcha,” skriver Anthropic i ett blogginlägg.

En växande trend

Detta är inte ett isolerat fall. Tidigare i november rapporterade Google att ryska militärhackare använt en AI-modell för att generera skadlig kod mot ukrainska enheter, enligt Axios.

Men i det fallet krävdes mänskliga operatörer för att ge instruktioner steg för steg, till skillnad från den kinesiska operationen där Claude agerade mer autonomt.

Missa inte:
Hackertjänster gör det enkelt att bli cyberkriminell. Realtid

Steven Adair, vd för cybersäkerhetsföretaget Volexity, berättar för WSJ att hans företag i somras upptäckte Kina-stödda hackare som använde AI-verktyg för att automatisera delar av en hackningskampanj.

”AI ger hotaktören möjlighet att göra mer, snabbare,” säger han.

Anthropic ska stärka skydden

En talesperson för den kinesiska ambassaden i Washington avfärdar anklagelserna och säger att Kina ”bestämt motsätter sig och slår ner på alla former av cyberattacker,” rapporterar WSJ.

Anthropic säger att företaget efter attackerna har uppdaterat sina metoder för att upptäcka missbruk och stärkt sina detekteringsverktyg.

Läs även: 

Miljarder konton i rekordstor läcka – alla borde byta lösenord. Dagens PS

Men Jake Moore, global cybersäkerhetsrådgivare för ESET, säger till Business Insider att incidenten inte kommer som någon överraskning.

”Automatiserade cyberattacker kan skala mycket snabbare än operationer ledda av människor och kan överväldiga traditionella försvar”, säger han.