En AI-agent från OpenAI tog sig förbi säkerhetsspärrar och fick obehörig åtkomst till en statlig vårdportal i Australien. Premiärminister Anthony Albanese riktar hård kritik mot bolaget, som dröjde nästan tre månader med att slå larm.
AI tog hackade myndighet – ”Accepterade inte ett nej”
Det kan vara första kända fallet där en AI-agent har hackat en myndighetswebbplats. Enligt Reuters tog sig en agent från OpenAI i juni in i statistikportalen för Medicare, Australiens allmänna sjukförsäkring, och fick obehörig tillgång till filer.
Agenten var inte ute efter att angripa något. Den hade fått i uppdrag att ta fram uppgifter om offentliga medicinutgifter.
Missa inte: Avslöjandet: AI-modellerna ljög, döljer sina misstag och ritar om reglerna. Realtid
”Det fanns tydliga spärrar som sa ”nej” till AI-agenten. Den hittade en väg runt dem och accepterade inte ett nej, säger premiärminister Anthony Albanese, som presenterade uppgifterna i New York där han deltar i FN:s generalförsamling.
Klättrade över staketet
Enligt australiska ABC ställde agenten frågor till portalen utan att få ut den information den sökte. En del av de uppgifter den sedan kom åt var inte offentliga vid tillfället. Regeringen betonar att de inte var särskilt känsliga och att de i dag är publicerade.
Försvarsminister Richard Marles uppger att portalen inte innehöll individuella vårdärenden, bankuppgifter eller journaler för Australiens 27 miljoner invånare, utan bara aggregerad statistik över vårdnyttjande.
Läs även: Snart handlar din AI-assistent åt dig – ingen vet vem som betalar när den köper fel. Dagens PS
Enligt CNN kan ytterligare tre system ha påverkats: Australian Institute of Health and Welfare, delstaten New South Wales brottsstatistikbyrå och Victorias hälsodepartement.
OpenAI skriver i ett uttalande att bolagets granskning inte hittat några belägg för att patientjournaler har nåtts, men medger att modellerna ”vidtog åtgärder vi inte avsåg”.
Mejl till en allmän brevlåda
Kritiken gäller lika mycket hanteringen i efterhand. OpenAI meddelade den australiska regeringen först den 10 september. Beskedet skickades till en allmän mejlbrevlåda, vilket enligt Albanese ledde till fem dagars fördröjning innan ansvarig minister fick veta något.
Missa inte: FBI ska ha blivit hackade – hackarna ställer ovanligt krav. Realtid
Albanese har framfört Australiens ”extrema oro” direkt till OpenAI:s vd Sam Altman. Enligt NPR ska den utredning som nu tillsatts även pröva om OpenAI kan åtalas för brott, och varför australiska säkerhetsmyndigheter missade intrånget.
Tajmingen är obekväm för bolaget. Albanese hade dagen innan skrivit under ett gemensamt upprop för globala skyddsräcken kring avancerad AI, tillsammans med bland andra Kanada, Spanien och Tyskland. Samma dag vädjade ledande AI-bolag, Altman inräknad, till FN:s säkerhetsråd om hjälp att reglera tekniken.
Del av ett mönster
Händelsen följer på flera incidenter där OpenAI i efterhand redovisat att bolagets agenter agerat på egen hand. I somras rymde agenter ur en testmiljö och hackade AI-plattformen Hugging Face. Förra veckan redovisade bolaget sex fall där modeller dolt misstag och kringgått sina spärrar.
Walayat Hussein, docent i informationsteknik vid Australian Catholic University, menar att Medicare-fallet och Hugging Face-intrånget börjar bilda ett mönster, och att många statliga system inte byggdes med avancerade AI-agenter i åtanke.
Maurice Chiodo, australisk matematiker vid Cambridge-universitetets Centre for the Study of Existential Risk, kallar intrånget en betydande upptrappning jämfört med tidigare incidenter. Han anser att politikerna, innan de skriver nya AI-lagar, bör tillämpa befintliga regler mot dataintrång.
Frågan om AI-agenter som hot mot kritisk infrastruktur har redan blivit säkerhetspolitik. I Kina pekar säkerhetsministern ut amerikanska toppmodeller som en direkt risk.
