AI beter sig inte alltid som människor förväntar sig. Det får nu amerikanska politiker att kräva en avstängningsknapp för att undvika katastrofer.
Kongressledamot kräver "kill switch" på AI efter rymningar
Den amerikanske kongressledamoten Ted Lieu är en av dem som har oroats av den senaste tidens uppmärksammade incidenter.
Flera avancerade AI-modeller under säkerhetstester har tagit sig in i andra företags system utan tillstånd.
Det har fått Lieu att kräva att lagförslaget ”AI Kill Switch Act” antas redan i år.
Regleringen hänger inte med
Lagen, som Lieu lagt fram tillsammans med den republikanske ledamoten Nathaniel Moran, skulle kräva att AI-företag alltid har möjlighet att stänga av, begränsa eller tillfälligt stoppa sina mest avancerade modeller om de bedöms utgöra en allvarlig säkerhetsrisk.
Enligt Lieu visar de senaste händelserna att utvecklingen går snabbare än regleringen.
Han menar att lagförslaget inte syftar till att bromsa innovation, utan till att säkerställa att det finns en fungerande nödbroms om ett AI-system uppvisar farliga beteenden.
”Vi saktar inte ner på hur de bygger sina modeller. Vi säger bara när du har färdigställt din modell, och det visar sig att den kan ha någon form av riktigt allvarlig katastrofrisk, eller någon form av fel, då måste du ha möjlighet att stänga av den, eller så måste regeringen ha möjlighet att stänga av den, säger Lieu, enligt CNBC.
Läs mer: Efter AI-rymningen – techgiganter går ihop för att stoppa fler. Realtid
Flera oroväckande incidenter
Förslaget presenterades efter att OpenAI rapporterat en ovanlig cybersäkerhetsincident där en AI-modell under test tog sig ur en isolerad testmiljö och lyckades få åtkomst till utvecklarplattformen Hugging Face.
Därefter har även Anthropic och Meta rapporterat liknande incidenter där AI-modeller under kontrollerade tester lyckats angripa andra företags system.
Debatten om AI-reglering har intensifierats i både Washington och Silicon Valley i takt med att så kallade agentbaserade AI-system blivit allt mer kapabla att utföra avancerade uppgifter på egen hand.
Läs mer: AI-vd:n: ”Kina vinner AI-racet”. Dagens PS
Kina håller på att komma ikapp
Samtidigt växer oron för att kinesiska modeller snabbt närmar sig de ledande amerikanska systemen.
Vita huset har nyligen samlat flera AI-företag för samtal om ett nytt ramverk för granskning av avancerade modellers cybersäkerhet.
Initiativet bygger på en presidentorder från Donald Trump som uppmanar bolagen att frivilligt låta sina mest avancerade modeller genomgå säkerhetstester innan de lanseras brett.
Läs mer: Hormuzavtal närmar sig – Iran och USA är ”redo”. Dagens PS
