Ett genombrott i AI-racet – eller en smart PR-kampanj? Åsikterna går isär om Anthropics nya AI-modell.
Anthropics modell för kraftfull för att släppas – men stämmer det?
Den senaste AI-modellen från Anthropic har väckt både oro och skepsis.
Modellen, kallad Claude Mythos, beskrivs som så kraftfull att den inte kan släppas brett.
Samtidigt ifrågasätter experter hur unik tekniken egentligen är.
Reagerade snabbt
Enligt uppgifter har amerikanska finansmyndigheter reagerat snabbt. Finansminister Scott Bessent och centralbankschefen Jerome Powell kallade nyligen till ett krismöte med ledande banker i Washington.
Fokus låg på risken att avancerade AI-modeller kan användas för att identifiera och utnyttja sårbarheter i kritiska system, skriver Bloomberg.
Claude Mythos uppges kunna analysera kod och hitta säkerhetsbrister i allt från operativsystem till webbläsare. I teorin skulle det kunna ge hackare ett kraftfullt verktyg för cyberattacker.
Ifrågasätter hajpen
Oro för sådana scenarier har fått Anthropic att begränsa tillgången till modellen till ett fåtal stora teknik- och finansbolag, däribland Amazon, Apple och JP Morgan Chase.
Samtidigt ifrågasätts bilden av ett teknologiskt genombrott. AI-experten David Gerard menar att Mythos i praktiken fungerar som en avancerad kodgranskare snarare än ett revolutionerande verktyg.
Modellen kan identifiera potentiella buggar, men kräver fortfarande omfattande mänsklig granskning för att avgöra vilka sårbarheter som är verkliga och allvarliga, skriver Gerard i ett blogginlägg på sin hemsida.
Anthropic har själva uppgett att modellen använts för att hitta äldre säkerhetsbrister i etablerade system, men processen är resurskrävande.
Oron kvarstår
Det kan krävas tusentals körningar till betydande kostnad för att identifiera enstaka allvarliga problem. I praktiken innebär det att tekniken kompletterar, snarare än ersätter, traditionella säkerhetsanalytiker.
Ytterligare kritik gäller att liknande resultat kan uppnås med enklare och billigare AI-modeller, förutsatt att de används systematiskt.
Det avgörande tycks vara arbetsmetoden – att analysera stora mängder kod och filtrera resultaten – snarare än själva modellen.
Trots detta tas riskerna på allvar av myndigheter. Kombinationen av AI och cybersäkerhet ses som ett potentiellt systemhot, särskilt för finanssektorn där stabilitet är avgörande.
Läs mer: Flygbränslet på väg att ta slut – snart väntar dyrare biljetter. Dagens PS
