Att AI-utvecklingen behöver gå långsammare för att undvika en katastrof är en allt vanligare åsikt. Men tech-vd:n Nikesh Arora menar att det inte är en rimlig idé.
Palo Alto-chefen: Orealistiskt att bromsa AI-utvecklingen
Det är orealistiskt att försöka bromsa utvecklingen av artificiell intelligens eftersom olika företag kommer att fortsätta utveckla tekniken i olika takt.
Det säger Nikesh Arora, vd för cybersäkerhetsbolaget Palo Alto Networks, i en intervju med CNBC.
Arora går därmed emot delar av AI-branschens växande krav på en långsammare utvecklingstakt.
Svårt att avgöra hur snabbt det ska gå
Debatten har intensifierats efter att forskare varnat för att allt kraftfullare AI-system i värsta fall kan utgöra ett existentiellt hot mot mänskligheten.
Anthropic har varit en av de aktörer som förespråkat större försiktighet. Bolagets vd Dario Amodei har argumenterat för att utvecklingen av AI-modeller behöver bromsas.
Även OpenAI:s vd Sam Altman, SpaceX-chefen Elon Musk och Demis Hassabis, chef för Google DeepMind, har uttryckt stöd för ökad försiktighet.
Arora anser i stället att fokus bör ligga på säkerheten hos de modeller som faktiskt släpps. Enligt honom är det svårt att skapa ett system som avgör hur snabbt AI-utvecklingen får gå, särskilt när företag och forskningsmiljöer runt om i världen arbetar parallellt.
Läs mer: Snart handlar din AI-assistent åt dig – ingen vet vem som betalar när den köper fel. Dagens PS
Ser risken som liten
”Jag tror inte att alla kommer att klara av att hålla takten själv”, säger han och menar att vissa alltid kommer att försöka ligga framför forskningsfronten.
Palo Alto-chefen avfärdar samtidigt bedömningen att det skulle finnas en tioprocentig risk för att AI utplånar mänskligheten.
Han beskriver i stället sannolikheten som mycket liten, samtidigt som han anser att företag måste bygga in tillräckliga säkerhetsåtgärder för att minska riskerna.
Hans syn ligger nära den som Nvidia-chefen Jensen Huang nyligen har uttryckt.
Huang har argumenterat för att AI-företagen själva bör testa sina produkter noggrant och avstå från att lansera modeller som inte bedöms vara tillräckligt säkra.
Läs mer: Trumps nya plan i mötet med Xi: Vill byta namn på AI. Dagens PS
Konkurrens mellan Kina och USA
Diskussionen handlar också om möjligheten till internationellt samarbete.
Ett förslag från Anthropic är att USA och andra länder ska samordna hur snabbt AI utvecklas, inklusive ett visst samarbete med Kina.
USA:s finansminister Scott Bessent har uppgett att länderna diskuterat möjligheten att skapa en särskild dialog om AI och ett system för att rapportera allvarliga incidenter som kan påverka den nationella säkerheten.
Arora är dock tveksam till hur långt ett sådant samarbete kan nå. Enligt honom behöver USA först enas internt om vilka mål och regler som faktiskt ska gälla innan landet kan försöka samordna AI-politiken med Kina.
Läs mer: Turisterna flockas till Kina – ny app ska underlätta vistelsen. Realtid
