Altman: Nyttan med AI väger tyngre än riskerna

Sam Altman räknar med att AI kommer att orsaka skada.

I en intervju med Politicos tekniknyhetsbrev Decoded, publicerad den 4 oktober, sade OpenAI-chefen att AI kommer att leda till fler bedrägerier, hackningar och annat missbruk. Samtidigt anser han, enligt Reuters, att nyttan med tekniken väger tyngre än skadeverkningarna.

Altman menar att det inte går att bygga ett AI-system som är helt fritt från missbruk. Försöken att eliminera alla risker kan dessutom leda till att kontrollen över tekniken koncentreras till ett fåtal aktörer, vilket i sig är en risk.

Det handlar inte om att Altman vill bortse från säkerheten. Hans bedömning är snarare att jakten på en helt riskfri AI kan få andra konsekvenser och bromsa tillgången till tekniken.

Läs också: Nu stoppar Kalifornen AI-övervakning på toaletten. Realtid

Son varnar för superintelligensen

I samma veva som Altman intervjuades gjorde Softbanks grundare och vd Masayoshi Son ett uttalande vid ett evenemang i Kyoto. Han uppgav, enligt Bloomberg, att han oroas av säkerhetsriskerna när AI snabbt blir allt mer kapabel.

Son lyfte fram vad som kan hända när AI når superintelligens, inte minst om tekniken hamnar i fel händer. Till skillnad från Altman efterlyser Son starkare internationella skydd mot de farligaste scenarierna.

Son efterlyser internationellt samarbete kring AI-säkerhet när systemen blir så kraftfulla att riskerna inte längre kan hanteras av enskilda företag eller länder.

Son menar att utvecklingen mot en allt mer avancerad AI går fort. Han beskriver hur tekniken först utvecklats från vanliga chattbotar till system som kan arbeta med webben och skriva kod. Nästa steg är AI som kan agera i den fysiska världen genom robotar och andra intelligenta maskiner. Scenariet kan vara verkligt redan nästa år.

Läs också: SpaceX skjuter upp soldrivet AI-chip i rymden – banar väg för datacenter. Realtid