Nu kliver FN:s generalsekreterare fram och varnar för riskerna med AI-utvecklingen. Han vill se en global styrning av tekniken. USA:s vicepresident JD Vance avfärdar kraven på reglering och säger att de som bygger ”Frankenstein” själva måste trycka på stoppknappen om utvecklingen blir farlig.
"Bygger ni Frankenstein – sluta": Vance om AI-racet
FN:s generalsekreterare António Guterres varnar för att AI-utvecklingen går snabbare än den globala styrningen av tekniken. Han efterlyser ett starkare internationellt samarbete, gemensamma standarder och mekanismer som kan fånga upp risker innan de blir svåra att hantera.
Det är inte första gången FN varnar för AI, enligt Reuters. Men nu hamnar frågan i centrum för den växande internationella maktkampen om tekniken.
Läs också: Reddit-grundaren har tröttnat på AI-doomers: ”Inte som i Terminator”. Realtid
AI-industrin ber själv om en broms
Guterres är inte ensam om att uttrycka oro för vart AI-utvecklingen är på väg.
Anthropics vd Dario Amodei har gått ut med krav på att utvecklingen av de mest avancerade AI-systemen ska sakta ned. Även OpenAI:s vd Sam Altman har ställt sig bakom behovet av hårdare säkerhetskrav. Det inkluderar bland annat krav på oberoende utvärderare som ska bedöma säkerheten i avancerade AI-modeller.
Samtidigt är det svårt att som ensamt företag bromsa den egna utvecklingen och se på när andra fortsätter vidare i en bransch där det finns stora pengar att tjäna. AI-utvecklingen har blivit en global tävling där företagen har starka ekonomiska incitament att fortsätta.
Läs mer: Techjätten: Sociala medier måste bli mer mänskligt – eller försvinna. Dagens PS
”Om ni bygger Frankenstein – sluta.”
USA:s president Donald Trump avfärdar varningarna om risker med AI och menar att USA redan har verktyg för att hålla utvecklingen säker. Han har också varnat för att en alltför skeptisk hållning till AI kan gynna Kina.
Han får medhåll av vicepresident JD Vance som menar att ansvaret att bromsa en farlig utveckling ligger hos AI-bolagen.
”Om ni bygger Frankenstein – sluta”, säger han.
Vance´s argument är, enligt Guardian, enkelt: om företagen verkligen tror att den teknik de utvecklar kan få katastrofala konsekvenser, är lösningen inte nya regler som ger staten större kontroll. Istället borde företagen sluta bygga tekniken.
Läs också: Anthropic slår SpaceX, kan bli världens största börsnotering. Realtid
Europa vill bromsa – utan att lämna racet
EU-kommissionens ordförande Ursula von der Leyen har, enligt Reuters, ställt sig bakom kraven på att sakta ned utvecklingen av den mest avancerade AI.
Hon vill bjuda in ledande AI-laboratorier till samtal om hur riskerna kan hanteras.
Europa försöker därmed balansera två mål: att fortsätta utveckla AI och konkurrera internationellt, men också att begränsa riskerna.
Det är en svår balans. För hårda regler kan enligt kritiker försvaga Europas konkurrenskraft. För svaga regler kan lämna myndigheter utan tillräckliga verktyg när tekniken utvecklas snabbare än lagstiftningen.
Kina gör bromsen ännu svårare
Och sedan finns Kina.
Huawei räknar med en massiv expansion av autonoma AI-agenter under det kommande decenniet. Bolaget bedömer att så många som 900 miljarder AI-agenter kan vara aktiva globalt 2035 och att de kan stå för mer än 90 procent av den globala AI-trafiken mätt i tokens.
USA och Kina befinner sig i en teknologisk och geopolitisk kapplöpning där AI har blivit en strategisk fråga. För USA handlar det inte bara om företagens konkurrenskraft, utan också om att behålla ett teknologiskt försprång gentemot Kina.
Det gör att en inbromsning av AI-utveckling sannolikt blir mycket svår att genomföra.
Missa inte: Kina rustar för att AI ska slita sig – pekar ut Anthropic som hot. Realtid
