AI-jätte varnar själva: Vi kan tappa kontrollen

AI-jätten Anthropic varnar för att de senaste modellerna av AI-system visar tecken på att människan så småningom kan tappa kontroll över dem.

Missa inte: Anthropic mot börsen – astronomiskt hög värdering. Realtid

”Det finns tecken som tyder på att människans roll minskar för varje steg i utvecklingsprocessen för AI”, skriver företaget i en rapport.

Vill se en inbromsning

Anthropic är ett av de största AI-företagen, dess olika typer av chattboten Claude finns hos företag världen över. Men enligt Anthropic är det läge att sakta ned jakten på smartare AI.

”Vi anser att det vore bra för världen att ha möjligheten att bromsa eller tillfälligt avbryta utvecklingen av banbrytande AI, så att samhällsstrukturerna och forskningen om etisk anpassning hinner hålla jämna steg med teknikens framsteg”, skriver företaget.

Läs även: Anthropic jämförs med minfält: Investera inte i oss! Dagens PS

Anthropic menar att beslutet måste komma från hela branschen för att det ska kunna vara effektivt och för att enskilda länder och företag ska slippa slitas mellan säkerhet och att hamna på efterkälken i utvecklingen.

För alarmistiska enligt vissa

Larmen från Anthropic har stött på patrull både från andra företag och från den amerikanska regeringen som menar att San Francisco-företaget är alltför alarmistiskt.

Missa inte: AI går före löneökningar – anställda får betala priset. Realtid

Som svar på detta säger Anthropic att man planerar ett möte mellan företag, forskare och regeringstjänstemän för att diskutera säkerheten. Företaget varnar för att AI redan nu snabbar på utvecklingen av sig själv och att det till slut kan leda till att systemen lär sig själva att bli smartare – utan mänsklig hjälp.

”Vi är inte där ännu, och det kan gå att undvika”.