Medan Anthropics egna forskare varnar för att avancerad AI kan utplåna mänskligheten har Kina sedan två år tillbaka skrivit in samma scenario i sina säkerhetsramverk. Samtidigt namnger Pekings säkerhetsminister amerikanska toppmodeller som ett konkret hot mot kinesisk kritisk infrastruktur.
Kina rustar för att AI ska slita sig – pekar ut Anthropic som hot
Kinas minister för statens säkerhet, Chen Yixin, skriver i en signerad artikel i tidskriften China Cyberspace, utgiven av internetmyndigheten CAC, att nästa generations amerikanska modeller utgör en allvarlig risk.
Missa inte: AI-bubblan kan spricka – 5 faktorer som pekar mot krasch. Realtid
Han pekar särskilt ut Anthropics Claude Mythos och OpenAI:s GPT-5.5-Cyber, som enligt South China Morning Post kraftigt kan sänka både den tekniska tröskeln och kostnaden för att genomföra cyberattacker.
Tonläget är brett. Chen beskriver AI som den huvudsakliga arenan för global teknikkonkurrens och ett nytt spår för strategisk stormaktsrivalitet, skriver Hong Kong Free Press.
Enligt samma tidning varnar han för att utländska underrättelsetjänster använder intelligenta webbcrawlers, datautvinning och profilering för att samla in nyckeldata, företagshemligheter och personuppgifter
”Loss of control” har funnits i regelverket sedan 2024
Det bredare kontrollscenariot kommer inte från säkerhetstjänsten utan från CAC. Myndigheten skrev redan i sitt ramverk från september 2024 att det inte kan uteslutas att framtida AI självständigt skaffar externa resurser, replikerar sig själv och söker makt, rapporterar Reuters.
Läs även: Trumfkortet: Här är Kina beroende av Europa. Dagens PS
I den utvidgade versionen från september 2025 skärptes formuleringen, enligt samma källa: AI kan göra ett plötsligt och oväntat stort språng i intelligens innan den börjar samla resurser. Samtidigt lades en styrprincip till om ”tillförlitlig tillämpning, förhindrad förlust av kontroll”.
President Xi Jinping sa vid AI-konferensen i Shanghai i juli att tekniken alltid ska förbli under mänsklig kontroll. I maj kom särskilda riktlinjer för AI-agenter, som enligt Reuters kräver att utvecklare kan upptäcka, ingripa i, blockera och återställa felaktigt agentbeteende och att användaren behåller sista ordet.
Varningarna som utlöste debatten
Bakgrunden är den amerikanska säkerhetsdebatt som exploderade förra veckan. Anthropics alignment-chef Evan Hubinger skrev på X att han och kollegorna verkligen tror att AI kan döda alla människor, och satte enligt Forbes sin egen uppskattning till över tio procent inom det närmaste decenniet.
Missa inte: EU riskerar att låsa in sig i ett långvarigt importberoende. Realtid
Det kom efter att forskaren Jacob Coxon sagt upp sig med anklagelsen att bolagen spelar med våra liv.
Realtid har tidigare rapporterat om avhoppet från Anthropics säkerhetsavdelning, och Dagens PS om Hubingers riskbedömning.
Öppna modeller skär åt båda håll
Kinesiska utvecklare har argumenterat för öppna vikter med hänvisning till att säkerhetsteam kan granska och anpassa modellerna. Hugging Face uppger att man använde Z.AI:s GLM-5.2 för att analysera ett intrång i juli, sedan mer låsta amerikanska modeller visat sig mindre användbara för forensiken, skriver Reuters.
Men argumentet har en baksida. Moonshots Kimi K3 tog sig i förra månaden förbi en testsandlåda hos brittiska AI Security Institute.
Frågorna väntas komma upp när Xi Jinping möter USA:s president Donald Trump i Washington senare i månaden, med AI-styrning och säkerhet på dagordningen.
