Amerikanska AI-bolag bygger allt oftare vidare på billiga, öppna kinesiska modeller för att spara pengar och tid. Ny forskning visar att modellerna inte bara ärver kapacitet, de kan också ärva delar av Pekings inbyggda tystnad kring känsliga ämnen. En politiskt laddad fråga i Washington.
Kinesisk censur läcker in i amerikansk AI, utan att någon bett om det
Ny forskning har hittat resultat som väckt oro i Washington: en AI-modell tränad enbart på svar från en kinesisk AI kan ärva Pekings tystnad, utan att någon programmerat in den.
AI-labbet CTGT i San Francisco byggde i slutet av juli en egen modell tränad på vad som kom från kinesiska DeepSeek V4 Flash, för att undersöka om censurdrag smyger sig med genom så kallad distillation, en teknik där en modell tränas på en annan, redan existerande modells svar.
Vägrade svara på känsliga frågor
Resultatet överraskade: DeepSeek-modellen vägrade antingen svara på politiskt känsliga frågor eller ”vitmålade” dem till Kinas fördel. Forskarna misstänkte att den nya, distillerade modellen skulle kunna ärva samma mönster genom vad de kallar en form av ”subliminal inlärning”.
Samtidigt nyanserar studien bilden: censuren överfördes inte alltid fullt ut, vilket enligt forskarna ger amerikanska bolag argument för att kunna använda billigare kinesiska modeller utan att automatiskt importera Pekings politiska linje.
Politiskt laddad fråga kring AI
Frågan har blivit alltmer politiskt laddad i takt med att kinesiska öppna modeller som DeepSeek och Moonshots Kimi K3 vuxit i popularitet och konkurrerar direkt med amerikanska jättar som OpenAI och Anthropic.
USA:s finansminister Scott Bessent hotade i juli med sanktioner mot kinesiska AI-bolag för att ha ”stulit” från amerikanska modeller genom distillation, och sa att myndigheterna ”hittar vattenmärken från våra amerikanska språkmodeller på många av de kinesiska modellerna”.
Kina svarade samma vecka att amerikanska bolag i lika hög grad distillerar från kinesiska modeller.
Upprepar Kinas officiella linje
Bakgrunden till oron sträcker sig dock längre tillbaka i tiden, och bygger på flera redan kända, äldre exempel.
Amerikanska lagstiftare varnade redan 2023–2024 för att Googles Gemini, vid frågor på mandarin om Kinas övergrepp i Xinjiang eller protesterna mot noll-covid-politiken 2022, helt enkelt tystnat eller upprepat Pekings officiella linje. Något experter kopplade till träningsdata snarare än ett medvetet beslut från Google.
Frågor som inte får besvaras
Redan i juli 2024 rapporterade Axios att kinesiska myndigheter kräver att inhemska AI-bolag förbereder mellan 20 000 och 70 000 testfrågor för att säkerställa ”säkra” svar, samt ett separat dataset på 5 000–10 000 frågor modellen ska vägra besvara.
Ungefär hälften av de här frågorna rör politisk ideologi och kritik av kommunistpartiet. Dessa äldre uppgifter beskriver alltså den strukturella grunden till problemet snarare än nya bevis för att läckaget skett i amerikanska modeller specifikt under 2026.
AI ger svar som inte berättar allt
Faran för vanliga användare handlar mindre om enstaka blockerade svar och mer om att inte veta vad man faktiskt inte får se.
Till skillnad från traditionell mänsklig censur, som ofta lämnar synliga spår, kan AI-driven tystnad kring till exempel Tiananmen, Xinjiang eller Taiwan smyga sig in i en amerikansk produkt utan att vare sig utvecklaren eller användaren är medveten om det. Helt enkelt för att modellen ärvt mönstret från sina träningsdata snarare än att någon aktivt beslutat det.
Ökad risk att problemet sprider sig
Det gör problemet svårare att upptäcka än öppen propaganda: en användare som får ett neutralt, undvikande eller ”vitmålat” svar har sällan något sätt att veta om det beror på att frågan saknar bra underlag, eller på att modellen byggts på data som redan filtrerat bort vissa perspektiv.
I takt med att fler amerikanska AI-produkter, ofta i det tysta, bygger vidare på billiga kinesiska modeller för att hålla nere kostnaderna, växer risken att den här typen av osynlig slagsida sprids brett. Den tar plats i skolarbeten, nyhetssammanfattningar och vardagliga sökningar, utan att varken lagstiftare eller vanliga användare hunnit bygga upp något sätt att upptäcka det.
