ChatGPT användes för att producera rysk desinformation i stor skala, trots att tjänsten inte är tillåten i Ryssland. Nu agerar OpenAI.
Ryska manipulatörer kom åt ChatGPT-konton – stängs av direkt
OpenAI har stängt ett kluster av ChatGPT-konton med koppling till Ryssland som enligt bolaget användes i en dold påverkansoperation för att sprida desinformation på nätet.
Kampanjen upptäcktes efter att företaget undersökt AI-genererade inlägg på sociala medier.
Det ledde till avslöjandet av en betydligt större infrastruktur för informationspåverkan.
Använde tjänsten som verktyg
Enligt OpenAI byggde operationen kring en webbplats med kopierade och felaktigt attribuerade akademiska texter, ett så kallat suveränitetsindex som framställde Ryssland i positiv dager samt försök att dölja operatörernas ryska ursprung.
Företaget uppger att aktörerna använde ChatGPT för att skriva kommentarer och inlägg som sedan publicerades på plattformar som X, Facebook, LinkedIn, Telegram och Substack, skriver CNBC.
Instruktionerna gavs på ryska och modellen ombads samtidigt att eliminera språkliga ledtrådar som kunde avslöja att innehållet kom från ryska användare.
Läs mer: Nya ChatGPT är här – men du får inte använda den. Dagens PS
Använder VPN för att få tillgång
En central del av kampanjen var organisationen International Burke Institute, vars webbplats innehöll artiklar som kopierats från verkliga akademiska publikationer och i vissa fall tillskrivits fel författare.
Gruppen tog även fram ett eget index som rankade länders suveränitet på ett sätt som gynnade Ryssland och misskrediterade västländer.
OpenAI förbjuder användning av sina modeller i Ryssland, men bolaget konstaterar att operatörerna använde VPN-tjänster för att kringgå geografiska begränsningar.
Det är inte första gången företaget agerar mot rysk informationspåverkan.
Läs mer: Larmet inifrån Ryssland: Reserverna slut och bankerna tömda. Realtid
Byggt upp en infrastruktur
I februari stängde OpenAI konton med koppling till det proryska medieföretaget Rybar, som enligt brittiska myndigheter delvis samordnas av den ryska presidentadministrationen och har band till både statskoncernen Rostec och ryska underrättelsetjänster.
OpenAI bedömer att den aktuella kampanjens direkta genomslag var begränsat. Bolaget varnar dock för att den verkliga risken ligger i den infrastruktur som byggts upp.
Det handlar om trovärdiga webbplatser, påstådda experter och AI-genererat innehåll som tillsammans kan skapa skenbar auktoritet och användas för framtida desinformationsinsatser i större skala.
Läs mer: Paradoxen: Äldre teknik kan skydda dig från hackare. Dagens PS
