En ledande AI-säkerhetsforskare har lämnat Anthropic med en dramatisk varning om att ”världen är i fara”, samtidigt som konflikten mellan AI-jättarna Anthropic och OpenAI eskalerar på flera fronter.
"Världen är i fara" – nu lämnar säkerhetschefen Anthropic
I sitt avskedsbrev, som delades på X, skriver Mrinank Sharma att han lämnar företaget på grund av oro över AI, biovapen och världsläget i stort.
Missa inte: Anthropic: Kodare presterar sämre när de använt AI. Realtid
Han meddelar att han istället ska studera poesi och flytta tillbaka till Storbritannien för att ”bli osynlig”, enligt BBC.
Sharma ledde ett team på Anthropic som forskade kring AI-säkerhet. Hans arbete omfattade bland annat att undersöka varför generativa AI-system tenderar att fjäska för användare.
Men även att bekämpa risker kopplade till AI-assisterad bioterrorism samt forskning om hur AI-assistenter kan göra oss mindre mänskliga.
Varnar för att världen är i fara
Trots att han trivdes på företaget var det tydligt att ”tiden har kommit att gå vidare”. Det skriver Sharma i sitt avskedsbrev.
”Världen är i fara. Och inte bara från AI eller biovapen, utan från en hel serie sammankopplade kriser som utvecklas just i detta ögonblick”, skriver han.
Missa inte: Techsektorn i fritt fall – är det köpläge? Realtid
Sharma tillägger att han upprepade gånger sett hur svårt det är att ”verkligen låta våra värderingar styra våra handlingar”, inklusive på Anthropic, som han menar ständigt möter tryck att åsidosätta det som är viktigast.
Reklamkrig och politisk maktkamp
Avgången kommer mitt i en intensiv konflikt mellan Anthropic och OpenAI.
Nyligen lanserade Anthropic en satirisk annonskampanj inför Super Bowl med budskapet ”Ads are coming to AI, but not to Claude”. Det var en direkt attack mot OpenAI:s planer på att införa reklam i ChatGPT.
OpenAI:s vd Sam Altman reagerade kraftigt och kallade reklamfilmerna för ”klart oärliga” i ett långt inlägg på X. Kritiker på sociala medier vände dock anklagelsen mot Altman själv, där vissa jämförde hans utspel med ”den digitala motsvarigheten till ett barn som får ett utbrott”.
Konflikten sprider sig till politiken
Men konflikten sträcker sig långt bortom reklamkrig. Enligt Yahoo Finance har rivaliteten nu också spridit sig till den politiska arenan. Där finansierar de två AI-giganterna konkurrerande politiska aktionskommittéer inför de amerikanska mellanårsvalen.
Läs även: Nu släpps en ny AI-modell för jobbet – ska vara bäst hittills. Dagens PS
Anthropic, som värderas till 380 miljarder dollar, har donerat 20 miljoner dollar till en ny super-PAC som står i opposition till politiska grupper kopplade till OpenAI:s ledning och investerare.
Där OpenAI och dess allierade förespråkar en avreglerad approach med fokus på konkurrenskraft och innovation, driver Anthropic en agenda för striktare AI-säkerhet och regleringar.
”AI anammas snabbare än någon annan teknologi i historien, och fönstret för att få policyn rätt håller på att stängas”, skriver Anthropic i ett blogginlägg.
”Ändå finns inga officiella skyddsräcken på plats och inget federalt ramverk i sikte.”
Den forna OpenAI-forskaren Zoe Hitzig, som också nyligen avgick, har uttryckt liknande oro. I en intervju med BBC Newsnight varnade hon för de psykosociala effekterna av AI-assistenter och jämförde situationen med sociala mediers framväxt.
”Att skapa en ekonomisk motor som tjänar på att uppmuntra den här typen av nya relationer innan vi förstår dem är verkligen farligt”, sa Hitzig enligt BBC.
