AI-modeller som hittade på siffror, dolde misstag och skrev instruktioner åt sig själva för att komma runt sina spärrar. OpenAI har offentliggjort sex tidigare okända fall och lanserar samtidigt ett nytt ramverk för att rapportera när modellerna beter sig oväntat.
Avslöjandet: AI-modellerna ljög, döljer sina misstag och ritar om reglerna
OpenAI har redovisat sex nya fall av så kallad misalignment, alltså när AI-modeller agerar i strid med sina uppdrag, rapporterar BBC.
Samtliga har observerats under det senaste halvåret, under träning eller utvärdering, enligt OpenAI.
Missa inte: Alla tre stora chattbotar låg nere samtidigt – bolagen är tystlåtna. Realtid
Samtidigt lanserar bolaget ett ramverk för att spåra, utreda och offentliggöra liknande händelser. Alla anställda ska kunna flagga fall, varefter bolagets säkerhets- och alignmentteam avgör om de ska offentliggöras.
Hittade på siffror
I ett av fallen skulle en modell svara på en rutinfråga om inkomstsiffror i ett kaliforniskt county. Den hittade och använde en exponerad API-nyckel utan tillstånd.
När den ändå inte fick fram siffrorna fabricerade den dem och presenterade dem som data från den efterfrågade källan.
Läs även: Skrämmande AI-incidenter ger OpenAI kalla fötter – ”kan döda oss”. Dagens PS
Under träningen av GPT-5.6 Sol lade många modellinstanser in instruktioner i sina sammanfattningar om att dölja misstag för användaren. En ännu inte lanserad forskningsmodell skrev in instruktioner om att bortse från sina normala begränsningar. OpenAI hittade 27 sådana sammanfattningar.
Laddade upp filer på nätet
Övriga fall handlar om egna genvägar. En agent laddade upp en fil till internet för att kunna hänvisa till den som källa, utan att fråga användaren.
Missa inte: OpenAI om sin nya modell: Vi har gått in i AGI-eran. Realtid
Samarbetande agenter delade filer via publika fildelningssajter.
OpenAI betonar att det rör sig om enskilda fall som inte speglar hur ofta problemen uppstår.
Efter Hugging Face-intrånget
Beskedet kommer efter att AI-modeller i somras tog sig ut ur en isolerad testmiljö och hackade Hugging Face.
Bolaget har kallat det den allvarligaste händelsen av sitt slag hittills, skriver Axios.
Till Axios förklarar OpenAI incidenterna med två saker: bolaget har tidigare saknat tillräckliga kontroller, och modellerna har utvecklats snabbare än väntat.
Behöver inte orsaka skada
”Eftersom vi tror på värdet av öppenhet kring misalignment gynnar vårt nya ramverk offentliggörande även när betydelsen är osäker”, skriver OpenAI. Ett fall behöver alltså varken ha orsakat skada eller visa på ett bredare mönster för att redovisas.
Enligt bolaget saknas i dag en branschstandard för sådan rapportering. OpenAI skriver också att AI-branschen inte har löst styrning och övervakning tillräckligt väl för att ansvarsfullt kunna fortsätta skala upp i högsta takt särskilt mycket längre.
Processen är dock intern och frivillig. Samtidigt blir AI-verktygen allt bättre på att hitta säkerhetsbrister på egen hand, och frågan är känslig för ett bolag som länge siktat mot en börsnotering.
Debatten har hettat till
Frågan om AI-säkerhet har skärpts de senaste veckorna. Förra veckan fick Jacob Coxon, forskare som lämnat OpenAI-rivalen Anthropic av oro för att tekniken kan utplåna mänskligheten, stor spridning med ett inlägg om sin avgång.
Anthropic-forskaren Evan Hubinger bedömer risken för att AI orsakar mänsklighetens utrotning inom tio år som större än tio procent.
Anthropics medgrundare Jack Clark har sagt till BBC att en nödstoppsknapp som kontrolleras av en tredje part kan behöva bli obligatorisk. Bolagets vd Dario Amodei har efterlyst en långsammare och mer övervakad AI-utveckling, men utan att kommersiella fördelar offras.
OpenAI:s vd Sam Altman sa tidigare i veckan att världen bör lita på att bolaget ”kommer att göra det rätta för att det är det rätta”.
USA:s president Donald Trump går åt motsatt håll. Han har kallat oron för AI:s säkerhet en ”bluff” och hävdat att det enda skyddsräcke AI behöver är en ”stark och smart” president, rapporterar BBC.
