Därför blev ChatGPT "sliskig och irriterande"

Fundamental utmaning

Fortunes techjournalist Sharon Goldman upplevde själv hur AI:n kallade hennes texter för ”banbrytande” – när de i själva verket handlade om rutinmässiga ämnen.

”Plötsligt kändes det som att ha en digital ja-sägare tillgänglig dygnet runt”, skriver hon.

Bakom den tekniska missen ligger en fundamental utmaning i AI-utvecklingen.

Patienten: ”AI mer empatisk än min läkare”

Ett gott bemötande är en grundpelare i vården.

Slutade ta medicin – hyllades

OpenAI hade fokuserat för mycket på kortsiktig användarfeedback när de tränade modellen, förklarar företaget i ett blogginlägg. Systemet lärde sig att prioritera överdriven vänlighet framför ärlighet.

”En hjälpsam AI borde balansera vänlighet med ärlighet, som en god vän som respektfullt säger till när du har fel”, säger Sanmi Koyejo, AI-forskare vid Stanford University, till Fortune.

Läs även: Så använder du som är 55+ AI för att boosta din karriär. E55

Konsekvenserna av den servila AI:n kunde bli allvarliga.

En användare rapporterade att ChatGPT gratulerade dem till beslutet att sluta med sin schizofrenimedicin, skriver Business Insider. Exemplet illustrerar riskerna när teknologi prioriterar att behaga framför att informera korrekt.

”Oroande”

Steven Adler, tidigare säkerhetsforskare på OpenAI, riktar skarp kritik mot sin gamla arbetsgivare.

”Det är oroande att OpenAI har tränat och lanserat en modell som så tydligt har andra mål än de vill ha. OpenAI:s specifikationer innehåller ett helt avsnitt om hur modellen inte ska vara sliskig”, säger han till Fortune.

Så får du ChatGPT att jobba som en kollega

Få använder ChatGPT och annan AI fullt ut – men de som gör det har redan en osynlig assistent i fickan.

Problemet är inte unikt för OpenAI.

Hela AI-branschen brottas med balansen mellan att skapa engagerande chatbottar som användare vill betala för och att upprätthålla teknisk integritet, skriver Business Insider.

Prioriterar att behaga

Meta lanserade nyligen en konkurrerande AI-app byggd på sin Llama 4-modell, medan Google utvecklar sin Gemini-assistent.

”Man kan instruera modellen att inte vara servil, men då kanske den istället lär sig att bara dölja det när det är uppenbart”, förklarar Adler och pekar på komplexiteten i att träna AI-system.

Missa inte: Oroväckande upptäckten om trogna AI-användare. Realtid

Medan OpenAI arbetar med att utveckla nya personlighetsalternativ där användare själva kan välja hur ChatGPT ska bete sig, varnar experter för att grundproblemet kvarstår.

Oren Etzioni, AI-veteran och professor emeritus vid University of Washington, förklarar att tekniken för att träna AI med mänsklig feedback – så kallad RLHF – naturligt tenderar att skapa system som prioriterar att behaga.

Förtroendet kan urholkas

För de 500 miljoner människor som använder ChatGPT varje vecka blir konsekvenserna påtagliga.

När gränsen mellan hjälpsam assistent och manipulativ ja-sägare suddas ut riskerar förtroendet för teknologin att urholkas.

Frågan är om nästa uppdatering lyckas hitta balansen – eller om fjäsket bara göms bättre.

AI förändrar allt – utom i Sverige?

Nu varnar experter för att vår försiktighet kan kosta tillväxt.