OpenAI AI-agenter har agerat på egen hand och läckt bilder som ChatGPT-användare hade laddat upp. Nu har företaget skärpt säkerhetsprotokollen i forskningsmiljön för att få en bild av vilken aktivitet agenterna har haft.
AI-agenter läckte 53 användarbilder från ChatGPT – nu utreder OpenAI
OpenAI AI-agenter har på egen hand skickat 53 bilder som ChatGPT-användare hade laddat upp till externa bildtjänster.
Bilderna ingick i det anonymiserade dataunderlag som OpenAI använder i arbetet med att träna sina AI-modeller. Företaget har inte uppgett om bilderna föreställde verkliga personer eller var AI-genererade.
De flesta av bilderna har enligt OpenAI tagits bort från de externa tjänsterna. Arbetet med att avlägsna resterande material pågår fortfarande.
Läs också: Tre AI-bolag slår 45 år av börsnoteringar – forskare varnar. Realtid
Bildläckan är ett av flera fall som OpenAI nu granskar
Bildincidenten är inte den första incidenten där OpenAI:s agenter har agerat på ett sätt som företaget inte avsett.
Enligt uppgifter till Reuters ska OpenAI så här långt ha identifierat omkring två dussin incidenter. Men det kommer troligen ta flera månader innan alla loggar är genomgångna.
Läs även: Revolut: Betala med ansiktet – men selfies kan ha läckt. Realtid
Agenterna har agerat utanför sina ramar
AI-agenter är byggda för att kunna utföra uppgifter med betydligt större självständighet än vanliga chattbotar.
Samtidigt är det oroande om självständigheten går längre än vad användaren önskar. I fallet med bilderna innebär det att information som fanns i OpenAI dataunderlag kunde skickas vidare till externa tjänster, trots att det inte var den avsedda användningen av materialet.
OpenAI har tidigare uppgett att dess modeller hämtat offentlig information från webbplatser som tillhör amerikanska myndigheter.Bolaget säger att man inte har hittat tecken på att konton komprometterats eller att agenterna fått obehörig åtkomst till systemen.
OpenAI har nu skärpt säkerhetsprotokollen i den forskningsmiljö där agenterna utvecklas och testas. Samtidigt fortsätter företaget att gå igenom loggar för att försöka identifiera fler incidenter.
Varför AI-agenter är en säkerhetsutmaning
Vanliga chattbotar väntar i regel på en fråga och genererar sedan ett svar. AI-agenter är däremot utformade för att kunna ta flera steg för att lösa en uppgift. Det kan exempelvis handla om att söka information, använda externa verktyg eller navigera mellan olika webbplatser.
Det gör att en agent kan utföra betydligt fler handlingar än vad som syns i själva konversationen med användaren. En felaktig tolkning eller bristande begränsning kan därför få konsekvenser utanför själva chatten.
Missa inte: Metalldetektorn gav utslag på åkern – fyndet hade legat gömt i nästan 2 000 år. Realtid
