En kvinna som utsattes för sexuella övergrepp som barn stämmer Elon Musks AI-bolag xAI. Hon hävdar att Grok, xAI:s AI- chatbot, använde bilder från övergreppen för att skapa nytt sexuellt övergreppsmaterial som föreställer henne.
Musk-bolaget xAI stäms för att ha producerat övergreppsbilder
Kvinnan, som kallas Jane Doe i stämningen, utsattes enligt stämningen för övergreppen när hon var i förskoleåldern.
De ursprungliga bilderna, som enligt stämningen cirkulerat på nätet i omkring 20 år, är sedan länge kända av myndigheter och organisationer som arbetar med att identifiera material som visar sexuella övergrepp mot barn.
Det nya materialet ska, enligt rapportering från Guardian, däremot ha skapats med hjälp av AI. Enligt stämningen kunde Canadian Centre for Child Protection koppla vissa av de AI-genererade bilderna till den gamla bildserien genom så kallade hashvärden – digitala fingeravtryck som används för att känna igen redan identifierat övergreppsmaterial.
Läs också: Apple stäms på miljarder – svenska apputvecklare kan stå på tur. Realtid
Långt ifrån alla AI-genererade bilder går att spåra
Det har blivit allt svårare att kunna avgöra om en bild är ett original eller om den är skapad av AI utifrån tillgänglig data.
Enligt branschorganisationen C2PA (Coalition for Content Provenance and Authenticity), som utvecklar en öppen teknisk standard för att dokumentera digitalt innehålls ursprung, kan man ibland hitta information om var och hur en bild skapats och vilka ändringar som gjorts.
Ibland är det möjligt att spåra en AI-genererad bild tillbaka till ett specifikt foto eller en viss person. För redan känt övergreppsmaterial, som det som anges i stämningen, kan hashvärden, användas för att känna igen en bild som redan finns i en databas.
Olika metoder för att spåra en bild kan ge ledtrådar om dess ursprung, men det är inte självklart att varje AI-genererad bild kan identifieras eller spåras tillbaka till sitt ursprung.
Läs också: Anthropic slår SpaceX, kan bli världens största börsnotering. Realtid
När upphör en bild att vara den person vars fotografi användes som utgångspunkt.
Idag kan en bild manipuleras av AI på många sätt. Ett ansikte kan förändras, placeras på en annan kropp eller sättas in i en helt ny miljö.
En AI kan samtidigt skapa en bild som aldrig tidigare har existerat. Frågan är hur mycket en bild kan förändras innan personen på bilden inte längre kan sägas vara samma person som på ursprungsfotot.
Det är inte första gången xAI anklagas för att Grok har använts för att producera sexuellt övergreppsmaterial. I en tidigare stämning hävdade tre tonåringar att bilder på dem som tagits när de var minderåriga hade manipulerats till sexuella bilder.
Läs också: Dolda klausulen i Metas uppgörelse: Får behålla barnens data. Realtid
Fler kvinnor anklagar xAI för AI-bilder
I augusti anslöt sig ytterligare en kvinna till målet. Hon hävdar att hennes styvfar använde ett fotografi från när hon var omkring elva år för att skapa mer än 7 000 sexuella AI-bilder av henne.
Även där handlar stämningen om bilder som aldrig tidigare existerat. Enligt kvinnan föreställer bilderna fortfarande henne, trots att de aldrig tidigare har existerat.
Den nya stämningen mot xAI går längre än tidigare fall genom att hävda att Grok inte bara genererat nya bilder utifrån fotografier av offret, utan att xAI har använt verkligt övergreppsmaterial i sin AI-verksamhet. xAI har än så länge inte kommenterat anklagelserna.
Läs också: ”Perversa glasögonen” kan förbjudas på bio. Realtid
Stämningen kan omfatta tusentals minderåriga
Stämningen har lämnats in som en föreslagen grupptalan och kan enligt åtalet omfatta tusentals minderåriga.
Rättsprocessen får avgöra vilka av anklagelserna som håller. Samtidigt riktar den ljuset mot en viktig etisk fråga: hur mycket kan AI förändra en bild innan personen på bilden inte längre kan sägas vara samma person som på ursprungsfotot.
Missa inte: Musks AI avklädde kvinnor och barn – länder kräver svar. Realtid
