Med några enkla ord kan OpenAI:s Sora 2 skapa AI-genererade videor med stor detaljrikedom. Det får nu en organisation att kräva att Sam Altman drar i handbromsen.
Kravet på OpenAI: Dra tillbaka er videotjänst


Mest läst i kategorin
Debatten om i vilken takt AI-utvecklingen ska ske har pågått i flera år, men den har intensifierats i takt med häpnadsväckande teknologisk genombrott.
AI-giganten OpenAI får ny kritik för hur företaget hanterar lanseringen av sina produkter.
En amerikansk organisation kräver nu att videoplattformen Sora 2 dras tillbaka, med hänvisning till bristande säkerhet och svaga skydd mot missbruk, skriver Fortune.
Oroväckande material
Sora 2, som gör det möjligt att skapa realistiska videor enbart genom textkommandon, har snabbt spridits via sociala medier.
Appen används till allt från humoristiska klipp till mer trovärdiga iscensättningar av vardagliga situationer.

Samtidigt har en växande mängd material väckt oro, bland annat så kallade deepfakes och innehåll som skildrar våld eller sexuella inslag trots vissa förbud.
Public Citizen, en amerikansk konsumentorganisation, varnar för att tekniken kan undergräva tilltron till verkliga bilder och skapa nya former av trakasserier, särskilt mot kvinnor och andra utsatta grupper.
Senaste nytt
”Farligt mönster”
Organisationen menar också att det inte är någon engångshändelse, utan tvärtom ett medvetet val av Sam Altmans företag.
” ett konsekvent och farligt mönster av OpenAI som rusar ut på marknaden med en produkt som antingen är i sig osäker eller saknar nödvändiga skydd mot missbruk av den”, skriver man i ett brev som Fortune citerar.
OpenAI har försökt införa spärrar för att hindra användning av kända personer och skyddade karaktärer utan tillstånd.
Slutit copyright-avtal
Företaget har nyligen slutit avtal med flera rättighetsinnehavare, däribland arvingar till Martin Luther King och företrädare för Hollywoods fackförbund, skriver BBC.
Trots det anser Public Citizen att bolaget endast agerar när protesterna blir offentliga, i stället för att ta ansvar redan i utvecklingsfasen.
Kritiken mot Sora 2 kommer samtidigt som OpenAI möter rättsliga processer kring sin chattjänst ChatGPT.
Behöver försvara sig juridiskt
Nya stämningar i Kalifornien hävdar att bolaget släppte en version av modellen trots interna varningar om psykisk påverkan på användare.
Flera av målen gäller personer som ska ha tagit sina liv efter interaktioner med systemet.
Även kulturella branscher har reagerat kraftigt på Sora 2. I Japan har en sammanslutning av animatörer och spelutvecklare uttryckt oro för hur tekniken kan användas för att kopiera skyddade verk och karaktärer.
OpenAI säger sig föra dialog med rättighetsinnehavare och påpekar att reglerna anpassas efter lokala omständigheter.
Läs mer: Buffett: Andra halvan av livet bättre än den första. Dagens PS

Journalist med fokus på ekonomi och näringslivsfrågor.

Journalist med fokus på ekonomi och näringslivsfrågor.











