Ivana Bartoletti är Global Privacy Officer på techföretaget Wipro. Hon har tidigare sagt till Realtid att hon brinner mycket för att EU ska kunna konkurrera på en global skala och är helt övertygad om att pålitlig, säker och pålitlig AI kommer att bidra till framsteg. 

Idag onsdag har ledamöterna i EU-parlamentet en slutgiltig omröstning gällande EU AI Act, det föreslagna regelverk som syftar till att motverka oetiskt användande och minska riskerna med AI. De tilltänkta reglerna fastställer skyldigheter för leverantörer och användare beroende på den risknivå som AI kan generera. De skulle till exempel förbjuda AI-system med oacceptabla risknivåer.

– EU-parlamentets omröstning idag innebär att EU:s AI-lag kan träda i kraft i slutet av året. Det kommer vara den första lagstiftningen som reglerar AI-tillämpningar med hög risk och generativa AI-verktyg. I en tid när alla pratar om skadorna och riskerna med AI och behovet av att sätta spelreglerna är det bra att reglering äntligen skymtar i horisonten, säger Ivana Bartoletti till Realtid.

Konvergensen mellan USA och EU innebär att även om EU:s AI-lag inte träder i kraft förrän 2025 kan en uppförandekod överbrygga klyftan under tiden.

– EU:s AI-lag kommer att fungera parallellt med befintliga lagar kring AI och, som den amerikanska FTC-kommissionären Alvaro Bedayo nyligen sa, är AI ingen ursäkt för att bryta mot lagen. Integritet, mänskliga rättigheter, konsument, icke-diskriminering, ansvar – allt detta gäller även AI-system, säger hon.

Entreprenören Sam Altman, vd för OpenAI, är en av de som står bakom idén att lansera en global vakthundsorganisation för AI, likt det Internationella atomenergiorganet IAEA. Ett sådant kontrollorgan för AI ska i så fall inspektera system, kräva översyn och genomföra tester för att se hur säkerhetsstandarder efterlevs. Ivana Bartoletti är dock mer tveksam till en sådan satsning:

– Jag tror inte att fungerar att titta på IAEA för inspiration. Byrån är en produkt av en helt annan värld än den vi lever i idag. Ett globalt verktyg måste titta på skador och gå bortom den riskbaserade metoden vi ser i både EU och USA, för att istället fokusera på människor, medborgare och miljö. Den måste ha befogenhet att utreda och rapportera om produkttransparens, liksom principer som är verkställbara och kan utnyttjas av domstolar över hela världen, säger Ivana Bartoletti.

Ledamöterna i EU-parlamentet väntas stödja förbud mot system för biometrisk fjärridentifiering, kategorisering baserat på känslig information, system för prediktiv övervakning och känsloigenkänningssystem. De föreslår också skräddarsydda regler för generativ AI, som till exempel ChatGPT, inklusive märkning av AI-genererat innehåll och offentliggörande av sammanfattningar av upphovsrättsskyddade data som används för utbildning. För att främja AI-innovation föreslås ett undantag för forskningsverksamhet och AI-teknik med öppen källkod samt användning av så kallade ”regulatoriska sandlådor”, eller kontrollerade miljöer, som skapas av offentliga myndigheter för att testa AI innan den används.

På onsdagen antog Europaparlamentet sin förhandlingsposition om rättsakten om artificiell intelligens inför förhandlingarna med EU-länderna om lagens slutgiltiga utformning. Förhandlingspositionen antogs med 499 röster för, 28 emot och 93 nedlagda röster. Reglerna ska se till att AI som utvecklas och används i Europa är helt i linje med EU:s rättigheter och värden gällande bland annat mänsklig tillsyn, säkerhet, integritet, transparens, icke-diskriminering samt socialt och miljömässigt välbefinnande.

Nu kan förhandlingarna med EU-ländernas representanter i rådet om den slutliga utformningen av lagen inledas.

Den antagna texten kommer att finnas tillgänglig här (klicka på 14.06.23)