Den internationellt erkända AI-experten Ivana Bartoletti är Global Privacy Officer på techföretaget Wipro. Hon blev utnämnd till ”Woman of the year” 2019 av The Cyber Security Awards och har skrivit två böcker om AI. Nu ger hon sin syn på EU AI Act – EU:s lagförslag om artificiell intelligens, som tar processen ett steg närmare till att en faktisk AI-lag implementeras.

Omröstningen sker idag i EU-parlamentet, och AI-akten var även något som civilminister Erik Slottner (KD) nyligen berörde i en exklusiv intervju med Realtid.

Samtidigt har lagförslaget rönt kraftig kritik, bland annat från Svenskt Näringsliv, som menar att reglerna är alltför detaljerade vilket gör att det är svårt att efterleva dem.

– AI Act bekymrar oss. Många ligger redan efter med att implementera GDPR, och nu bygger vi på med AI-akten. Och om företagen har det svårt med GDPR så får de det ännu svårare med AI Act, sa Carolina Brånby, jurist och policyansvarig på Svenskt Näringsliv, till IDG i mars.

Ivana Bartoletti säger till Realtid att det finns en poäng i kritiken.

– Även om det kanske inte är den perfekta lagstiftningen, är det värt att komma ihåg att det inte är en universell lag om AI. Lagar om integritet, konsumenter, icke-diskriminering, arbete och ansvar gäller alla. Vad EU-lagen kommer att göra är att tillhandahålla styrning kring AI med högre risk, inklusive att förbjuda det när det inte överensstämmer med europeiska värderingar, säger Ivana Bartoletti.

Hon poängterar också att pålitlighet är viktigt, särskilt eftersom AI-tillämpningar blir mer ”mainstream”. Tydlighet kring vad som gäller med AI är också bra för företag.

Vad tycker du själv om lagen – är den bra eller dålig?
– Jag är personligen glad att Europeiska unionen leder i detta. Jag brinner också mycket för att EU ska kunna konkurrera på en global skala och är helt övertygad om att pålitlig, säker och pålitlig AI kommer att hjälpa, inte hindra framsteg, säger hon, och fortsätter:

– Som ’privacy officer’ är jag däremot oroad över potentiellt missbruk eftersom jag värdesätter människors självständighet och värdighet. Jag hade nog velat se strängare kontroller kring kontroversiella områden, exempelvis som när AI-verktyg använder biometri och ansiktsigenkänning, säger hon.

Vilka är de största möjligheterna och riskerna med AI i allmänhet?
– AI erbjuder enorma möjligheter! Jag är helt fascinerad av hur vi kan förbättra vår hälsa och miljö. Vi kan upptäcka sjukdomar, identifiera nya läkemedel snabbare, stödja barn med funktionshinder samt optimera resurser så att vi kan fokusera på mer rekreativa uppgifter, säger hon, och fortsätter:

– Men allt detta kräver planering, gedigna politiska ingripanden och styrning. Riskerna finns där och vi har känt till dem länge: manipulation, deepfakes, urholkningen av vår demokratiska livskraft och kodningen av ojämlikheter i algoritmer som fattar beslut om vårt liv. Men dessa risker kan hanteras och det är dags att agera, säger Ivana Bartoletti.