Annons

Annons

IMG_1352.JPG

Juridikprofessorn Mireille Hildebrandt ser risker med "big data" och självlärande system. Foto: David Gustavsson

Professor: Algoritmer löser inte alla våra problem

Juridikprofessorn Mireille Hildebrandt varnar för en blind tilltro till heta teknologier som "big data" och automatisk maskininlärning. "Det finns de som gör galna grejer med sin data", säger hon.

Realtid.se har tidigare berättat att det flödar in kapital till svensk "deep tech" som bland annat omfattar maskinlärning, artificiell intelligens, ansiktsigenkänning och "internet of things".

Teknologierna håller på att förändra våra vardag och uppdelningen mellan "online" och "offline" luckras upp. Det menar Mireille Hildebrandt, professor i juridik vid Law, Science, Technology and Society på Vrije Universiteit i Bryssel. Hon var en av talarna på ett seminarium anordnat av SNS Digitech Forum i Stockholm på tisdagen.

"Onlife på intåg"

Mireille Hildebrandt talar om "onlife" för att beskriva den tilltagande integreringen av internetanslutna och datainsamlande tekniker i vår vardag. Skiftet skedde på allvar i och med de smarta telefonernas intåg. På sikt kommer allt från möbler till smycken och vitvaror vara uppkopplade och självlärande. 

Annons

Annons

– I dag lever vi "front end". Vi tittar på skärmar. Men gränssnitt, till exempel det du ser när du tittar på din dataskärm, kommer en dag att helt försvinna. Istället blir verkligheten vårt gränssnitt. Det här bordet som jag står vid nu kommer att veta vem jag är och känna av vissa saker om mitt fysiska tillstånd. Systemen kommer att förutse beteenden, säger Mireille Hildebrandt.

"Felaktig föreställning"

Artificiell intelligens och maskininlärning utvecklas med hjälp av bland annat stora mängder data, så kallad "big data" som kan används för att skapa algortimer. Det bäddar för en rad nya smarta produkter. Men utvecklingen medför också risker, enligt Hildebrandt.

– Det är omöjligt att skapa en slutgiltig algoritm som kan lösa alla dina problem. Men i dag finns det en felaktig föreställning om att man med väldigt stora dataunderlag kan utarbeta mycket sofistikerade och nästan felfria system. Men det är snarare tvärtom. Varje system bör istället ha ett tydligt definierat syfte och genomgå gedigna testrundor, säger Mireille Hildebrandt.

Vanligare med profilmatchningar

I Holland cirkulerade nyligen en fejkad nyhet om att holländska skattemyndigheten hade byggt en algoritm som räknat ut att en person som äger en svart bil av ett visst märke är mer benägen att skattefiffla och att myndigheten därför höll extra koll på individer som matchade den profilen.

Den nyheten var påhittad, men Hildebrandt menar att profilmatchningar av den typen kommer att bli allt vanligare i framtiden.

– Jag säger inte att det här behöver vara något dåligt. Men vi måste alltid vara uppmärksamma på vem som samlar in data om oss och för vilka syften. Google och Facebook har i dag strikta regler för detta. Men det finns de som gör helt galna grejer med sin data. Ett exempel är försäkringsbolaget som skulle anpassa sina kunders försäkringspremier utifrån vad de delade och skrev på Facebook. Facebook sade blankt nej och undrade om de var galna, säger Mireille Hildebrandt.

Samhällsnyttiga insatser

Men Nicklas Lundblad – samhällspolitisk Europachef på Google och professor i innovation på KTH och som också medverkade på seminariet– har en mer positiv syn på datainsamling och menar att det kan gynna mänskligheten i stort.

– Om vi samlar in hälsodata från ett helt lands befolkning så kanske det kan leda till att vi lär oss saker som kan förlänga våra liv. Det är inte tillåtet att göra så i dag, men jag anser att de här frågorna är värda att fundera över och diskutera, säger han.

Mireille Hildebrandt håller inte alls med om det.

– Vi måste alltid tänka på vem som samlar in data. Är det ett läkemedelsbolag, ett sjukhus eller forskare? Vi måste beakta att det alltid kan finnas någon som vill få avkastning på en viss typ av data och att det kan leda till skeva resultat, säger hon.

Annons

Annons

Annons

Annons

Annons

Annons

Annons

Annons