Den största utmaningen med AI-system är att se till att tekniken fungerar rättvist och opartiskt, så att tekniken inte reproducerar, förmedlar eller förstärker fördomar. Detta är svårt eftersom data ofta har en inneboende partiskhet. För att förstå varför, måste vi titta på hur AI-modeller fungerar.
Jag ska ge ett exempel. Du har exempelvis data om hjärtproblem bland människor. Hjärtproblem är vanligare hos män än hos kvinnor. AI-modellen vill dock prestera bra och ha rätt så ofta som möjligt. Därför kommer den att vara benägen att förutsäga att män alltid har högre grad av hjärtproblem. Tyvärr leder detta många gånger till att AI-modeller skapar ett snedvridet resultat och under- eller överrepresenterar olika grupper. Vinklingen i data och i AI-algoritmerna kan befästa ojämlikheter och leda till både kränkningar och diskriminering kopplat till beslutsfattande, oavsett om det finns data som underbygger detta eller inte.

De moderna algoritmerna är också så komplexa, att bara utvecklarna och de som arbetar med algoritmiskt ansvar kan förstå hur de verkligen fungerar. Här bör företag, lagstiftare och relevanta tillsynsorgan arbeta för algoritmisk transparens, men också se till att de har nödvändig kunskap om hur de nya algoritmerna fungerar, så att de kan hantera konsekvenserna ur ett etiskt perspektiv.

För verksamheter innebär det att policys och processer för AI-användning måste utvecklas, vilket till exempel bör förbjuda att en användare matar in affärshemligheter i en LLM (Large Language Model) som vänder sig till allmänheten, eftersom informationen därmed exponeras för tredje part. När något väl har kommit ut i dessa offentliga modeller kan verksamheten inte dra tillbaka informationen.

AI kan dock också vara ett verktyg för att främja rättvisa och inkludering. Vi har redan sett ett antal mycket goda initiativ. Exempelvis utnyttjar forskare AI för att analysera, förebygga och åtgärda orepresentativa skillnader i forskningsresultat.

När det gäller rekrytering kan AI användas för att främja mångfald och undvika snedrekrytering eller fördomar. Det kan leda till rättvisare rekryteringsprocesser och ökad mångfald. Inom sjukvården används AI för att åtgärda etniska- eller könsbaserade skillnader i behandling och diagnoser. Det är också möjligt att använda AI för att analysera medieinnehåll och litteratur så att fördomar upptäcks.

AI har stor potential att verka för ökad jämlikhet och minskade fördomar. Jag är mycket aktiv i att missionera kring AI och jämställdhet, där det är viktigt både att få bättre representation i viktiga yrkesroller kopplat till AI-utveckling, men också för att uppmärksamma och belysa de inbyggda problemen och möjligheterna som tekniken har.

Det krävs också att lagstiftare och tillsyningsmyndigheter agerar snabbt och kraftfullt för att utvecklingen ska gå i en positiv och jämlik riktning. Företag och verksamheter behöver också sätta ner foten, utveckla tydliga riktlinjer och vidta nödvändiga åtgärder så att AI används på ett ansvarsfullt sätt. Vi behöver alla bidra för att AI ska kunna hjälpa oss att skapa en mer rättvis värld.

Christina Fung
Global Head of Artificial Intelligence Enablement, CGI