Kunstmatige intelligentie is seksistisch en dat komt door onszelf: 'Neutraliteit bestaat niet'

Populaire programma's die gebruikmaken van kunstmatige intelligentie, zoals chatbots of AI-programma's die afbeeldingen maken, kunnen behoorlijk seksistisch zijn. Volgens de AI-programma's zijn vrouwen thuis bij de kinderen en mannen slimme dokters.

Deze stereotyperende voorbeelden waar AI mee komt zijn geen goede weerspiegeling van het echte leven. Volgens socioloog aan de Universiteit Twente en AI-expert Siri Beerends was deze uitkomst te verwachten.

Seksistisch omdat wij dat ook zijn

"Kunstmatige intelligentie is seksistisch, omdat wij dat zelf ook zijn", vertelt ze. "Wij produceren de data waarmee AI wordt getraind. En alle ongelijkheden en stereotypen die in de fysieke wereld bestaan, zitten ook in de datasets waarmee AI wordt getraind."

Volgens Beerends wordt er te vaak gedacht dat AI-programma's heel innovatief en vooruitstrevend zijn. "Maar in werkelijkheid is AI juist heel erg conservatief. Het herhaalt slechts de patronen die er al waren."

AI is ook oneerlijk

"We hebben ook nogal het idee dat technologie neutraal is", vervolgt Beerends. Maar dat is een groot misverstand. "AI is even oneerlijk en bevooroordeeld als wij, want het is een product van ons."

Volgens haar is het onmogelijk om een 'eerlijke' AI te maken. "Neutraal zijn bestaat niet, niet in de mens en ook niet in de technologie die door ons gemaakt wordt." Ze zegt dat vooroordelen in de AI-programma's nooit volledig weg te halen zijn.

AI trainen op wenselijk vrouwbeeld

Maar er valt wel iets te proberen, vertelt Beerends. "Wat je wel kunt doen, is de ene bias inwisselen voor de andere. Dus je kunt proberen om onwenselijke bias, dus in dit geval seksistische stereotypen, in proberen te wisselen voor wenselijke bias."

Alleen brengt dit een ander probleem met zich mee: AI werkt alleen op logische verbanden. "Dus dat betekent dat wij op voorhand heel strak moeten gaan vastleggen wat wij een wenselijk vrouwbeeld vinden. Zodat we AI daarmee kunnen gaan trainen."

Strakke wiskundelogica

"Maar dat zorgt weer voor nieuwe vormen van ongelijkheid. Want wie mag bepalen wat zo'n wenselijk vrouwbeeld is?", vraagt ze. "Gaan wij dat hier in de westerse wereld bepalen?"

Wat volgens haar nog belangrijker is, is dat veel dingen die we zien als inclusief en gelijk niet in wiskundetaal uit te drukken zijn voor de AI-programma's. "Er zijn gewoon heel veel aspecten als het gaat om gendergelijkheid die niet in die strakke wiskundelogica passen die nodig is voor AI."

Mannen voor technische banen

Kunstmatige intelligentie kan dus best seksistisch zijn en kan dit lastig ontleren. Dit kan er volgens de AI-expert ook voor zorgen dat bedrijven steeds minder divers worden. "AI herhaalt patronen uit het verleden en data uit het verleden, daarmee worden AI-systemen getraind."

Dus als een bedrijf een AI-systeem gebruikt om nieuwe mensen aan te nemen: "Dan zal uit die data blijken dat in het verleden, omdat wij mensen nou eenmaal zo werken, meer mannen voor technische banen zijn aangenomen." Het AI-systeem neemt dat patroon over en zou dan vrouwen meteen afwijzen.

'Wij maken de AI'

Beerends denkt zelf niet dat er snel een perfect neutrale AI komt. "Neutraliteit bestaat natuurlijk niet. Je kan jezelf als waarnemer niet uitschakelen. Je neemt altijd jezelf mee." En dat geldt volgens haar ook voor de AI-systemen die we maken. "Wij maken de AI. Ik vind het heel raar dat technologie nog steeds wordt losgekoppeld van de mens."

"We willen natuurlijk dat er meer mannen en vrouwen gelijke kansen hebben of dat verschillende culturen gelijke kansen hebben", vertelt ze. "Maar het is niet de technologie die ons dat gaat brengen. Dat zullen we toch echt zelf moeten doen. Technologie kan natuurlijk zoals nu ook helpen bij bewustwording, want door AI worden we ons wel bewuster van al deze stereotypen."