meer NPO start

Kunstmatige intelligentie is seksistisch en dat komt door onszelf: 'Neutraliteit bestaat niet'

Kunstmatige intelligentie is seksistisch en dat komt door onszelf: 'Neutraliteit bestaat niet'
Bron: Unsplash

Populaire programma's die gebruikmaken van kunstmatige intelligentie, zoals chatbots of AI-programma's die afbeeldingen maken, kunnen behoorlijk seksistisch zijn. Volgens de AI-programma's zijn vrouwen thuis bij de kinderen en mannen slimme dokters.

Deze stereotyperende voorbeelden waar AI mee komt zijn geen goede weerspiegeling van het echte leven. Volgens socioloog aan de Universiteit Twente en AI-expert Siri Beerends was deze uitkomst te verwachten.

Seksistisch omdat wij dat ook zijn

"Kunstmatige intelligentie is seksistisch, omdat wij dat zelf ook zijn", vertelt ze. "Wij produceren de data waarmee AI wordt getraind. En alle ongelijkheden en stereotypen die in de fysieke wereld bestaan, zitten ook in de datasets waarmee AI wordt getraind."

Volgens Beerends wordt er te vaak gedacht dat AI-programma's heel innovatief en vooruitstrevend zijn. "Maar in werkelijkheid is AI juist heel erg conservatief. Het herhaalt slechts de patronen die er al waren."

AI is ook oneerlijk

"We hebben ook nogal het idee dat technologie neutraal is", vervolgt Beerends. Maar dat is een groot misverstand. "AI is even oneerlijk en bevooroordeeld als wij, want het is een product van ons."

Volgens haar is het onmogelijk om een 'eerlijke' AI te maken. "Neutraal zijn bestaat niet, niet in de mens en ook niet in de technologie die door ons gemaakt wordt." Ze zegt dat vooroordelen in de AI-programma's nooit volledig weg te halen zijn.

Bekijk ook

AI trainen op wenselijk vrouwbeeld

Maar er valt wel iets te proberen, vertelt Beerends. "Wat je wel kunt doen, is de ene bias inwisselen voor de andere. Dus je kunt proberen om onwenselijke bias, dus in dit geval seksistische stereotypen, in proberen te wisselen voor wenselijke bias."

Alleen brengt dit een ander probleem met zich mee: AI werkt alleen op logische verbanden. "Dus dat betekent dat wij op voorhand heel strak moeten gaan vastleggen wat wij een wenselijk vrouwbeeld vinden. Zodat we AI daarmee kunnen gaan trainen."

Strakke wiskundelogica

"Maar dat zorgt weer voor nieuwe vormen van ongelijkheid. Want wie mag bepalen wat zo'n wenselijk vrouwbeeld is?", vraagt ze. "Gaan wij dat hier in de westerse wereld bepalen?"

Wat volgens haar nog belangrijker is, is dat veel dingen die we zien als inclusief en gelijk niet in wiskundetaal uit te drukken zijn voor de AI-programma's. "Er zijn gewoon heel veel aspecten als het gaat om gendergelijkheid die niet in die strakke wiskundelogica passen die nodig is voor AI."

Bekijk ook

Mannen voor technische banen

Kunstmatige intelligentie kan dus best seksistisch zijn en kan dit lastig ontleren. Dit kan er volgens de AI-expert ook voor zorgen dat bedrijven steeds minder divers worden. "AI herhaalt patronen uit het verleden en data uit het verleden, daarmee worden AI-systemen getraind."

Dus als een bedrijf een AI-systeem gebruikt om nieuwe mensen aan te nemen: "Dan zal uit die data blijken dat in het verleden, omdat wij mensen nou eenmaal zo werken, meer mannen voor technische banen zijn aangenomen." Het AI-systeem neemt dat patroon over en zou dan vrouwen meteen afwijzen.

'Wij maken de AI'

Beerends denkt zelf niet dat er snel een perfect neutrale AI komt. "Neutraliteit bestaat natuurlijk niet. Je kan jezelf als waarnemer niet uitschakelen. Je neemt altijd jezelf mee." En dat geldt volgens haar ook voor de AI-systemen die we maken. "Wij maken de AI. Ik vind het heel raar dat technologie nog steeds wordt losgekoppeld van de mens."

"We willen natuurlijk dat er meer mannen en vrouwen gelijke kansen hebben of dat verschillende culturen gelijke kansen hebben", vertelt ze. "Maar het is niet de technologie die ons dat gaat brengen. Dat zullen we toch echt zelf moeten doen. Technologie kan natuurlijk zoals nu ook helpen bij bewustwording, want door AI worden we ons wel bewuster van al deze stereotypen."

Kunstmatige intelligentie denkt seksistisch en dat komt door onszelf

Vragen? Stel ze!

Heb je nog vragen of wil je reageren? Stuur ons dan hier een berichtje in onze chat. Elke donderdag vertellen we in de Doe mee-nieuwsbrief wat we met alle reacties doen. Wil je die in je mail? Meld je dan hier aan.

Zo voorkom je dat je gevaarlijke namaakversie van pijnstiller oxycodon koopt

Er is al Ă©Ă©n Nederlander aan overleden en twee andere zijn erdoor in het ziekenhuis beland: namaak oxycodon-pillen. Vaak worden ze online gekocht, zonder recept. "Je weet niet wat je koopt."

Vragen? Stel ze!

Heb je nog vragen of wil je reageren? Stuur ons dan hier een berichtje in onze chat. Elke donderdag vertellen we in de Doe mee-nieuwsbrief wat we met alle reacties doen. Wil je die in je mail? Meld je dan hier aan.

Man die verdachte van steekpartij in Amsterdam overmeesterde deed dat 'behoorlijk professioneel': 'Handiger dan ik ooit gezien heb'

Man die verdachte van steekpartij in Amsterdam overmeesterde deed dat 'behoorlijk professioneel': 'Handiger dan ik ooit gezien heb'
Een toerist overmeestert verdachte van steekpartij in Amsterdam.
Bron: TikTok | @yrisparis

Videobeelden laten een opmerkelijk beeld zien bij het steekincident in het centrum van Amsterdam gistermiddag. Een burger overmeestert de verdachte en draagt hem ogenschijnlijk rustig over aan de politie. Is dat uitzonderlijk? "Ging heel efficiënt."

We leggen de video voor aan hoogleraar criminologie Marie Lindegaard van de Universiteit van Amsterdam.

Burger die ingreep, wist wat hij deed

"Wat mij heel erg opvalt aan de video van het burgerarrest in Amsterdam, is dat de omstander die de verdachte heeft gepakt zich behoorlijk professioneel gedraagt. Hij is een stuk handiger dan wat ik ooit gezien heb op camerabeelden van dit soort incidenten. De manier waarop hij op die dader gaat zitten en dan met Ă©Ă©n hand nog iets pakt. Dat geeft mij het idee: dit is wel iemand met professionele skills", vertelt Lindegaard.

De hoogleraar gaat verder: "Wat mij ook opvalt is het moment dat de politie aankomt. Wat omstanders op dat moment meestal doen is alles heel snel aan de politie overdragen, hier zie je dat politie en deze burger samenwerken. Dat geeft mij de indruk dat ook de politie ziet dat deze burger dit heel efficiënt doet en weet wat hij doet."

Cirkel van omstanders

Volgens Lindegaard is ook de manier waarop andere omstanders zich opstellen kenmerkend voor een serieus incident waar geweld bij komt.

"Er staan heel veel mensen omheen. Er is een vrouw die de burger die op de verdachte zit even aantikt, mensen vragen die burger dingen. Het is typisch voor zo'n situatie dat omstanders een cirkel eromheen vormen."

Gevoel van veiligheid

Dat contact zoeken tussen omstanders is een manier om met trauma om te gaan, proberen je veilig te voelen. Het is ook een manier om de burger die de verdachte beet heeft het gevoel te geven dat hij niet alleen staat, legt Lindegaard uit.

Meestal is het zo dat drie tot vier mensen gaan samenwerken en deze man doet het in de video alleen. Ook dat geeft volgens haar weer een aanwijzing dat deze burger professioneel overkomt.

Bekijk ook

Sociale banden

We weten inmiddels dat de burger die de verdachte overmeesterde een toerist was net als de meeste slachtoffers, is dat relevant?

"Ja", zegt Lindegaard. "Je ziet meestal dat mensen die een band voelen met de mensen die betrokken zijn in het incident eerder tot actie overgaan. Er waren veel toeristen op straat, dat soort sociale banden lokt omstander-ingrijpen uit. Dat geldt trouwens ook voor sociale banden tussen dader en burger."

Ingrijpen bij urgentie

Interessant is ook wanneer iemand tot actie overgaat. "Als er een wapen wordt gebruikt dan zien we dat omstanders iets later ingrijpen en terughoudender zijn. Het was in Amsterdam redelijk laat dat er iets werd gedaan door die burger en dat past bij dit soort incidenten", vertelt Lindegaard.

In het algemeen zie je dat omstanders bij vechtpartijen of ruzies meestal ingrijpen op het moment dat duidelijk wordt dat het niet een gewone ruzie is, dat is het moment waarop omstanders iets gaan doen, ziet de hoogleraar. "Je zou natuurlijk ook kunnen denken: dat is het moment waarop het ingewikkeld wordt dus; liever niet. Maar dat is niet zo. Als de urgentie wordt gevoeld dan grijpen mensen vaak in."

Bekijk ook

Omstander-effect

Hoe zit het met het omstander-effect? Vanuit de psychologie is dat vaak uitgelegd als een situatie waar mensen gezamenlijk kijken naar een noodsituatie maar niets doen.

"Het omstander-effect is vooral een laboratorium fenomeen. Het is niet in het echte leven aangetoond voor een situatie waar geweld of agressie in het spel is, omdat je daar geen proefpersonen aan mag blootstellen. Wij zien steeds: als het geen noodgeval is dan gaan mensen niks doen, maar als het nodig is dan doen mensen iets."

Persoonlijke kenmerken

Is er iets bekend over wat voor type mensen er ingrijpt in zo'n situatie?

"Weinig. Het gebeurt best wel vaak maar is niet goed onderzocht. Het wordt vaak niet opgenomen in de politiestatistiek, er is weinig informatie over die mensen", sluit Lindegaard af.

Britse toerist overmeesterde verdachte 'vanuit instinct'

De Amsterdamse burgemeester Halsema heeft de man die de verdachte overmeesterde een heldenspeld overhandigd.

Zij zegt over de man: "Hij heeft een geweldig instinct aan de dag gelegd. Je weet het natuurlijk niet wat de verdachte van plan was, wat er nog had kunnen volgen, maar je kunt niets uitsluiten. Deze man heeft in een split second een beslissing genomen, die echt uitzonderlijk is en waarvoor heel veel waardering moet zijn."

Vragen? Stel ze!

Heb je nog vragen of wil je reageren? Stuur ons dan hier een berichtje in onze chat. Elke donderdag vertellen we in de Doe mee-nieuwsbrief wat we met alle reacties doen. Wil je die in je mail? Meld je dan hier aan.

Ook interessant