radio LIVE tv LIVE
meer NPO start

College voor de Rechten van de Mens roept mensen op om discriminerende algoritmes te melden

College voor de Rechten van de Mens roept mensen op om discriminerende algoritmes te melden
Robin deed melding van een discriminerend algoritme bij het College voor de Rechten van de Mens
Bron: EenVandaag

Het College voor de Rechten van de Mens roept burgers op om het te melden als zij last hebben van discriminerende algoritmes. Softwareprogramma's waar belangrijke instanties gebruik van maken werken namelijk niet altijd bij mensen van kleur.

Robin Pocornie (26) maakte naam toen zij bij het College voor de Rechten van de Mens melding maakte van een discriminerend algoritme in de antispieksoftware van de Vrije Universiteit (VU) Amsterdam.

Niet herkend door de camera

Tijdens een online tentamen in coronatijd gaf de antispieksoftware aan dat er niemand in de kamer was, terwijl Robin - zelf een vrouw van kleur - voor haar laptop klaar zat om het tentamen te maken. Daardoor werd zij meermaals uit het tentamen gegooid. Lastig voor haar, maar vooral ook: oneerlijk en discriminerend.

Robin vermoedde dat het systeem haar niet als persoon herkende, omdat het alleen naar behoren werkt als witte mensen voor de camera zitten. Dat is al vaker aangetoond in onderzoek. Zo herkennen zelfrijdende auto's mensen van kleur op straat minder goed dan witte mensen.

Bekijk ook

Eenzijdige data

Sommige algoritmes discrimineren doordat ze eenzijdig gevoed zijn met data. Het algoritme voor de zelfrijdende auto kreeg vooral plaatjes van witte mensen op straat te zien en niet van mensen van kleur.

Daardoor herkent de auto mensen van kleur op straat minder goed. Het algoritme discrimineert dan en daar ondervindt een deel van de wereldbevolking hinder van.

Geen gehoor op de universiteit

Bij de universiteit zelf kreeg Robin geen gehoor voor haar klacht over de antispieksoftware. Ze werd van het kastje naar de muur gestuurd. "De ombudsman binnen de VU vond het niet binnen haar portefeuille vallen", vertelt ze.

"Ze verwees me naar een diversity officer binnen de VU, maar daar kon ik geen klacht indienen. En dat wilde ik juist. Op een bepaald moment was ik al bijna 2 jaar verder en deed inmiddels twee masters. Ik ben toen samen met het Racism and Technology Centre naar het College voor de Rechten van de Mens gegaan."

info

Toezicht op discriminerende algoritmes

Al jaren wordt er in de Tweede Kamer gepleit voor toezicht op algoritmes. We krijgen er steeds meer mee te maken en worden er steeds afhankelijker van. Het mag dus niet zo zijn dat ze bevolkingsgroepen benadelen. Toch gebeurt dat op verschillende manieren wel, bijvoorbeeld in de Toeslagenaffaire. Het algoritme bestempelde mensen met een tweede nationaliteit en een laag inkomen automatisch als mensen met een hoog frauderisico.

De nasleep van de Toeslagenaffaire zorgde ervoor dat sinds januari 2023 het toezicht op algoritmes een taak is van de Autoriteit Persoonsgegevens. Maar de organisatie kampt nu al met hoge werkdruk en personeelstekorten. Hoogleraar Sennay Ghebreab, de expert op het gebied van AI en discriminatie in Nederland, zegt dat algoritmes alleen eerlijker zullen worden als ze samen met burgers gemaakt worden.

Universiteit moet met bewijs komen

Het College voor de Rechten van de Mens concludeerde afgelopen december in een tussenoordeel dat Robin voldoende aannemelijk heeft gemaakt dat er sprake is van discriminatie door het algoritme. Daarbij baseert het College zich op haar ervaringen, hoe vaak ze er door de software uit werd gegooid en op wat al bekend is over discriminerende algoritmes vanuit wetenschappelijk onderzoek.

Het is nu aan de VU om te bewijzen dat het algoritme niet discrimineert. Tot nu toe heeft de universiteit dat volgens het College niet voldoende kunnen aantonen.

'Instabiel' systeem

Volgens de universiteit discrimineert het algoritme niet, maar is het systeem 'instabiel', iets waar meerdere studenten last van hebben gehad. Maar dat witte studenten evenveel last zouden hebben gehad als Robin, kunnen ze vooralsnog niet aantonen.

15 februari zou de VU met de definitieve argumentatie komen, maar dit is uitgesteld tot half maart. Daarna doet het College definitief uitspraak.

Bekijk ook

Betekenisvolle eerste stap

Voorzitter Jacobine Geel van het College voor de Rechten van de Mens spoort intussen mensen aan om het te melden als ze vermoeden dat een algoritme discrimineert. "Het is iemand nu gelukt om te zeggen: 'Wat dit algoritme doet is vreemd. Ik vermoed dat het algoritme discrimineert'", zegt ze over de zaak van Robin. "Dat is een heel betekenisvolle eerste stap."

Geel hoopt dat dit tussenoordeel een aansporing is voor iedereen om zich bij het College voor de Rechten van de Mens te melden als hij, zij of hen vermoedt dat een algoritme discrimineert.

Bekijk hier de tv-reportage

Vragen? Stel ze!

Heb je nog vragen of wil je reageren? Stuur ons dan hier een berichtje in onze chat. Elke donderdag vertellen we in de Doe mee-nieuwsbrief wat we met alle reacties doen. Wil je die in je mail? Meld je dan hier aan.

Waarom zorgreservisten zoals Bart hard nodig zijn om medische tekorten in tijden van crisis op te vangen

Waarom zorgreservisten zoals Bart hard nodig zijn om medische tekorten in tijden van crisis op te vangen
Zorgreservist Bart Hilt
Bron: EenVandaag

Bij een crisis of ramp kan medisch personeel schaars zijn. Om dat op te vangen, gaat Defensie samenwerken met de Nationale Zorgreserve. Hoe versterken dit soort initiatieven de weerbaarheid van Nederland? "Overheid kan het niet meer alleen aan."

Zorgreservisten kunnen nu worden ingezet als Defensiepersoneel naar het buitenland moet, bijvoorbeeld bij een oorlogsdreiging. Het zijn gediplomeerde vrijwilligers, vaak oud-zorgmedewerkers, die zichzelf aanmelden en op momenten van crisis worden opgeroepen om bij te springen.

Coronacrisis

Bart Hilt is zo'n zorgreservist. Hilt heeft onder andere bij de brandweer, ambulance en huisartsenpost gewerkt. Hij werd voor het eerst ingezet tijdens de coronacrisis.

"Toen was er een oproep via Facebook en daar heb ik toen op gereageerd", legt hij uit. "Er werd gekeken in welke regio je woonde en welke ziekenhuizen mensen nodig hadden. En toen ben ik ondersteunend geweest aan de verpleging."

'Samenwerking goed idee'

De samenwerking tussen Defensie en de Nationale Zorgreserve is volgens Hilt dan ook een goed idee. "Als je kijkt naar alle brandhaarden die we in de wereld hebben, kan je er op deze manier echt voor elkaar zijn."

Middenin de coronacrisis wordt het Nationale Zorgreserve opgericht, als burgerinitiatief, legt directeur Charlotte de Schepper uit. "Een aantal burgers dacht toen, 'goh, steeds meer mensen worden ziek, maar ook steeds meer hulpverleners worden ziek. Hoe kunnen wij helpen?' En die hebben de handen ineengeslagen." Inmiddels wordt het gefinancierd door het Ministerie van Volksgezondheid.

Bekijk ook

Tekort opvullen

Mocht Defensie beroep doen op de zorgreservisten, zijn ze puur bedoeld als achtervang.

"Wij worden dan niet uitgezonden naar het buitenland. Maar de medisch specialisten van het leger wel, waardoor er een tekort is aan medisch personeel in de bases van Defensie. En die plaatsen gaan wij dan opvullen", legt Hilt uit.

Voordelen burgerinitiatief

Ook Jaap Donker, directeur van de veiligheidsregio Utrecht, ziet de voordelen van het initiatief.

"Als Defensie in het buitenland meer moet doen en de situatie hier schaars is, of als we bijvoorbeeld slachtoffers vanuit het buitenland moeten verzorgen, hebben we iedereen keihard nodig."

'Overheid kan het niet meer alleen'

Het is volgens Donker duidelijk waarom dit nu van belang is. Het gaat daarbij ook niet om de zorg alleen, legt hij uit.

"Op dit moment zie je dat de kans op een lange stroomuitval, of een natuurbrand heel reëel is. Dat willen we niet, maar we moeten ons voorbereiden." En dat kan de overheid niet meer alleen. "We staan voor ongekende uitdagingen, daarbij hebben we mensen nodig die initiatief nemen."

Waarom zorgreservisten zoals Bart hard nodig zijn om medische tekorten in tijden van crisis op te vangen

Bekijk ook

Zelfredzaam worden

De samenwerking is één stap richting het verbeteren van onze zelfredzaamheid. Maar er is werk aan de winkel op het gebied van weerbaarheid, ziet Donker.

"We zijn gewend dat als er iets misgaat, dat de overheid komt helpen. Maar we zien dat de risico's die we lopen zo groot zijn, dat kan de overheid niet aan. We moeten zelf en samen redzaam worden."

Onvoldoende voorbereid op crisis

Nederlanders voelen de urgentie nog onvoldoende, volgens Donker. "We zijn opgevoed met het idee dat het nooit meer oorlog zou worden en dat alles goed gaat, maar we moeten ons voorbereiden op andere scenario's."

Vandaag presenteerde de Europese Commissie plannen die ertoe moeten leiden dat de Europese Unie voorbereid is op verschillende soorten crises.

Krachten lokaal bundelen

Maar hoe? Volgens Donker ligt de kracht ook vooral in dit soort initiatieven. "Gelukkig zijn er veel instanties die daarbij helpen. Mochten mensen willen bijdragen, meld je dan, zodat we de initiatieven aan elkaar knopen en ons kunnen voorbereiden op iets wat hopelijk nooit voorkomt."

Donker zet zich vooral op lokaal niveau in. "Als de stroom er bijvoorbeeld lang af ligt, hebben mensen behoefte aan informatie." Dat zou in de vorm van lokale 'noodsteunpunten' gerealiseerd kunnen worden. "We willen op logische plekken in de samenleving, zoals brandweerkazernes, een stemlokaal of een buurthuis, dat mensen daar terecht kunnen in nood."

Bekijk ook

Kijk naar elkaar om

We zullen het uiteindelijk vooral met elkaar moeten doen, zegt zorgreservist Bart Hilt. "Ik zie het als een soort roeping. Elkaar ondersteunen en elkaar helpen. Daar waar het tekort is, moet je elkaar aanvullen."

Ook Jaap Donker zegt: "We moeten ook kijken hoe het met de buurman of kwetsbaren in de straat is. Hoe kunnen we samen de schouders eronder zetten? Hoe kunnen we in donkere periodes elkaar hier doorheen loodsen?"

Beter voorbereid dan achteraf problemen

Toch hoopt Hilt binnenkort nog niet ingezet te worden. "Dat zou het mooiste zijn. Hoe minder dat we nodig zijn, hoe beter het eigenlijk is. Maar ja, je kan beter zorgen dat je iets achter de hand hebt, als dat je te laat bent en je in de problemen raakt."

Tot nu toe hebben 4.000 zorgprofessionals zich gemeld bij de Nationale Zorgreserve. Ze hopen te groeien naar een bestand van zo'n 5.000 mensen.

Vragen? Stel ze!

Heb je nog vragen of wil je reageren? Stuur ons dan hier een berichtje in onze chat. Elke donderdag vertellen we in de Doe mee-nieuwsbrief wat we met alle reacties doen. Wil je die in je mail? Meld je dan hier aan.

Amerika blijft druk op Groenland opvoeren met bezoek vicepresident JD Vance: 'Er is angst voor wat er gaat komen'

Amerika blijft druk op Groenland opvoeren met bezoek vicepresident JD Vance: 'Er is angst voor wat er gaat komen'
De Amerikaanse vicepresident JD Vance brengt deze week een bezoek aan Groenland.
Bron: AFP

De Amerikaanse president Trump voert de druk rondom de koop van Groenland op. Hij wil het eiland vanwege de strategische ligging en bodemschatten en stuurt daarom vicepresident JD Vance op pad voor een bezoek. "Dit is voor de meeste Denen een shock."

"Het is een grote stressfactor en je mag het niet onderschatten", zegt Clingendael-onderzoeker Karen van Loon over de huidige situatie.

Bondgenootschap onder druk

Van Loon is gespecialiseerd in geopolitiek in het Noordpoolgebied en bredere veiligheids- en defensievraagstukken en ziet hoe Donald Trump met zijn uitspraken en het bezoek van vicepresident JD Vance, het bondgenootschap tussen Amerika en Denemarken onder druk zet.

Groenland valt op dit moment, tot hun grote ongenoegen, nog onder het Deense koninkrijk.

Denen in schok door bezoek Vance

Het had een bezoek moeten zijn waarbij alleen de vrouw van JD Vance, Second Lady Usha Vance, aanwezig zou zijn. "Ze zou bezoekjes afleggen aan verschillende Groenlandse gemeenschappen, maar die bezoeken zijn nu afgelast. Het blijft nu bij een bezoek aan de Amerikaanse luchtmachtbasis", zegt Van Loon.

"Wat er nu gebeurt is voor de meeste Denen echt een schok. Je kan wel spreken van een ernstige vertrouwensbreuk", vertelt de onderzoeker.

Bekijk ook

'Groenland niet te koop'

Vicepresident Vance zal nu namelijk wel aanwezig zijn bij het bezoek en hoogstwaarschijnlijk gesprekken voeren met diplomaten.

En dat terwijl Denemarken al meerdere keren heeft aangegeven geen interesse te hebben in het verzoek van Trump. Ze zijn niet van plan om Groenland 'over te dragen' aan de Verenigde Staten.

'Hij wil niet loslaten'

Toch blijft Trump aandringen. De uitspraken die vanuit de Verenigde Staten blijven komen hebben een impact op zowel de Denen als Groenlanders. Ze zijn niet gewend dat een president blijft aandringen.

"Vroeger hebben ze het ook wel eens gevraagd, maar werd het losgelaten", zegt Van Loon. Volgens de onderzoeker werd Trump tijdens zijn eerste termijn zelfs uitgelachen toen hij het balletje opgooide. "Het leek toen absurd, maar sinds hij voor de tweede keer president is, is het duidelijk dat hij het niet wil loslaten."

Bekijk ook

Toch onderhandelen

Maar juist door die houding moeten Deense en Amerikaanse onderhandelaren nu toch met elkaar om tafel gaan zitten. "Om een consensus te vinden en niet te vergeten om Groenland bij dit proces te betrekken", legt de onderzoeker uit.

"Want", vervolgt Van Loon, "Groenland is wel een regio die in zeer grote mate zelfbestuur heeft binnen het Koninkrijk Denemarken." De twee landen kunnen dus niet zonder inspraak van het hoofd van het eiland een beslissing maken. Dit vooral omdat Groenland onafhankelijk wil zijn, ook van Denemarken.

Angst in Groenland

De angst in Groenland is op dit moment dus groot, weet Van Loon. Ze willen hun onafhankelijkheid van Denemarken niet inruilen voor afhankelijkheid van Amerika. "Het gevoel is daar heel sterk. Er is angst voor wat er komen gaat."

"Ze hebben al een heel lang proces afgelegd met Denemarken en dat dekolonisatieproces is nog steeds bezig", gaat de onderzoeker verder.

Bekijk ook

Respectloos

"Ze zijn er heel duidelijk in dat ze geen Amerikanen willen worden." En dat is vooral te zien aan alle standpunten die hun regering op dit moment inneemt.

Zo liet de Groenlandse premier Múte Bourup Egede de afgelopen maanden al publiekelijk weten dat het eiland niet te koop is, en dat hij Trump respectloos vindt.

'Rol van de EU is beperkt'

Kan de Europese Unie nog iets betekenen in deze noodgedwongen onderhandelingen, aangezien Denemarken een lidstaat is? "Dat is een lastig verhaal", antwoordt Van Loon. "Denemarken is lid van de EU maar Groenland niet. Ze hebben in de jaren 80 een opt-out gehad."

Maar aangezien de EU wel nog steeds investeert in Groenland - onder andere in onderwijs en gezondheid - én een paar jaar geleden een mineralendeal heeft gesloten, zou de EU wel een bemiddelende rol kunnen spelen, denkt de onderzoeker. "Dus er is een rol voor de EU, maar die blijft wel beperkt."

Amerika blijft druk op Groenland opvoeren met bezoek vicepresident JD Vance: 'Er is angst voor wat er gaat komen'

Vragen? Stel ze!

Heb je nog vragen of wil je reageren? Stuur ons dan hier een berichtje in onze chat. Elke donderdag vertellen we in de Doe mee-nieuwsbrief wat we met alle reacties doen. Wil je die in je mail? Meld je dan hier aan.

Ook interessant