radio LIVE tv LIVE
meer NPO start

College voor de Rechten van de Mens roept mensen op om discriminerende algoritmes te melden

College voor de Rechten van de Mens roept mensen op om discriminerende algoritmes te melden
Robin deed melding van een discriminerend algoritme bij het College voor de Rechten van de Mens
Bron: EenVandaag

Het College voor de Rechten van de Mens roept burgers op om het te melden als zij last hebben van discriminerende algoritmes. Softwareprogramma's waar belangrijke instanties gebruik van maken werken namelijk niet altijd bij mensen van kleur.

Robin Pocornie (26) maakte naam toen zij bij het College voor de Rechten van de Mens melding maakte van een discriminerend algoritme in de antispieksoftware van de Vrije Universiteit (VU) Amsterdam.

Niet herkend door de camera

Tijdens een online tentamen in coronatijd gaf de antispieksoftware aan dat er niemand in de kamer was, terwijl Robin - zelf een vrouw van kleur - voor haar laptop klaar zat om het tentamen te maken. Daardoor werd zij meermaals uit het tentamen gegooid. Lastig voor haar, maar vooral ook: oneerlijk en discriminerend.

Robin vermoedde dat het systeem haar niet als persoon herkende, omdat het alleen naar behoren werkt als witte mensen voor de camera zitten. Dat is al vaker aangetoond in onderzoek. Zo herkennen zelfrijdende auto's mensen van kleur op straat minder goed dan witte mensen.

Bekijk ook

Eenzijdige data

Sommige algoritmes discrimineren doordat ze eenzijdig gevoed zijn met data. Het algoritme voor de zelfrijdende auto kreeg vooral plaatjes van witte mensen op straat te zien en niet van mensen van kleur.

Daardoor herkent de auto mensen van kleur op straat minder goed. Het algoritme discrimineert dan en daar ondervindt een deel van de wereldbevolking hinder van.

Geen gehoor op de universiteit

Bij de universiteit zelf kreeg Robin geen gehoor voor haar klacht over de antispieksoftware. Ze werd van het kastje naar de muur gestuurd. "De ombudsman binnen de VU vond het niet binnen haar portefeuille vallen", vertelt ze.

"Ze verwees me naar een diversity officer binnen de VU, maar daar kon ik geen klacht indienen. En dat wilde ik juist. Op een bepaald moment was ik al bijna 2 jaar verder en deed inmiddels twee masters. Ik ben toen samen met het Racism and Technology Centre naar het College voor de Rechten van de Mens gegaan."

info

Toezicht op discriminerende algoritmes

Al jaren wordt er in de Tweede Kamer gepleit voor toezicht op algoritmes. We krijgen er steeds meer mee te maken en worden er steeds afhankelijker van. Het mag dus niet zo zijn dat ze bevolkingsgroepen benadelen. Toch gebeurt dat op verschillende manieren wel, bijvoorbeeld in de Toeslagenaffaire. Het algoritme bestempelde mensen met een tweede nationaliteit en een laag inkomen automatisch als mensen met een hoog frauderisico.

De nasleep van de Toeslagenaffaire zorgde ervoor dat sinds januari 2023 het toezicht op algoritmes een taak is van de Autoriteit Persoonsgegevens. Maar de organisatie kampt nu al met hoge werkdruk en personeelstekorten. Hoogleraar Sennay Ghebreab, de expert op het gebied van AI en discriminatie in Nederland, zegt dat algoritmes alleen eerlijker zullen worden als ze samen met burgers gemaakt worden.

Universiteit moet met bewijs komen

Het College voor de Rechten van de Mens concludeerde afgelopen december in een tussenoordeel dat Robin voldoende aannemelijk heeft gemaakt dat er sprake is van discriminatie door het algoritme. Daarbij baseert het College zich op haar ervaringen, hoe vaak ze er door de software uit werd gegooid en op wat al bekend is over discriminerende algoritmes vanuit wetenschappelijk onderzoek.

Het is nu aan de VU om te bewijzen dat het algoritme niet discrimineert. Tot nu toe heeft de universiteit dat volgens het College niet voldoende kunnen aantonen.

'Instabiel' systeem

Volgens de universiteit discrimineert het algoritme niet, maar is het systeem 'instabiel', iets waar meerdere studenten last van hebben gehad. Maar dat witte studenten evenveel last zouden hebben gehad als Robin, kunnen ze vooralsnog niet aantonen.

15 februari zou de VU met de definitieve argumentatie komen, maar dit is uitgesteld tot half maart. Daarna doet het College definitief uitspraak.

Bekijk ook

Betekenisvolle eerste stap

Voorzitter Jacobine Geel van het College voor de Rechten van de Mens spoort intussen mensen aan om het te melden als ze vermoeden dat een algoritme discrimineert. "Het is iemand nu gelukt om te zeggen: 'Wat dit algoritme doet is vreemd. Ik vermoed dat het algoritme discrimineert'", zegt ze over de zaak van Robin. "Dat is een heel betekenisvolle eerste stap."

Geel hoopt dat dit tussenoordeel een aansporing is voor iedereen om zich bij het College voor de Rechten van de Mens te melden als hij, zij of hen vermoedt dat een algoritme discrimineert.

Bekijk hier de tv-reportage

Vragen? Stel ze!

Heb je nog vragen of wil je reageren? Stuur ons dan hier een berichtje in onze chat. Elke donderdag vertellen we in de Doe mee-nieuwsbrief wat we met alle reacties doen. Wil je die in je mail? Meld je dan hier aan.

Waarom Shell en Total zich voorlopig terugtrekken uit project om CO2 op te slaan onder Noordzee

Olie- en gasbedrijven Shell en Total trekken zich voorlopig terug uit een project voor CO2-opslag onder de Noordzee. Ze vinden de aanleg van de pijpleidingen die dit mogelijk moeten maken nog te risicovol.

Vragen? Stel ze!

Heb je nog vragen of wil je reageren? Stuur ons dan hier een berichtje in onze chat. Elke donderdag vertellen we in de Doe mee-nieuwsbrief wat we met alle reacties doen. Wil je die in je mail? Meld je dan hier aan.

AIVD-baas over arrestatie advocaat Taghi: 'Het gaat ons erom dat communicatie met crimineel netwerk vanuit gevangenis stopt'

AIVD-baas over arrestatie advocaat Taghi: 'Het gaat ons erom dat communicatie met crimineel netwerk vanuit gevangenis stopt'
Directeur-generaal van de AIVD Erik Akerboom
Bron: ANP

Op basis van een tip van de AIVD werd in april de advocaat van Ridouan Taghi, Vito Shukrula, gearresteerd. AIVD-baas Erik Akerboom vertelt dat de dienst wil voorkomen 'dat criminele netwerken worden aangestuurd vanuit de gevangenis via een advocaat'.

Shukrula's arrestatie op donderdag 10 april leidde tot geschokte reacties in de advocatuur. Hij werd aangehouden na een bezoek aan zijn cliënt Ridouan Taghi in de Extra Beveiligde Inrichting (EBI) in Vught. Volgens het Openbaar Ministerie (OM) zou Shukrula zich schuldig hebben gemaakt aan 'deelname aan een criminele organisatie'.

Strafrechtelijk onderzoek

Wat deze zaak zo bijzonder maakt, is de doorslaggevende rol die veiligheidsdienst AIVD in Shukrula's arrestatie heeft gespeeld. Het strafrechtelijk onderzoek naar de advocaat begon namelijk in december na een tip van de inlichtingendienst.

In een zogenoemd ambtsbericht aan het OM meldde de AIVD dat Shukrula berichten van zijn cliënt Taghi zou doorspelen aan personen in het criminele netwerk van Taghi.

Zorgen over communicatie

Hoewel AIVD-baas Erik Akerboom niet op individuele zaken kan ingaan, zegt hij tegen EenVandaag dat de AIVD zich zorgen maakt over de mogelijkheden tot communicatie, die criminelen vanuit de gevangenis nog kunnen hebben met hun netwerk.

"Een van de belangrijkste dingen die wij willen voorkomen is dat criminelen - ook als ze zitten opgesloten in de gevangenis - kunnen blijven spreken met hun criminele netwerk. Want hiermee kunnen ze nog altijd een dreiging uitoefenen op de samenleving."

Bekijk ook

Niet meer aansturen vanuit gevangenis

Het feit dat de AIVD deze tip doorgaf aan het OM, doet vermoeden dat de dienst zich vaker bezighoudt met verdachten in het Marengo-proces. De criminele organisatie van Taghi in het bijzonder.

Akerboom: "Dat we standaard meeluisteren met de telefoongesprekken tussen advocaten en deze personen, dat kan niet de conclusie zijn. Het gaat ons erom dat de communicatie vanuit de gevangenis stopt en dat niet langer de criminele netwerken kunnen worden aangestuurd. Bijvoorbeeld via een advocaat."

Kritische brief

Bovendien is het vanzelfsprekend dat de AIVD in actie komt, als er sprake is van 'bedreiging van de rechtstaat', vervolgt Akerboom. "Als deze criminele netwerken zich bezighouden met het bedreigen en zelfs liquideren van personen die onze rechtstaat vertegenwoordigen, dan kunnen ze erop rekenen dat ze in het vizier van van de AIVD komen. Dat is evident."

Een maand voor de arrestatie van Shukrula was er nog forse kritiek op de werkwijze van de AIVD. Twee toezichthouders van de geheime dienst concludeerde in een kritische brief dat de AIVD zich niet altijd aan de regels houdt.

Vaker onderzoek naar criminelen

De wet schrijft namelijk voor dat dat inlichtingendienst criminelen alleen mag onderzoeken als ze de nationale veiligheid in het gevaar brengen. Daar blijkt de AIVD zich volgens de eigen toezichthouders niet altijd aan te houden.

De dienst doet te vaak onderzoek naar criminelen waarbij de nationale veiligheid helemaal niet in het geding is.

Bekijk ook

'Beter onderbouwen'

Akerboom: "Als er een directe geweldsdreiging is van een politicus, een advocaat of een journalist, dan melden wij dat direct bij de politie, zodat die kan ingrijpen. Maar er zijn ook strafbare feiten die niet direct raken aan de nationale veiligheid, maar waar soms wel een crimineel netwerk achter ligt."

De AIVD-baas zegt dat de dienst zich wel degelijk aan de regels houdt. "Dit is de reden dat wij toezichthouders hebben. Die kijken altijd met ons mee, en fluiten ons ook terug als we te ver gaan. Dus als de toezichthouder dit zegt, zullen we nog beter onderbouwen dat er directe link is met de nationale veiligheid."

Nog 60 dagen in hechtenis

De 36-jarige Shukrula is de derde advocaat van Taghi die is opgepakt. In oktober 2021 werd Taghi's neef Youssef Taghi opgepakt en in april 2023 werd Inez Weski gearresteerd.

Shukrula was sinds november vorig jaar advocaat van Taghi. Samen met raadsheren Carlo Crince le Roy en Sultan Kat stonden zij Taghi bij. Na de arrestatie van Shukrula legden ook de overgebleven twee advocaten de verdediging van Ridiouan Taghi neer. Afgelopen vrijdag werd het voorarrest verlengd van de voormalig advocaat van Taghi. De raadkamer van de rechtbank in Amsterdam besloot dat Shukrula nog 60 dagen in hechtenis moet blijven.

Vragen? Stel ze!

Heb je nog vragen of wil je reageren? Stuur ons dan hier een berichtje in onze chat. Elke donderdag vertellen we in de Doe mee-nieuwsbrief wat we met alle reacties doen. Wil je die in je mail? Meld je dan hier aan.

Ook interessant