Mensen met een laag inkomen zijn door de Belastingdienst jarenlang extra gecontroleerd op fraude bij het aanvragen van kinderopvangtoeslag. Dat schrijven RTL Nieuws en Trouw. Algoritme-expert Marlies van Eck legt uit hoe het systeem werkte.

Mensen met een hoger inkomen werden ontzien bij het aanvragen van kinderopvangtoeslag. Uit een intern vervolgonderzoek bleek in maart dit jaar al dat het model mogelijk 'onrechtmatig' en 'discriminerend' was.

1. Om welk systeem gaat het?

Het is een zogenoemd risicoclassificatiemodel. "Wat alle overheden doen als je grootschalige beslissingen moet nemen, is dat je niet alles kan bekijken. Dus je maakt een schifting: die gaan we wel bekijken en die niet. En daar is gekeken naar hoe we gaan controleren op fraude. En op die manier maak je beslissingen voor het systeem", vertelt Marlies van Eck, docent en adviseur aan de Radboud Universiteit, gespecialiseerd in algoritmes en recht.

"Voorheen werd dat door mensen geprogrammeerd, maar wat je nu in deze zaak ziet is dat er algoritmes worden gebruikt die zelf kunnen leren", zegt Van Eck.

Bekijk ook

2. Frauderen mensen met lage inkomens dan vaker?

Nee, niet per se. Criminoloog en fraude-expert Joost van Onna deed onderzoek naar fraudeurs, en kwam tot de conclusie dat overal in de samenleving mensen frauderen. Het is dus niet één specifieke groep, of mensen met een lagere sociaal-economische status.

Uit Van Onna's onderzoek blijkt dat de meeste fraudeurs pas beginnen met frauderen als ze volwassen zijn, en als er een grote verandering in hun leven plaatsvindt: een scheiding bijvoorbeeld, of als je ineens veel geld tot je beschikking hebt. Door zo'n gebeurtenis kan het zijn dat de band met je directe omgeving en de maatschappij verzwakt. Dat zijn onder andere oorzaken waardoor je de ruimte kunt voelen om de regels te overtreden.

3. Kijk je op van hoe dit zelflerende algoritme werkte?

"Dit bevestigt het beeld wat er bij al onze overheidsprocessen heerst. Zodra mensen afhankelijk zijn van de overheid, treedt een hard mechanisme in werking."

"Een onderzoeker uit Amerika heeft daar 2 jaar geleden over gepubliceerd en kwam erachter dat juist mensen die de overheid zo hard nodig hebben, zwaarder worden getroffen door allerlei algoritmes en geautomatiseerde processen van de overheid. Als je geld krijgt, moet je aantonen dat je er recht op hebt en dansen naar de pijpen van de overheid, lijkt het."

Bekijk ook

4. Hoe had dit systeem kunnen worden aangepast?

Het systeem was niet te herstellen, zegt Van Eck. "Want de opdracht is gegeven: we gaan kijken naar fraude en extra bij deze bepaalde groep mensen. Wat je had kunnen doen is: we gaan kijken naar welke mensen meer toeslagen moeten krijgen dan ze nu daadwerkelijk krijgen. Dat is niet gedaan. Dus daar is de menselijke maat niet toegepast."

"Je had ook allerlei andere dingen in het algoritme kunnen gooien waar ook naar gekeken moest worden, om te kijken wat er dan uit was gekomen, maar dat is hier ook niet gedaan. En dat is dus heel zorgelijk."

Van Eck deed onderzoek bij de Belastingdienst en vindt het erg om te moeten constateren dat niemand kijkt naar welke gevolgen dit soort algoritmes hebben voor de mensen. "Je zit op kantoor en werkt aan je algoritmes. Dat is heel anders dan dat je als politieagent de straat op wordt gestuurd en met mensen in contact bent. Dat menselijke is er dus bij de overheidsdiensten meer uitgehaald."

5. Moeten we niet stoppen met algoritmes?

We kunnen niet zonder algoritmes, zegt Van Eck. "Of we nou een rijbewijs krijgen of een boete, het werkt allemaal met algoritmes. Maar het overzicht ontbreekt. We denken dat het goed is geregeld, maar als je daar in duikt, schrik je en zie je dat het helemaal niet goed is geregeld."