Kun je algoritmes uitzetten op je telefoon? 'Zelfs je rekenmachine draait erop'

Je scrolt op social media en ziet ineens een video met extreme content. Je geeft geen like, maar kijkt wel. Voor jou was het maar een kort moment, maar het algoritme telt elke seconde dat je blijft stilstaan. Het merkt direct dat de video werkt, want je bleef kijken. En dat is geen toeval.

Belang van het platform

"Algoritmes zijn niet ontworpen in het belang van de gebruiker, maar in het belang van het platform", legt Lotje Beek van Bits of Freedom uit, een Nederlandse stichting die opkomt voor digitale burgerrechten. "We zien dat algoritmes veel extremere filmpjes, foto's en teksten naar boven laten drijven omdat extreme content mensen triggert."

Ze blijven hierdoor langer hangen en dat is wat bedrijven willen. Maar het constante scrollen kan er in sommige situaties toe leiden dat gebruikers in gevaarlijke fuiken terechtkomen. Gebruikers krijgen dan steeds meer content te zien die op elkaar lijkt en belanden zo in een informatietunnel. "Denk aan content over eetstoornissen, maar ook de manosphere."

Vertekend beeld

Zo'n informatietunnel kan volgens Beek ook gevaarlijk zijn. "Omdat veel mensen tegenwoordig een groot deel van hun informatie van social media halen, bepalen die platforms voor een belangrijk deel welke informatie we binnenkrijgen."

Als die beelden en berichten overwegend extreem zijn, geeft het volgens haar mensen een vertekend beeld van de samenleving.

Geen menselijke controle

Een ander risico van algoritmes is dat ze volledig geautomatiseerd kunnen worden, dus zonder menselijke controle. Jurriaan Parie is directeur bij stichting Algorithm Audit. Samen met datawetenschappers, juristen en ethici ontwikkelt hij methoden om algoritmes van overheden en organisaties te onderzoeken op vooroordelen, discriminatie en gebrek aan transparantie.

"Wanneer de overheid algoritmes inzet om burgers te controleren op fraude, brengt dat onvermijdelijk bepaalde keuzes met zich mee", zegt Parie. "Bij een algoritme vraag je je af: waar baseer je het onderscheid op? Maakt het bijvoorbeeld uit in welke postcode iemand woont?", legt hij uit.

'Een algoritme is niet perfect'

"De bevolkingssamenstelling per postcode is in Nederland nogal gescheiden", gaat hij verder. "De ene wijk staat bekend als 'beter' dan de andere. Selecteren op postcode leidt er daardoor al snel toe dat bepaalde groepen harder worden geraakt."

Laat je een algoritme bijvoorbeeld streng controleren op fraudezaken, dan bestaat er altijd het risico dat het een fout maakt. Een algoritme is natuurlijk nooit perfect, vult hoogleraar Marjolein Fokkema aan. Zij doet onderzoek bij Research Center Trustworthy Data Science & Security aan de Technische Universiteit Dortmund.

Juiste beslissing

Volgens Fokkema moet een algoritme vaak aan meerdere criteria voldoen. "We willen bijvoorbeeld dat een algoritme snel werkt, maar ook dat het rechtvaardige keuzes maakt. Snelheid is eenvoudig te meten, maar bepalen of een algoritme de juiste beslissing neemt, is lastiger. Het ligt dus meestal niet aan het algoritme zelf, maar er is een verkeerde of onvolledige instructie meegegeven."

Volgens Fokkema is het missen van fraude kwalijk, maar weegt het onterecht beschuldigen van onschuldige burgers minstens zo zwaar. "Daarom moeten we in deze situaties algoritmes heel goed in de gaten houden en goed bestuderen wat het precies doet en waarom het dat doet."

Mensenwerk

De uiteindelijke besluitvorming blijft volgens Fokkema en Parie dan ook mensenwerk. "Vanuit overheden zie je steeds vaker de plicht om burgers actiever te informeren als er algoritmes zijn gebruikt bij de besluitvorming."

"Het algoritme beslist namelijk niet alles zelf. Als je wordt geselecteerd voor een controle, betekent dat dus niet dat je direct schuldig bent bevonden; er kijkt altijd nog een mens naar", legt Parie uit. "Het systeem werkt puur als een filter: het levert een selectie op en een medewerker gaat er vervolgens mee aan de slag om het verder te onderzoeken."

Keuzes van social media

Die transparantie is niet alleen bij de overheid te zien, maar ook op social media. "Op veel platforms kun je bij berichten die je te zien krijgt klikken op de drie puntjes. Vervolgens klik je op 'Waarom krijg ik dit te zien?'", legt Beek uit.

Wie doorklikt in de instellingen van apps, vindt vaak meer uitleg over hoe het algoritme keuzes maakt. "Bij Facebook staat er bijvoorbeeld letterlijk dat de kans dat je een bericht deelt doorslaggevend is voor de vraag of ze het aan je tonen. Er is dus zeker sprake van enige transparantie."

Nieuwe regels

Dankzij nieuwe regelgeving bieden grote social media-platformen tegenwoordig minstens één feed of tijdlijn aan die niet op profilering via een algoritme is gebaseerd, waardoor je als gebruiker volgens Beek meer controle hebt over wat je ziet.

Deze instelling was eerder niet beschikbaar of moeilijk te vinden. Bits of Freedom stapte daarop naar de rechter. Zo kunnen mensen in Nederland nu kiezen voor een zogenoemde 'volgend-feed' waarin berichten van accounts in chronologische volgorde verschijnen. "We horen dat mensen hierdoor minder tijd spenderen op social media", vertelt Beek.

Alternatieven

"Om algoritmes enigszins te omzeilen, kun je ook een andere webbrowser gebruiken", tipt Parie. "De browsers van grote commerciële techbedrijven zijn een stuk indringender qua gegevensverzameling dan privacyvriendelijke alternatieven."

"Die alternatieve partijen pakken dataverzameling en algoritmes heel anders aan", gaat hij verder. "Zij staan meer in het belang van de consument dan van het bedrijf. Dat principe geldt net zo goed voor de apps op je telefoon: vergelijk bijvoorbeeld Signal maar eens met WhatsApp."

Onmogelijk uit te zetten

Het is vrijwel onmogelijk om alle algoritmes uit te schakelen. "Denk aan een functie zoals 'Hé Siri'. Daar zit een algoritme achter dat je stem herkent, begrijpt wat je bedoelt en vervolgens op internet zoekt. Dat kun je uitzetten", zegt Parie.

"Maar ontgrendel je datzelfde toestel met gezichtsherkenning", gaat hij verder, "dan gebruik je ook weer een algoritme dat je gezicht verifieert aan de hand van de opgeslagen data."

Vanzelfsprekend

Zelfs voor het uitrekenen van een ingewikkelde som op je rekenmachine is sprake van een algoritme. Algoritmes zitten dus overal, maar de impact verschilt per toepassing, weet Parie. "Het hangt helemaal af van het doeleinde of we er moeite mee hebben."

"Spraak- en beeldherkenning roepen bij veel mensen twijfels op over privacy, waardoor ze die liever uitschakelen", vertelt hij. "Terwijl we zo'n rekenmachine volkomen vanzelfsprekend vinden."