Toenemende steun voor EU-wetsvoorstel 'Chat Control' tegen online kindermisbruik, maar ook zorgen: 'Controleren van privé-appjes is ernstige privacyschending'
Een omstreden EU-voorstel om berichten op apps als Signal en WhatsApp te scannen vóór ze worden versleuteld, krijgt steeds meer steun. Als het twijfelende Duitsland vóór stemt, kan 'Chat Control', zoals critici het noemen, in oktober al worden aangenomen.
Chat Control is de informele naam voor een voorstel van de EU dat aanbieders van chatapps verplicht om de privéberichten van gebruikers te controleren op beelden van kindermisbruik. Dit moet ook gaan gelden voor end-to-end versleutelde diensten zoals WhatsApp, Signal en Telegram.
Controle ondanks versleuteling
Voorstanders noemen het een noodzakelijke stap in de strijd tegen online kindermisbruik, terwijl critici grote zorgen hebben over onder meer schending van privacy die deze wet in de hand zou werken en over de beveiliging van de data die ermee wordt verzameld.
Het controleren van de chats moet gebeuren via software op het apparaat waarop gechat wordt, zoals een telefoon. Onder andere met kunstmatige intelligentie (AI) worden berichten, foto's en video's hiermee gecheckt vóórdat ze worden versleuteld en verzonden. Zo kan de versleuteling intact blijven, maar kan de inhoud tóch worden bekeken. Dat heet 'client-side scanning'.
Info
Wat is end-to-end-versleuteling precies?
End-to-end versleuteling is een manier om berichten onleesbaar te maken voor iedereen behalve de verzender en de ontvanger. Je kunt het zien als een gesloten envelop met een unieke sleutel: alleen de ontvanger kan die openen en lezen wat erin zit. Zelfs het bedrijf achter de chatdienst kan de inhoud niet zien.
Benodigde meerderheid in zicht
EU-lidstaten praten hier al jaren over, maar bereikten geen akkoord. In die tijd zijn allerlei aanpassingen aan het voorstel gedaan en compromissen bedacht, maar het lukte alsnog niet om voldoende lidstaten achter het plan te krijgen.
Maar het nieuwste voorstel kan plotseling op veel meer steun rekenen. Duitsland heeft nog geen standpunt bepaald, maar als zij óók bij de voorstanders gaan horen, is de benodigde meerderheid een feit.
In tegenstelling tot andere lidstaten die eerst tegen waren en dat nu niet meer zijn, is Nederland nog altijd een tegenstander van het voorstel. Ook met de nieuwste versie is dit niet veranderd. Ondanks eerder verzet van Nederland moeten foto's volgens het laatste voorstel ook door AI onderzocht worden. De computer beoordeelt dan of een foto of video mogelijk kinderpornografisch is.
Essentieel om tegen te gaan
Het voorstel kan dan in oktober al worden aangenomen. Dat is de ambitie van de huidige EU-voorzitter Denemarken, dat dit onderwerp prominent op de agenda zette. De Denen zijn zelf ook groot voorstander van het voorstel.
EenVandaag vroeg de Deense minister van Justitie Peter Hummelgaard waarom zijn land zich zo sterk maakt voor de omstreden regelgeving. Hummelgaard laat weten dat "de schaal van het verspreiden van misbruikmateriaal onacceptabel is" en dat het voorstel essentieel is om dit tegen te gaan. "Wij hebben de verantwoordelijkheid om onze kinderen te beschermen."
'Voldoende waarborgen in de wet'
Mylène Tabernal van kinderrechtenorganisatie Defence for Children onderschrijft het Deense standpunt. De verplichting voor chatapps om berichten te gaan scannen, is in haar ogen absoluut nodig. "Want vrijwillige detectie werkt niet. Slachtoffers worden keer op keer geconfronteerd met hun trauma zolang beelden blijven circuleren. Bedrijven hebben een verantwoordelijkheid om dit actief op te sporen en te verwijderen."
Tabernal wijst erop dat in 2023 wereldwijd ruim 36 miljoen meldingen van online seksueel misbruik werden gedaan, met meer dan 100 miljoen beelden. "Nederland is al jaren een van de grootste hostingslanden. Het niet aanpakken van dit probleem is geen optie."
Ernstige inbreuk op privacy
Volgens Defence for Children zijn er voldoende waarborgen in de voorgestelde wet ingebouwd, zoals toetsing door een rechter en tijdelijke detectiebevelen, om misbruik van de bevoegdheden te voorkomen.
Tegenstanders van 'Chat Control' worden daar allerminst door gerustgesteld. Zij zien het als ernstige inbreuk op het recht op privacy. Het scannen van de chats gebeurt namelijk bij alle gebruikers, dus vooral bij heel veel mensen die nergens van verdacht worden. Daarnaast vrezen zij dat de technologie later ook voor andere doeleinden zal worden ingezet, bijvoorbeeld voor het aanpakken van politieke dissidenten of minderheidsgroepen.
Achterstanden bij politiediensten
Op technisch gebied zijn er zorgen over vals-positieve resultaten, die ertoe kunnen leiden dat onschuldige privébeelden bij autoriteiten terechtkomen. Ook over de beveiliging van de enorme hoeveelheden gevoelige data die zo worden verzameld is bezorgdheid.
Technologie-expert en voormalig AIVD-toezichthouder Bert Hubert deelt al die zorgen. "Je maakt een infrastructuur waarmee je communicatie kunt controleren en die wordt vroeg of laat ook voor andere doeleinden ingezet. Dat is in de geschiedenis van opsporing nog nooit anders geweest."
'Levensgevaarlijk'
Hubert zegt dat criminelen vaak gebruikmaken van andere kanalen dan de grote publieke chatapps. "De maatregel raakt dus vooral gewone burgers. Bovendien: als je een faciliteit bouwt die alles kan zien, wordt die een doelwit voor hackers. Je creëert een goudmijn voor wie kwaad wil."
Volgens Hubert is het voorstel bovendien technisch onnodig en onveilig. "Politiediensten kampen al met enorme achterstanden. Als je miljarden berichten laat scannen, komen er vooral veel extra meldingen bij die ze toch niet kunnen onderzoeken. Zet dat geld en die capaciteit liever in op goed recherchewerk."
Misbruik van andere zaken
Robbert Hoving, directeur van het nationale expertisecentrum voor online misbruik Off Limits, is ook geen voorstander. Hij noemt het voorstel zelfs "levensgevaarlijk". Hoving vreest dat het de deur opent naar misbruik van surveillance-instrumenten, ook voor andere zaken dan waar het voor bedoeld is.
"Vandaag gaat het om dit onderwerp, maar morgen kan het tegen andere groepen worden ingezet zoals LHBTI+'ers en politieke tegenstanders. Je hangt in feite uit voorzorg in elke woning een camera op", zegt Hoving.
Stemming mogelijk op 14 oktober
De Deense minister van Justitie Hummelgaard verzekert dat de zorgen serieus worden genomen. "We gaan grondig te werk om een evenwicht te vinden tussen kinderrechten en de bescherming van privacy en cyberveiligheid.
Op 14 oktober stemmen de EU-ministers van Justitie mogelijk over het nieuwste voorstel. Als er dan voldoende steun voor is, volgen onderhandelingen met het Europees Parlement en de Europese Commissie over een definitieve wet.