Word je altijd gecheckt bij de zelfscankassa? Dat kan komen door AI. Supermarkten zetten dit namelijk in om winkeldiefstal tegen te gaan. Maar op welke manier precies is niet bekend. Hoe ethisch is dit? "Ze treffen veel mensen die geen kwade zin hebben."

Wie is een echte klant en wie loopt rond in de supermarkt om producten te stelen? Om dat in te schatten, maken supermarkten gebruik van kunstmatige intelligentie en algoritmen. Of 'AI surveillance' zoals jurist en technologie deskundige Danny Mekić het noemt.

Maatregelen tegen winkeldiefstal

Minder caissières, minder kassa's en veel meer zelf scannen. De laatste jaren hebben meeste supermarkten deze ontwikkeling doorgemaakt. Dat betekent meer zelfstandigheid voor de klant, maar ook meer kans op winkeldiefstal. Een half jaar geleden luidde supermarktketen Jumbo nog de noodklok vanwege het grote aantal diefstallen. Ze zouden maatregelen nemen: meer camera's ophangen en experimenteren met AI.

En nu, een half jaar later, blijkt uit nieuwe cijfers dat het aantal winkeldiefstallen bij Jumbo flink is gezakt. Hiervoor hebben ze dus, net als veel andere supermarkten, waarschijnlijk gebruik gemaakt van AI surveillance.

Verschillen uitvergroten

Maar deze aanpak is niet zonder risico, vertelt Mekić. "Het probleem is dat je eigenlijk probeert iedere bezoeker in je winkel op te delen in twee categorieën: mensen die spullen pakken en netjes afrekenen, en dieven." Maar het onderscheid tussen die twee is soms nog lastig te maken voor AI. Zo kunnen bepaalde vooroordelen uitvergroot worden.

"Bijvoorbeeld mensen die langzaam lopen, zullen wel dieven zijn. Of mensen die raar kijken, beetje om zich heen aan het staren zijn, dat zijn eigenlijk gekke klanten, want de meeste klanten die lopen gewoon snel naar de kassa door", legt Mekić uit. "Dus je gaat mensen stigmatiseren, je gaat verschillen tussen mensen uitvergroten. En je loopt dus het risico, onbewust, onbedoeld, op toch een vorm van discriminatie."

'Missen we menselijke winkelmedewerker?'

Volgens Mekić wordt er bij de zelfscankassa meer gestolen doordat de menselijke kassa medewerker is weggehaald. "Ze schamen zich minder om iets te stelen", verklaart hij. "Het probleem is eigenlijk mede mogelijk gemaakt door keuzes van de supermarkten zelf en nu willen ze opnieuw een technologische oplossing loslaten op de klant, maar daarmee treffen ze ook veel mensen die geen kwade zin hebben."

De supermarkten zelf kijken er erg eenzijdig naar. "'Er wordt gestolen, het loopt uit de hand, we moeten er wat aan doen'. Maar er is geen zelfreflectie op: waar komen die diefstallen vandaan? Missen mensen misschien het menselijk contact? Is een menselijke winkelmedewerker de beste veiligheidscontrole die je kunt wensen? En wat doen we ook met mensen die fouten maken?" Hiermee doelt hij bijvoorbeeld op ouderen die de zelfscan misschien niet snappen.

Vraagtekens bij privacy

En ook op gebied van privacy zijn vraagtekens. Bij de AVG privacywet gaat het over persoonsgegevens, die herleidbaar zijn tot de persoon. "Maar supermarkten zeggen vaak: 'Wat wij doen, is privacyvriendelijk want we verwerken geen persoonsgegevens.' En dat zou misschien ook wel kunnen kloppen als je bijvoorbeeld puur iemands bewegingen volgt", vertelt Mekić.

Als supermarkten wel gezichten scannen of foto's maken, is dat wel weer herleidbaar naar de persoon. Maar hoe AI precies wordt ingezet door supermarkten, weten we niet.

Geen transparantie

En ook dat is een probleem, volgens de deskundige. "Ze wekken wel de suggestie dat er allerlei geavanceerde technologieën gebruikt worden, maar daar willen ze niet transparant over zijn. Ik neem ze dat wel kwalijk", vertelt de technologie deskundige. De supermarkten zelf geven als argument dat dieven makkelijker misbruik kunnen maken als ze weten wat er precies wordt gebruikt.

"Maar je zou ook het omgekeerde kunnen zeggen: je moet daar wel transparant over zijn, omdat je klanten, die helemaal niks verkeerd hebben gedaan, wel het recht hebben om te weten wat je met hen aan het doen bent, wat voor gegevens je over hen verzamelt, op wat voor manier je ze benadert en wat de consequenties en risico's zouden zijn van de systemen die je gebruikt." Volgens Mekić is dat belangrijker, omdat de meeste mensen onschuldig zijn.

Afstand AI en mensen

Mekić verwacht dat we dit soort toepassingen van AI nog veel vaker gaan zien in de toekomst, en heeft daar zijn bedenkingen bij. "Je ziet dat de afstand tussen wat AI doet en het menselijke effect eigenlijk steeds groter wordt, want AI is eigenlijk heel erg onzichtbaar."

Vaak hebben we niet eens door dat kunstmatige intelligentie wordt gebruikt, terwijl het dus wel invloed heeft op ons dagelijks leven. "Het is best lastig als je in de supermarkt iedere keer eruit gepikt wordt omdat je een eigenschap hebt die volgens het algoritme verdacht is, terwijl de medewerker van de supermarkt niet eens weet hoe dat komt", sluit hij af.