Meerderheid gemeenten gebruikt ChatGPT en bijna de helft weet niet wat hun medewerkers ermee doen

Ambtenaren bij de gemeente gebruiken volop ChatGPT, blijkt uit een rondgang van EenVandaag. 74 procent geeft aan ChatGPT te gebruiken, terwijl het voor rijksambtenaren wordt afgeraden om AI-software te gebruiken. Dit vanwege de risico's.

Ambtenaren gebruiken ChatGPT als informatiebron, sparringpartner of voor het verbeteren van openbaar te publiceren teksten, laten verschillende gemeenten weten. Dat kwam naar voren uit de rondgang van EenVandaag onder 137 gemeenten. Tegelijk weet 39 procent niet op welke manier hun werknemers het AI-programma gebruiken. "Dat vind ik een slechte zaak", zegt expert data-ethiek Iris Muis.

'Copy-paste en klaar'

"Het risico is dat burgers hierdoor verkeerde informatie ontvangen, die klakkeloos uit ChatGPT wordt doorgestuurd. Je weet niet zeker hoe ChatGPT aan zijn antwoord komt en hij heeft het vaak fout", zegt ze.

"Je moet dat dus continu checken, maar ik denk dat als een ambtenaar een antwoord op een scherm ziet dat die snel denkt: 'Ah handig! Copy-paste en klaar.'"

Beleidsstuk op straat

Muis ziet ook risico's voor de bescherming van gegevens. ChatGPT gebruikt de data die gebruikers erin stoppen namelijk om het systeem te trainen.

"Als jij er een vertrouwelijk beleidsstuk in gooit en zegt: destilleer de kernboodschap van dit beleidsstuk - en ik kan me voorstellen dat je dat doet, want dat is best handig - dan heb je niet door dat ChatGPT die vertrouwelijke informatie gebruikt om zich te trainen. En dat het op straat kan komen te liggen", zegt ze. Die gegevens kan ChatGPT ook verkopen aan andere partijen.

Bevooroordeelde antwoorden

"ChatGPT is bevooroordeeld", zegt Muis. Iets wat je als overheid niet moet willen, vindt de data-ethicus. "Je wil zo neutraal mogelijk zijn. Maar ChatGPT kan bevooroordeelde antwoorden geven, omdat het met bepaalde data getraind is."

"Voor algoritmes zijn daar nu allemaal regels voor, maar voor ChatGPT niet. Dat is eigenlijk raar." Muis legt uit dat dit bijvoorbeeld discriminatie in de hand kan werken. "En dat is natuurlijk heel onwenselijk."

Voldoet niet aan wet- en regelgeving

Daarnaast voldoet het gebruik van ChatGPT niet aan de Nederlandse wet- en regelgeving, zegt Muis. Het programma is getraind op illegaal verkregen data. "ChatGPT is niet transparant en dat is een slechte zaak."

Als burger heb je het recht om te weten hoe een overheid handelt, benadrukt ze. "Daarom is er nu bijvoorbeeld ook een algoritme-register aangelegd. Daarin kan je zien welke algoritmes er zijn gebruikt. Als ik een brief krijg van een gemeente, waarin staat dat mijn uitkering wordt gekort en die brief is gegenereerd door ChatGPT, dan zou ik dat willen weten."

Afgeraden voor rijksambtenaren

De risico's die Muis benoemt, zijn ook bekend bij demissionair staatssecretaris Koninkrijksrelaties en Digitalisering, Alexandra van Huffelen. Dat is ook precies de reden dat ze het rijksambtenaren afraadt om programma's als ChatGPT te gebruiken. "We raden het af, want we vinden het gevaarlijk", zegt ze.

"Die modellen zijn totaal nog niet getest. We weten niet of ze voldoen aan onze privacyregels. We weten niet hoe ze getraind zijn en we weten niet helemaal wat er gebeurt met jouw data of met jouw teksten wanneer je ChatGPT gebruikt", zegt Van Huffelen.

'Te veel risico's'

Het verbaast Van Huffelen niet dat veel gemeenten ChatGPT gebruiken, ze ziet de mogelijkheden ook wel. "Gemeenten mogen dat zelf bepalen. Ik vind het wel belangrijk dat ze erover nadenken of dit verstandig is."

Zelf heeft ze dus besloten rijksambtenaren te ontraden het programma ChatGPT te gebruiken. "Het zou verstandig zijn als gemeenten er ook zo naar kijken. In de werkomgeving zorgt het voor te veel risico's die we nu niet goed kunnen overzien", zegt de demissionair staatssecretaris.

Gezond verstand gebruiken

"Alles is toegestaan, behalve privacygevoelige gegevens in ChatGPT zetten", laat een gemeente weten in een reactie op de rondgang. De regels die zijn opgesteld verschillen per gemeente. Soms zijn ze uitgebreid, soms is het enkel met een waarschuwing voor het delen van privacygevoelige gegevens.

Een andere gemeente hanteert, in afwachting van regels van de rijksoverheid, de volgende drie regels: maak vooral met gezond verstand een afweging, voed ChatGPT niet met persoonsgegevens of gevoelige (bedrijfs)informatie en controleer de uitkomst altijd op juistheid. Muis ziet graag dat er duidelijke regels komen, ook voor gemeenten. "'Gebruik je gezond verstand' is onvoldoende. Het gaat over nieuwe technologieën, je kan er niet vanuit gaan dat iedereen daar gezond verstand over heeft", zegt ze.

Kansen

De Vereniging van Nederlandse Gemeenten (VNG) laat weten potentie te zien in zogenoemde generatieve AI zoals ChatGPT om de dienstverlening te verbeteren of bepaalde bezwaarprocedures sneller te laten verlopen. "De rijksoverheid is bezig met richtlijnen. Wij zijn daarop aangehaakt", zegt een woordvoerder.

Expert data-ethiek Muis denkt dat we onze blik moeten verbreden en naast de bestaande aanbieder van ChatGPT ook moeten kijken naar kleinere aanbieders van soortgelijke programma's. "Waarmee je wél afspraken kan maken over bescherming van gegevens."