ChatGPT gevaarlijk voor kinderen? Waarom Amerikaanse staten bedrijf OpenAI aanklagen

"Je hebt nooit ruzie met een chatbot", zegt hoogleraar psychiatrie en psycholoog Wim Veling van de Rijksuniversiteit Groningen. Hij legt uit waarom een gesprek met een AI-taalmodel voor sommige mensen heel echt kan voelen. "Een chatbot is vriendelijk, voelt met je mee en reageert altijd op een hele prettige manier."

Naar de rechter

Toch is dat niet zonder risico, vinden acht Amerikaanse staten. Zij zijn naar de rechter gestapt omdat ze vinden dat ChatGPT een gevaar is voor kinderen. De Amerikaanse staten waarschuwen dat OpenAI 'opzettelijk, gevaarlijk, roekeloos en onwettig handelt'. ChatGPT zou kinderen aanzetten tot zelfbeschadiging of in gevallen van een paar jaar geleden zelfs tot zelfmoord.

"Er zijn een aantal jaren terug voorbeelden geweest waar mensen gingen vragen: 'Ik wil een einde aan mijn leven maken, hoe kan ik dat het beste doen?' en dat een chatbot daar dus keurig netjes antwoord op gaf", zegt Veling. "Inmiddels zijn dat soort extreme dingen wel ingebouwd, dat de modellen zeggen: 'Daar moeten we het niet over hebben, of als je dit soort gedachten hebt, ga je hulp zoeken'. Maar in het verleden zijn daar zeker grote dingen in misgegaan."

Geen goede psycholoog

"Chatbots zijn over het algemeen gemaakt om heel empathisch te reageren. Dus als jij ergens mee zit en je vraagt of je zegt dat tegen de chatbot, dan zul je altijd begrip krijgen. En dat is natuurlijk heel fijn", zegt hoogleraar de psychiatrie. Maar dat empathische gedrag maakt de AI-modellen niet bepaald een goede psycholoog.

"In een goede psychologische behandeling praat de psycholoog niet altijd met je mee. Want je moet eigenlijk juist een beetje uitgedaagd worden en uit je comfortzone gehaald worden, en soms ook tegengesproken worden om je beter te gaan voelen", zegt hij. Commerciële bedrijven achter AI-modellen zijn vaak juist gemaakt om je zo lang mogelijk in het gesprek te houden, je te pleasen en je op je gemak te laten voelen, zegt hij.

Risico

Het risico van een chatbot is voornamelijk dat hij eigenlijk te veel met je meepraat, zegt Veling. "En dat is uiteindelijk dus niet helpend." Dat 'meepraten' kan vervolgens ook leiden tot gevaar.

"Een gesprek kan gevaarlijk worden als je er helemaal ingezogen wordt. We zien soms dat jongeren of volwassenen eigenlijk te veel tijd gaan doorbrengen met een chatbot, want die is natuurlijk altijd en overal beschikbaar. Dus als je je zo gehoord voelt en je blijft maar vragen stellen, dan gaat dat gesprek maar door. En een chatbot heeft een neiging om je steeds verder te bevestigen in de dingen die je al dacht."

Afhankelijk en geïsoleerd

Aan de ene kant kun je daardoor afhankelijk worden van de chatbot, zegt Veling. Aan de andere kant kun je op een bepaalde manier ook geïsoleerd raken. "Het is ook een risico dat mensen eigenlijk vooral gaan praten met een chatbot en niet meer met mensen in hun eigen omgeving over de dingen waar ze mee zitten. Dat is verleidelijk, omdat een chatbot zo empathisch is en zo fijn reageert."

Maar hij benadrukt dat dit uiteindelijk niet de manier is om problemen op te lossen. "We hebben altijd mensen om ons heen nodig met wie we ons leven delen en onze zorgen kunnen bespreken." In de praktijk ziet hij dat mensen regelmatig dingen die ze moeilijk of schaamtevol vinden alleen maar delen met een chatbot.

Psychose versterken

Chatbots zijn over het algemeen getraind op het herkennen van hele expliciete suïcidale uitspraken, zegt Veling, maar er zijn ook andere mentale gezondheidskwesties waar mensen mee zitten. Daar kunnen AI-gesprekspartners nog niet goed op reageren.

"Ik werk zelf veel met jongeren die in een psychose zijn beland", zegt Veling. "Zij hebben dan gedachten die eigenlijk niet kloppen. Het risico is dat zo'n chatbot die gedachten die niet kloppen gaat bevestigen en alleen nog maar sterker maakt. Dus dat is een voorbeeld dat het eigenlijk nog niet goed veilig geregeld is."

Tips voor veilige AI-gesprekken

Tot slot geeft Veling gebruikers van AI-chatbots een paar aanbevelingen om te voorkomen dat je niet in een gevaarlijk gesprek belandt. "Let op dat je niet te lang te intensief met die chatbots bezig bent. Ga niet nachtenlang in gesprek blijven over emotionele problemen."

Ten tweede denkt hij dat mensen nog moeten leren om vragen op de juiste manier te formuleren aan een chatbot. "Want hoe je het vraagt ,bepaalt ook een beetje wat voor soort antwoord je krijgt." Ten derde: "Geloof niet altijd direct wat de chatbot zegt. Blijf kritisch op de antwoorden."