Grote techbedrijven verwachten dat AI een revolutie kan veroorzaken in de gezondheidszorg. Een uitkomst bij röntgenfoto's, maar bij een Amerikaanse hulplijn ging een chatbot al snel offline vanwege rare adviezen. Er zitten dus wat haken en ogen aan.

Dat chatbots goed kunnen worden ingezet voor het maken of vertalen van teksten is bekend, minder bekend is dat de slimme technologie inmiddels ook al wordt ingezet in de gezondheidszorg. De resultaten zijn wisselend en volgens hoogleraar Geert Litjens is AI dan ook zeker niet voor alle zorgtaken in te zetten.

'ChatGPT verkoopt vaak onzin'

ChatGPT was er nog maar net toen onderzoek al uitwees dat de tool betere consulten gaf dan echte artsen. Litjens, die zich als hoogleraar gezondheidszorg voor het Radboudumc in Nijmegen bezighoudt met de inzet van kunstmatige intelligentie, reageert sceptisch: "Realiseer je daarbij wel dat een huisarts die een e-consult moet doen minder dan 10 minuten per patiënt heeft."

De chatbot is ontworpen om aardig te zijn, en is dus vriendelijker tegen de patiënt, maar zijn de antwoorden ook beter? "Hij verkoopt vaak toch echt onzin", zegt de AI-expert. "Maar ChatGPT kan inderdaad wel empathische lange verhalen schrijven. Een huisarts heeft daar geen tijd voor en schrijft kort en bondig."

Chatbot ingezet bij hulplijn

Dat kunstmatige intelligentie niet overal een juist antwoord op heeft, bleek eerder dit jaar in de Verenigde Staten. De National Eating Disorders Association zette daar een chatbot in om adviezen te geven aan mensen met een eetstoornis. De hulplijn, waar jaarlijks zo'n 70.000 hulpvragen binnenkomen, schakelde volledig over op een chatbot genaamd 'Tessa'.

In april werd duidelijk dat de zes betaalde medewerkers en 200 vrijwilligers niet langer nodig waren. "We kregen te horen dat we vervangen zouden worden", vertelt oud-medewerker Abby Harper. De keuze om telefonisten bij een hulplijn te vervangen door een chatbot noemt Litjens 'bijzonder dom'. "Dat is nou bij uitstek iets waarbij je menselijk contact nodig hebt", benadrukt hij.

Schadelijke adviezen gegeven

Al na een paar dagen bleek dat 'Tessa' niet functioneerde en kwam National Eating Disorders Association in opspraak omdat de chatbot ondeugdelijke en zelfs schadelijke adviezen gaf aan mensen met een eetstoornis. Uiteindelijk werd besloten om de chatbot offline te halen.

Inmiddels is de stekker zelfs helemaal uit de hulplijn getrokken. Als iemand met een hulpvraag nu belt, krijgt diegene geen medewerker meer aan de lijn. Oud-medewerker Nicole Doyle vindt dat kwalijk: "Als je hulp zoekt en merkt dat er niemand is, dan voel je je zo alleen." Ze begrijpt dan ook niet waarom de organisatie zo snel wilde overschakelen op een chatbot.

Screenen op borstkanker

Waar de inzet van AI in de psychische zorg dus goed misging, lijkt de technologie wél goed te werken bij het analysen van medische data, bijvoorbeeld bij röntgenfoto's of microscoopfoto's van weefsel. Kunstmatige intelligentie is beter in het screenen op borstkanker dan radiologen, blijkt uit grootschalig Zweeds onderzoek.

Omdat er massaal gescreend wordt op borstkanker kan een programma getraind worden met soms tientallen miljoenen foto's. "Dat zijn meer borstfoto's dan een radioloog in zijn hele leven gaat zien, dus die algoritmes worden dan ook beter dan een radioloog", zegt hoogleraar Litjens.

Medische data is goud waard

De medische data die ziekenhuizen en zorginstellingen sinds jaar en dag hebben opgeslagen, zijn daarom goud waard voor grote techbedrijven. Alle grote spelers als Apple, Amazon, Microsoft en Google investeren daarom miljarden in gezondheidszorg.

"Zij maken deals met ziekenhuizen om bepaalde data te krijgen", weet de AI-expert. "Of met bijvoorbeeld zorgverzekeraars die ook veel gegevens hebben."

Beloften en problemen

Kunstmatige intelligentie belooft dus veel kansen voor de gezondheidszorg, maar loopt tegelijkertijd tegen dezelfde problemen aan waar mensen nu ook al tegenaan lopen. Zo zijn datasets waarmee wordt gewerkt meestal niet representatief omdat van de ene bevolkingsgroep soms veel meer data voorhanden is dan van een andere bevolkingsgroep.

"Als ik mijn AI-algoritme alleen maar train met witte mannen tussen de 40 en 60, kan ik niet denken dat het ook werkt op vrouwen tussen de 20 en 40 jaar oud", zegt Litjens. "De westerse levers van mensen zijn bijvoorbeeld groter dan de levers van mensen uit Aziatische landen. Dat zijn wel dingen waar je over na moet denken voor je het gaat inzetten."