Wanneer schrijft een computerprogramma betere romans dan de beste auteurs? En hoe lang duurt het nog voordat een computer rockmuziek componeert? De ontwikkelingen op het gebied van kunstmatige intelligentie gaan razendsnel. Voor velen is het een zegen, maar critici zien het juist als een vloek. Is de angst terecht dat de machine de mens gaat overheersen? Trendwatcher Jarno Duursma: “Kunstmatige intelligentie is de meest ontwrichtende technologie van de komende tien jaar”.

Een zoekopdracht in Google, het instellen van je navigatie of spreken tegen Siri, de slimme spraakassistent van Apple. Kunstmatige intelligentie (KI) of artificiële intelligentie (AI) zijn systemen die zelf-lerend zijn. Machines, software en apparaten imiteren het denkvermogen van een mens en kunnen zo zelfstandig problemen oplossen.

Computer versus mens

Slimme systemen hebben de afgelopen jaren grote sprongen vooruit gemaakt. Het was de computer Deep Blue die in 1996 schaakgrootmeester Gary Kasparov versloeg. Daarna nam de ontwikkeling van KI een grote vlucht: in 2011 namen de beste deelnemers van het Amerikaanse kennisspelprogramma Jeopardy het op tegen computer Watson. Het technologische computerwonder versloeg de twee menselijke deelnemers overtuigend.

In 2016 deed Google’s zelflerende software AlphaGo de wereld versteld staan door wereldkampioen Lee Sedol in het eeuwenoude bordspel Go te verslaan. Dat spel is dusdanig complex dat mensen dachten dat een computer er nooit een mens in kon verslaan. AlphaGo wordt gezien als dé doorbraak van kunstmatige intelligentie. Een documentaire over deze krachtmeting tussen mens en machine wordt vertoond tijdens het International Film Festival in Rotterdam. En de ontwikkelingen van kunstmatige intelligentie zijn in volle gang.

Comfort en tijdsbesparing….

Technologische innovaties op het gebied van robotica en KI bieden in de nabije toekomst veel mogelijkheden, bijvoorbeeld binnen de zorgsector. Een intelligente computer zou kleine afwijkingen bij de mens veel nauwkeuriger kunnen herkennen dan een arts van vlees en bloed. Gecompliceerde operaties worden dan minder risicovol. Demis Hassabis, de bedenker van Google’s  AlphaGo, ziet veel meer mogelijkheden voor kunstmatige intelligentie. “Het is uiteindelijk bedoeld om problemen in de maatschappij op te lossen, zoals het ontwikkelen van nieuwe medicijnen en oplossingen voor klimaatverandering.”

Ook Frank Smilda, sectorhoofd regionale informatievoorziening Noord-Nederland, ziet het belang van kunstmatige intelligentie voor zijn vakgebied.  Volgens hem zijn big data en KI niet meer weg te denken uit het politiewerk. “We kunnen dankzij data snel analyses maken en zelfs voorspellingen doen waar in grote steden bijvoorbeeld woninginbraken of straatroof zullen plaatsvinden.”

…Maar ook inbreuk op de privacy 

Maar ook dicht bij huis krijgen we al te maken met kunstmatige intelligentie. Websites als Bol.com analyseren het koopgedrag van klanten en geven op basis daarvan tips voor eventuele volgende aankopen. “KI-systemen gaan ons welvaart, tijdsbesparing, gemak, inzichten en comfort brengen”, ziet trendwatcher Jarno Duursma. “We gaan gewend raken aan een persoonlijke assistent die 24 uur per dag beschikbaar is en weet wat we nodig hebben voordat we het zelf weten.”

Duursma verdiept zich al langere tijd in kunstmatige intelligentie en schreef er een boek over: De Digitale Butler. In zijn boek schetst Duursma een toekomstbeeld waarin KI veel verder reikt dan tot nu toe het geval is. Kunstmatige intelligentie is over zo’n veertig jaar beter in alle menselijke taken dan mensen zijn, zegt hij. Zoals vertalen (in 2024), het schrijven van een bestseller (2049) en werken als een chirurg (2053).  

Wellicht handig, die kunstmatige intelligentie, maar daarin schuilt volgens Jarno Duursma ook het gevaar. Het is onmiskenbaar dat kunstmatige intelligentie de privacy beperkt. Iedereen die een mobiele telefoon bij zich heeft is traceerbaar. Zoekmachines weten wie je bent en hebben een oneindig geheugen. 

“Kunstmatige intelligentie biedt ons zeker zoete vruchten die voor de mens onhaalbaar zijn”, aldus Duursma. “Maar slimme software-systemen snappen steeds beter wie wij zijn en wat we willen. Het gevaar is bijvoorbeeld dat bedrijven steeds makkelijker een profiel van ons kunnen maken. En wanneer wij onze eigen privacy vervolgens afschermen, maken ze gewoon gebruik van vergelijkbare doelgroepen.”

‘AI heeft het stuur in handen’

Wetenschapper Nick Bostrom gaat nog een stap verder. Hij stelt dat een succesvolle kunstmatige intelligentie wellicht de laatste uitvinding van de mens zou kunnen zijn. Samen met andere wetenschappers, waaronder natuurkundige Stephen Hawking en Tesla-ondernemer Elon Musk, waarschuwt hij voor het gevaar dat machines de mens op een dag bedreigen. In een brief meldt Bostrom met name voor wapens die autonoom beslissingen kunnen nemen, en zo gevaarlijker zullen zijn dan nucleaire wapens.

De Nederlander Diederik Kingma ondertekende ook de brief van Hawking en Musk. Tegenwoordig werkt hij met Elon Musk in San Francisco bij OPENAI. Het bedrijf streeft naar een ontwikkeling van kunstmatige intelligentie die op een veilige en transparante manier plaatsvindt. “Aan de ene kant maak ik mij nog steeds zorgen”, erkent Kingma. “Maar ik ben ook optimistisch dat we dit tegen die tijd kunnen oplossen, bijvoorbeeld met overheidsregulering. Dat is vergelijkbaar hoe wij nu andere gevaarlijke technologieën reguleren.”

Is de angst terecht dat de machine de mens gaat overheersen? De meningen zijn behoorlijk verdeeld. Jarno Duursma denkt van wel. Hij noemt het een “gepasseerd station” om als mens de baas te blijven over computers. “We kunnen als mens geen echte controle meer hebben. Algoritmes kunnen afbeeldingen, video’s, woorden, stemmen en gezichten inmiddels beter herkennen dan wij, mensen”, aldus Duursma. “Ze worden steeds beter in het doen van ‘zintuiglijke waarnemingen’ en in het begrijpen van voorbeelden, zichzelf en elkaar. Niemand heeft het stuur nog in handen.”

Filosoof Ad Verbrugge is het ermee eens dat mensen de grip verliezen op machines die ze maken. "Dat is ergens bedriegend: dat we straks machines hebben waarvan we niet meer kunnen voorspellen wat ze doen. De complexiteit is zo groot, dat de mens die niet meer kan overzien."

Mens in dienst van machine

Verbrugge ziet dat mensen langzaam doorkrijgen dat ons leven fundamenteel verandert als gevolg van de technologie. "Wij, als mensen, worden in dienst genomen door een machine. Daardoor verliezen we onze vrijheid en autonomie. Ik heb het gevoel dat die beklemmende atmosfeer er ook voor zorgde dat iedereen opgelucht was dat wereldkampioen Lee Sedol in ieder geval nog één potje won van de computer AlphaGo."

Verbrugge denkt dat kunstmatige intelligentie ook gebruikt zal worden in oorlogsvoering. "In die zin blijft de mens de zwakke schakel. Want die bepaalt waar nieuwe technologieën voor worden gebruikt. Atoomenergie kan je ten goede en ten kwade gebruiken. Dat geldt met kunstmatige intelligentie ook. We zien nu al dat er sprake is van cyber-oorlogsvoering. Zowel tussen staten als tussen mensen onderling. Daar zal de strijd van de 21ste eeuw over gaan..."

Het pgb-systeem is enorm fraudegevoelig. Jaarlijks verdwijnt zo'n 500 miljoen euro belastinggeld in de zakken van mensen met andere belangen. Deskundigen willen dat de politiek ingrijpt: bescherm zorgverleners en patiënten tegen fraudeurs.

Zorgkantoren mogen administratie niet inzien en alleen aangekondigd huisbezoeken doen, wat toezicht op pgb-zorg lastig maakt. "We moeten meer bevoegdheden hebben", reageert CZ-directeur Verlaan op onderzoek van EenVandaag naar mogelijke pgb-fraude.

"Binnen de huidige constructie is het redelijk makkelijk om daar misbruik van te maken. Het probleem is dat we vaak wel voelen dat het niet pluis is, maar er heel weinig mee kunnen", zegt Caro Verlaan, directeur van zorgkantoor CZ, de partij die pbg-budgetten toekent.

Familie in Den Haag

Verlaan reageert op onderzoek van EenVandaag, waaruit blijkt dat een familie in Den Haag mogelijk tonnen aan pgb-geld declareerde zonder het aan de zorg te besteden.

De indicatie, verleend door zorgkantoor CZ, van 132.000 euro per jaar, verdween naar het zorgbedrijf van een van de zoons. De daadwerkelijk zorg werd verleend door Portugese en Braziliaanse vrouwen. Zij kregen maar een klein deel van dat bedrag en werden ver onder het minimum loon betaald.

Onvoldoende controle

Het verhaal laat zien hoe makkelijk het is om te frauderen met een pgb-budget, over de rug van arbeidsmigranten. "Ik kan dat alleen maar beamen", zegt de bestuurder. Opvallend, want juist haar zorgkantoor moet controleren hoe het pgb-geld wordt uitgegeven.

"Er moet natuurlijk een zorgdossier gemaakt worden, dat bespreken wij, dat controleren wij ook. Dan kijken we met de budgethouder of de zorgverlener of dat reëel is en dan kunnen wij akkoord geven hoe dat verder daarna besteed wordt", zegt de directeur van CZ. "Maar dat kunnen wij helaas niet zien."

Onafhankelijke controle

Het zorgkantoor kan niet in boekhouding kijken en alleen een gepland huisbezoek doen. Wat volgens Verlaan weinig effectief is aangezien mensen de boel vaak in orde maken wanneer het zorgkantoor aankondigt langs te komen om achter de voordeur te controleren of wat er op papier staat ook klopt. Verlaan ziet dat ze op dit moment te weinig bevoegdheden heeft om fraude te controleren.

"CZ zou daarom graag de mogelijkheid willen verkennen om een onafhankelijke zorgverlener van een gecontracteerde partij buiten de familiare sfeer aan te stellen die erop kan toezien of het pgb wordt gebruikt op de manier waarvoor het bedoeld is." Op die manier is er dus iemand van buitenaf die controle houdt.

Meer bevoegdheden

"Hiermee verkleinen we de kans op samenspanning en hoeven we bij twijfel met betrekking tot fraude niet het gesprek te voeren met iemand die twee petten op heeft", legt Verlaan uit.

Daarnaast wil de zorgverzekeraar dat ze meer bevoegdheden hebben om fraude vast te stellen en aan te pakken.

Partijen wijzen elkaar aan

Binnen het systeem van pgb zijn veel partijen betrokken. Wanneer het aankomt op de controle van fraude, wijzen ze vaak naar elkaar. De Sociale Verzekeringsbank (SVB) mag het geld alleen uitbetalen, en doet dus in feite alles wat de budgethouder aan hen doorgeeft. De SVB mag geen inhoudelijke controle doen. Zij checken alleen of de administratie klopt. Een woordvoerder laat weten dat zij op dit moment niks kunnen doen met meldingen.

Er wordt gewerkt aan wetgeving, zodat ze signalen kunnen doorgeven aan het zorgkantoor. Het zorgkantoor heeft namelijk wél een toezichthoudende rol. Verder is er de branchevereniging van zorgkantoren (ZN), die wilde niet op vragen van EenVandaag reageren.

Controle zorgkantoren lastig

De Nederlandse Zorgautoriteit (NZa), houdt toezicht op de uitvoering van het pgb door zorgkantoren, en laat weten dat het lastig is om dit te controleren.

"Momenteel zijn er geen concrete voorschriften ten aanzien van de inrichting van een zorgbedrijf die verbieden of verhinderen dat zoals in deze casus geschetst de zoon via een onderneming zorg verleent aan zijn vader", leggen ze uit.

Verantwoordelijkheid budgethouder

Zij verwijzen, net zoals het zorgkantoor, naar de verantwoordelijkheid van de budgethouder: "In geval van een pgb is de budgethouder de enige die een contractuele relatie heeft met de zorgaanbieder. Dat bemoeilijkt de situatie. De budgethouder sluit overeenkomsten met de pgb-zorgverleners. Het zorgkantoor controleert deze overeenkomsten, maar heeft zelf geen contractuele relatie met de zorgaanbieder."

"Dat het zorgkantoor geen directe relatie met de pgb-zorgaanbieder heeft, hindert het zorgkantoor om signalen van onjuistheden of fraude te onderzoeken en op te volgen", leggen ze uit. "Hierdoor is het aan budgethouders om informatie te verzamelen over de zorgaanbieders van wie zij voor hun zorg afhankelijk zijn."

'Is te ver doorgeslagen'

In 2025 geven Nederlandse belastingbetalers 3,7 miljard uit aan pgb-zorg. Naar schatting wordt elk jaar voor zo'n 500 miljoen gefraudeerd met persoonsgebonden budgetten.

Verlaan ziet dat het politiek gevoelig ligt om het pgb-systeem te veranderen en dat begrijpt ze. "Het pgb-systeem is ooit bedacht met het idee mensen meer zeggenschap te geven over de zorg. Het is voor een bepaalde doelgroep mooi, maar het is te ver doorgeslagen", zegt directeur van het zorgkantoor CZ Caro Verlaan. "We hebben in Nederland veel regels, maar hiervoor misschien wel te weinig", zegt ze.