Geen zorgen nodig over 'zelfbewuste' algoritmes, zegt hoogleraar: 'We kunnen ze altijd nog uitschakelen'

Hij werd ontslagen en toen werd hij weer aangenomen. De topman van OpenAI Sam Altman werd aan de kant gezet door het bestuur omdat zij geen vertrouwen meer had in de ceo. Maar na vijf dagen kwam hij weer terug. En dat roept vragen op.

Een mogelijke reden voor het ontslag is de ontwikkeling van Q*, ook wel Q-Star en model-Q* genoemd. Een nieuw model dat zo krachtig en slim is dat medewerkers van het bedrijf - dat ook verantwoordelijk is voor ChatGPT - bang zijn dat het 'een bedreiging kan vormen voor de mensheid'. "Dat is eigenlijk meer science fiction", vertelt hoogleraar Computer Science Education aan de VU Felienne Hermans.

AGI en AI

Q* is Artificial General Intelligence (AGI), oftewel kunstmatige algemene intelligentie. Dat is anders dan AI, 'normale' kunstmatige intelligentie. Het verschil tussen AGI en AI is dat AI goed is in één taakje. Terwijl AGI goed is in álle taakjes. En het algoritme van AGI kan van 'zichzelf' leren, omdat zij patronen herkennen en zichzelf kunnen herstellen.

"OpenAI legt het zo uit: het is een algoritme dat economisch rendabele taakjes kan overnemen van een mens. Dus de verschillende dingen die mensen in hun werkzame leven doen. Denk daarbij aan een mailtje sturen, een Excel spreadsheet maken, een meeting plannen. Al die verschillende economische taakjes in één algoritme. Dat is kunstmatige algemene intelligentie", legt Hermans uit.

Grote techsoap

Het vertrek van Sam Altman, die sinds 2019 de ceo van OpenAI is, wordt door verschillende media 'de grootste techsoap van het jaar genoemd'. Maar wat er precies gebeurd is in het bedrijf blijft een raadsel.

Op 17 november heeft het bestuur van OpenAI het vertrouwen in de ceo opgezegd. Dit zou mogelijk te maken hebben met dat hij 'niet altijd openhartig is in zijn communicatie'. Altman werd op vrijdag ontslagen. Na het weekend kwam naar buiten dat hij samen met medeoprichter van OpenAI Greg Brockman, bij Microsoft aan de slag kon. Maar op woensdag werd duidelijk dat zij beiden terug zouden keren bij OpenAI.

'Wij blijven de baas'

Verschillende experts kijken anders naar de betekenis van zo'n algoritme voor ons, vertelt Hermans. "Er zijn mensen die het helemaal niet efficiënt vinden. Q* heeft heel veel energie en heel veel trainingsdata nodig om basisschool rekensommetjes uit te voeren, die je ook met een rekenmachine met één AA-batterijtje erin kunt uitrekenen."

Maar een algoritme dat bij wijze van spreken alle taken op zich zou kunnen nemen, zorgt bij sommige mensen voor doembeelden. Dat is onnodig, volgens de hoogleraar. "Dat is eigenlijk meer science fiction, want als een algoritme echt kan denken dat hij een algoritme is, hebben we altijd nog als mensen de optie om de stekker eruit te trekken. Dus wij blijven de baas van de technologie."

Bias

Hermans maakt zich dan ook geen zorgen over het ontstaan van een zelfbewustzijn, maar ze maakt zich meer zorgen over het energieverbruik en de vooringenomenheid (bias) van het algoritme. Als deze met veel van dezelfde informatie gevoed wordt, leert dat algoritme dat zichzelf aan als het juiste antwoord.

"Dan krijg je zaken als een algoritme dat een professor altijd 'hij' noemt, dat is onschuldig. Maar ook als je ziet dat ziekenhuizen, ook in Nederland, AI gaan gebruiken voor medisch advies, dan zit diezelfde bias ook in die algoritmes. En daar kan het wel misgaan."

3 keer 3 is 10

Kunstmatige algemene intelligentie kan wel de volgende stap worden in de techwereld. De ontwikkeling gaat snel, maar volgens hoogleraar Hermans lopen we wel tegen een bovengrens aan. "Dit blijven statistische algoritmes. Ze voorspellen wat er uitkomt met misschien 90 procent of 95 procent zekerheid. Maar op een gegeven moment vlakt dat af."

Hermans legt verder uit: "Je zal door die statistische algoritmes altijd een foutmarge blijven houden. Het is niet een rekenmachientje die zegt '3 keer 3 is 9'. Het is iets wat zegt: 3 keer 3 is vaak wel 9, maar misschien ook wel een keer 8, of 10. Dus op een bepaald punt ben je bij die foutmarge aangekomen die er altijd in blijft zitten. Dus het gaat nu heel hard, maar er zit een natuurlijke bovengrens aan en die is niet 100 procent, want het is een model op statistiek gebaseerd."