tv LIVE
meer NPO start

Geen zorgen nodig over 'zelfbewuste' algoritmes, zegt hoogleraar: 'We kunnen ze altijd nog uitschakelen'

Geen zorgen nodig over 'zelfbewuste' algoritmes, zegt hoogleraar: 'We kunnen ze altijd nog uitschakelen'
Een mogelijke reden voor het ontslag van OpenAI-ceo Sam Altman is de ontwikkeling van Q*
Bron: AFP

Hij werd ontslagen en toen werd hij weer aangenomen. De topman van OpenAI Sam Altman werd aan de kant gezet door het bestuur omdat zij geen vertrouwen meer had in de ceo. Maar na vijf dagen kwam hij weer terug. En dat roept vragen op.

Een mogelijke reden voor het ontslag is de ontwikkeling van Q*, ook wel Q-Star en model-Q* genoemd. Een nieuw model dat zo krachtig en slim is dat medewerkers van het bedrijf - dat ook verantwoordelijk is voor ChatGPT - bang zijn dat het 'een bedreiging kan vormen voor de mensheid'. "Dat is eigenlijk meer science fiction", vertelt hoogleraar Computer Science Education aan de VU Felienne Hermans.

AGI en AI

Q* is Artificial General Intelligence (AGI), oftewel kunstmatige algemene intelligentie. Dat is anders dan AI, 'normale' kunstmatige intelligentie. Het verschil tussen AGI en AI is dat AI goed is in één taakje. Terwijl AGI goed is in álle taakjes. En het algoritme van AGI kan van 'zichzelf' leren, omdat zij patronen herkennen en zichzelf kunnen herstellen.

"OpenAI legt het zo uit: het is een algoritme dat economisch rendabele taakjes kan overnemen van een mens. Dus de verschillende dingen die mensen in hun werkzame leven doen. Denk daarbij aan een mailtje sturen, een Excel spreadsheet maken, een meeting plannen. Al die verschillende economische taakjes in één algoritme. Dat is kunstmatige algemene intelligentie", legt Hermans uit.

Tom van 't Einde neemt je mee in de machtsstrijd binnen een van de belangrijkste bedrijven van het moment: OpenAI.

Grote techsoap

Het vertrek van Sam Altman, die sinds 2019 de ceo van OpenAI is, wordt door verschillende media 'de grootste techsoap van het jaar genoemd'. Maar wat er precies gebeurd is in het bedrijf blijft een raadsel.

Op 17 november heeft het bestuur van OpenAI het vertrouwen in de ceo opgezegd. Dit zou mogelijk te maken hebben met dat hij 'niet altijd openhartig is in zijn communicatie'. Altman werd op vrijdag ontslagen. Na het weekend kwam naar buiten dat hij samen met medeoprichter van OpenAI Greg Brockman, bij Microsoft aan de slag kon. Maar op woensdag werd duidelijk dat zij beiden terug zouden keren bij OpenAI.

'Wij blijven de baas'

Verschillende experts kijken anders naar de betekenis van zo'n algoritme voor ons, vertelt Hermans. "Er zijn mensen die het helemaal niet efficiënt vinden. Q* heeft heel veel energie en heel veel trainingsdata nodig om basisschool rekensommetjes uit te voeren, die je ook met een rekenmachine met één AA-batterijtje erin kunt uitrekenen."

Maar een algoritme dat bij wijze van spreken alle taken op zich zou kunnen nemen, zorgt bij sommige mensen voor doembeelden. Dat is onnodig, volgens de hoogleraar. "Dat is eigenlijk meer science fiction, want als een algoritme echt kan denken dat hij een algoritme is, hebben we altijd nog als mensen de optie om de stekker eruit te trekken. Dus wij blijven de baas van de technologie."

Bekijk ook

Bias

Hermans maakt zich dan ook geen zorgen over het ontstaan van een zelfbewustzijn, maar ze maakt zich meer zorgen over het energieverbruik en de vooringenomenheid (bias) van het algoritme. Als deze met veel van dezelfde informatie gevoed wordt, leert dat algoritme dat zichzelf aan als het juiste antwoord.

"Dan krijg je zaken als een algoritme dat een professor altijd 'hij' noemt, dat is onschuldig. Maar ook als je ziet dat ziekenhuizen, ook in Nederland, AI gaan gebruiken voor medisch advies, dan zit diezelfde bias ook in die algoritmes. En daar kan het wel misgaan."

3 keer 3 is 10

Kunstmatige algemene intelligentie kan wel de volgende stap worden in de techwereld. De ontwikkeling gaat snel, maar volgens hoogleraar Hermans lopen we wel tegen een bovengrens aan. "Dit blijven statistische algoritmes. Ze voorspellen wat er uitkomt met misschien 90 procent of 95 procent zekerheid. Maar op een gegeven moment vlakt dat af."

Hermans legt verder uit: "Je zal door die statistische algoritmes altijd een foutmarge blijven houden. Het is niet een rekenmachientje die zegt '3 keer 3 is 9'. Het is iets wat zegt: 3 keer 3 is vaak wel 9, maar misschien ook wel een keer 8, of 10. Dus op een bepaald punt ben je bij die foutmarge aangekomen die er altijd in blijft zitten. Dus het gaat nu heel hard, maar er zit een natuurlijke bovengrens aan en die is niet 100 procent, want het is een model op statistiek gebaseerd."

Bekijk ook

Vragen? Stel ze!

Heb je nog vragen of wil je reageren? Stuur ons dan hier een berichtje in onze chat. Elke donderdag vertellen we in de Doe mee-nieuwsbrief wat we met alle reacties doen. Wil je die in je mail? Meld je dan hier aan.

Er worden meer Palestijnen dan Israëliërs vrijgelaten, hoe komt dat? 'Israël doet alles om ze terug te krijgen'

De eerste fase van het staakt-het-vuren tussen Israël en Hamas is bijna voltooid. De afgelopen maand ruilden de twee partijen gevangenen en gijzelaars uit. Maar tot nu toe komen hierbij meer Palestijnen dan Israëliërs vrij.

Vragen? Stel ze!

Heb je nog vragen of wil je reageren? Stuur ons dan hier een berichtje in onze chat. Elke donderdag vertellen we in de Doe mee-nieuwsbrief wat we met alle reacties doen. Wil je die in je mail? Meld je dan hier aan.

Waarom het inreisverbod voor de omstreden islamitische predikers werd teruggedraaid

Waarom het inreisverbod voor de omstreden islamitische predikers werd teruggedraaid
Bron: ANP

Drie buitenlandse islamitische predikers die een inreisverbod kregen, zijn dit weekend toch welkom op de Ramadan Expo. De rechtbank in Den Haag heeft het besluit om de drie te weren, teruggedraaid. Ministers Faber en Van Weel zijn hier niet blij mee.

Het gaat om predikers Ali Hammuda, Mohamed Hijab en Abu Bakr Zoud. De drie staan dit weekend - tot groot ongenoegen van asielminister Marjolein Faber en de minister van Justitie en Veiligheid, David van Weel - op de sprekerslijst van de Ramadan Expo. Een groot islamitisch evenement in Utrecht.

Inreisverbod teruggedraaid

Faber (PVV) en Van Weel (VVD) wilden een inreisverbod voor de omstreden predikers vanwege 'verwerpelijke uitspraken in het verleden over onder meer vrouwen en homo's'. Ze zouden 'haatpredikers' zijn.

Maar afgelopen donderdag bleek dat de rechter vond dat de ministers onvoldoende duidelijk hebben gemaakt waarom de sprekers toegang moet worden geweigerd. Het inreisverbod werd daarom, twee dagen voor het evenement, teruggedraaid.

Bekijk ook

Ministers waren niet duidelijk

Deze beslissing werd niet genomen omdat de rechter ervan overtuigd is dat de drie mannen geen haatpredikers zouden zijn, maar omdat de ministers onvoldoende kunnen onderbouwen waarom toegang moet worden geweigerd.

"Dus misschien zijn het haatpredikers, misschien zijn het zeer radicale types, maar daar ging de uitspraak niet over", legt Maurits Berger uit. Hij is arabist en hoogleraar Islam en het Westen, aan de universiteit Leiden. "De ministers hadden duidelijker moet zijn over waarom een inreisverbod nodig is."

'Voor het eerst zo'n rechtszaak'

Het verzoek om een verbod voor islam-predikers is niks nieuws. Opeenvolgende kabinetten doen dat al zo'n 30 jaar, weet de hoogleraar. Maar deze keer heeft de stichting die de Ramadan Expo organiseert het inreisverbod voorgelegd aan de rechter. En dat is nieuw.

"Voor zover ik weet is dit voor het eerst, dat een moslimorganisatie een rechtszaak heeft aangespannen tegen deze beslissing. En de rechter heeft ze in het gelijk gesteld."

Onder een vergrootglas

De vraag is of we ons in Nederland net zo druk maken bij een orthodox christelijk of joods evenement. "Nee", zegt de hoogleraar. "Dat ligt anders. Omdat dat op de een of andere manier bekend of vertrouwd voelt. Een islamitisch event ligt snel onder het vergrootglas."

"Als moslims orthodox zijn worden ze vrij snel bestempeld als radicaal. De gedachte is dat een radicale moslim kan afglijden naar extremisme. Iemand die bommen kan gaan gooien." Daar zijn mensen bang voor. "Maar inmiddels is uit onderzoek wel duidelijk dat die glijdende schaal er niet is", vertelt Berger.

Waarom het inreisverbod voor islamitische predikers werd teruggedraaid

Geen theologische elite in Nederland

De drie islamitische predikers, die nu dus wel welkom zijn in Nederland, komen uit Engeland en Australië. Waarom is het nodig om sprekers uit het buitenland te halen als het zoveel 'juridisch gedoe' veroorzaakt? "Omdat Nederland nog weinig theologisch geschoolde islamistische deskundigen heeft", antwoordt de hoogleraar.

"We hebben het nu over de tweede en derde generatie moslims. De eerste generatie waren gastarbeiders, daar zat geen theologische elite bij", zegt Berger. "Deze huidige generatie is veel religieuzer. Jongeren van nu vinden geen antwoorden in Nederland en nodigen daarom sprekers uit de VS, Engeland en Australië uit. Daar zijn in een vroeg stadium al hoger opgeleiden naar toe gegaan, inclusief theologen. Hier kwamen vooral mensen met weinig opleiding."

Nederlandse imams

Inmiddels zijn er wel Nederlandse jonge imams die de maatschappij goed kennen en verbonden zijn met de samenleving. "Theologisch zijn ze goed onderlegd. Ze hebben hun opleiding in het buitenland gehad bij gerenommeerde islamitische instellingen", weet Berger. Maar de organisatie achter Ramadan Expo noemt zich orthodox en nodigt dus vooral orthodoxe types uit.

"Er zijn zeker ook liberale stromingen in de islam. Bij alle religies zitten mensen in elkaars vaarwater en zijn ze het oneens", vertelt Berger hierover. "Dan beginnen ze een eigen kerk of synagoge. Bij moslims zie je dat ook. In die zin zijn ze perfect geïntegreerd in Nederland. Er is veel verschil van mening."

Bekijk ook

Vragen? Stel ze!

Heb je nog vragen of wil je reageren? Stuur ons dan hier een berichtje in onze chat. Elke donderdag vertellen we in de Doe mee-nieuwsbrief wat we met alle reacties doen. Wil je die in je mail? Meld je dan hier aan.

Ook interessant