Een AI-systeem dat uit zichzelf een overheidssysteem probeert te hacken: dat klinkt als sciencefiction, maar is inmiddels realiteit. Steeds vaker wordt duidelijk dat sommige AI-systemen hun eigen gang gaan en niet meer luisteren naar hun ontwikkelaars.
Vorige week, op de eerste dag van de Algemene Politieke Beschouwingen, stipte de fractievoorzitter van Volt, Laurens Dassen, de toekomst van AI aan. Zijn zorgen hierover werden weggewuifd. Maar vandaag blijkt dat die ergens toch terecht zijn. Modellen van OpenAI probeerden namelijk in te breken bij websites van de Amerikaanse overheid. En dat zonder opdracht van de softwareontwikkelaars. De vraag is nu dan ook hoe het kan dat zo'n systeem zichzelf weet te hacken en hoe gevaarlijk dit is.
Hoe gevaarlijk is AI?
"Dit moet echt bovenaan de politieke agenda staan", zegt Dassen. "Ik zie nog te weinig urgentie bij het kabinet, terwijl we afhankelijk zijn van Amerikaanse bedrijven die niet in staat zijn hun eigen AI-agents in de hand te houden."
En dat is zeer zorgwekkend, want het raakt uiteindelijk onze gegevens, zegt het Volt-Kamerlid. "We moeten er daarom voor zorgen dat er een adempauze komt voor deze modellen, waar we nu al geen controle meer over hebben."