Verliezen we de controle over AI? Dit kunnen we eraan doen

De onrust ontstond na het vertrek van de 27-jarige Jacob Coxon bij AI-ontwikkelaar Anthropic. Hij deed dat met een bericht op X met als verontrustende boodschap: "Ze racen af op zelfverbeterende super-intelligentie en gokken daarbij met ons leven". Onder zijn X-bericht meldden zijn collega's dat er meer dan 10 procent kans is dat AI binnen de komende 10 jaar 'alle mensen kan uitroeien'. Eerder waarschuwde bekende natuurkundige Stephen Hawking daar ook al voor.

Terechte zorgen?

"Zelfs ik vind het spannend", zegt AI-expert Jarno Duursma, "dus dat zegt wel wat." "Mensen die werken bij die grote AI-bedrijven zien nu dat het wel heel snel gaat. Daar komen de grootste zorgen vandaan. Mensen zitten in een soort 'kapitalistische wurggreep'. Ze kunnen daar niet aan ontsnappen en die systemen worden steeds slimmer. Daar hebben ze steeds minder grip op."

Volgens Duursma zijn de zorgen terecht. "Het woord 'uitroeien' vind ik wel veel te groot. Dat is gewoon een beetje bangmakerij", zegt hij. "Maar ik denk ook dat er zorgen zijn over systemen die we gewoon niet zo goed meer in de hand hebben, omdat ze onderweg naar een doel, creatieve, maar daardoor misschien ook gevaarlijke dingen doen waar we zelf nooit aan gedacht hadden."

Gevaren

AI kan verschillende gevaren met zich meebrengen, zegt Duursma. "Dit soort systemen zijn heel goed in cyberhacking. Dus het aanvallen van bedrijven, van netwerken. Dat is eigenlijk een van de grootste gevaren die op dit moment dreigt, waar je je wel wat zorgen om moet maken. Of dat mensen die er niet zoveel verstand van hebben AI gaan inzetten om dingen plat te leggen, om te hacken, gegevens te stelen of dingen kapot te maken."

Ook noemt hij 'biowapens', waarbij bijvoorbeeld een dodelijk virus kan worden gemaakt met behulp van AI. "En alles wat daartussen ligt, wat we dus niet goed kunnen overzien."

Er bestaat wel regulering, zegt Duursma. "Europa heeft wetgeving om hele gevaarlijke AI-systemen af te remmen, en ik geloof ook dat sommige staten in Amerika daar steeds strenger in worden." Maar, voegt hij toe: "Ik denk niet dat het genoeg is. Ik zou het liefst pleiten voor een soort internationaal 'atoomagentschap', zoals we dat onderling geregeld hebben bij het strafhof, maar dan op het gebied van AI."

Concurrentie

Volgens Duursma is AI moeilijk af te remmen door onderlinge concurrentie. "Landen als Amerika en China willen altijd hun concurrent voor zijn. AI is niet alleen economisch krachtig, maar ook geopolitiek en militair. Het is een ongelooflijk krachtig wapen, zowel letterlijk als figuurlijk. Dus geen enkel land of bedrijf gaat op zijn handen zitten en niks doen. Ze zijn te bang voor de ander."

Landen en bedrijven hebben te maken met een ingewikkelde situatie zegt Duursma. "Ze willen de winnaar zijn, hun winst maximaliseren. Ze zijn tegelijkertijd ook bang dat de andere bedrijven er niet goed mee omgaan. Dat wil je niet, dat jouw vijand, zoals Amerika en China elkaar zien, dat die dat in handen krijgt."

Wat wij zelf kunnen doen

"Wij als burger kunnen natuurlijk wel iets doen, maar de grootste verantwoordelijkheid ligt bij de techbedrijven en de politiek", zegt Duursma. Toch geeft hij wel een advies: "Lees je in in wat er gebeurt. Ga vooral niet aan de zijlijn staan en blijf erover in gesprek. Want deze ontwikkeling is te belangrijk om aan techbedrijven en politici over te laten. Dit moeten we met z'n allen in goede banen leiden en we hebben echt wel gedeeltelijk zelf de regie."

"Wat je bijvoorbeeld kunt doen, is geen Amerikaanse tech gebruiken, maar Europese tech, zoals Mistral in Frankrijk, dat valt onder Europese wetgeving. Dan sta je iets meer aan de 'goede kant'", zegt hij. Tot slot geeft hij nog twee praktische tips. "Geef niet al je privacy gevoelige data aan de Amerikaanse techbedrijven. En ten tweede, doe niet al je activiteiten bij één AI-bedrijf want dan wordt dat bedrijf alleen maar machtiger."