Eurocommissaris Margrethe Vestager werkt aan regelgeving voor kunstmatige intelligentie: 'Nog niemand kan de risico's en impact echt overzien'

Kan de macht van grote techbedrijven en kunstmatige intelligentie nog aan banden worden gelegd? Experts maken zich er zorgen over. Volgens Eurcommissaris Margrethe Vestager is het wel mogelijk.

'De drakendoder' is de bijnaam van Margrethe Vestager. Zij is vicevoorzitter en Eurocommissaris voor digitale zaken en mededinging van de Europese Commissie. Van alle Europese bestuurders is zij het meest bekend én berucht.

Pauze voor AI

Hoe dat komt? Als zo'n beetje de enige ter wereld ging zij de confrontatie aan met grote techbedrijven Apple, Google en Amazon. Op grond van overtredingen van Europese mededingingsregels en belastingrecht legde ze miljarden-boetes op. En ze wil graag dat de Europese Commissie met nieuwe regels komt voor kunstmatige intelligentie.

Want daar is nogal wat om te doen. De razendsnelle ontwikkelingen rondom AI bezorgen wetenschappers en leiders uit de techsector de nodige kopzorgen. 1.300 van hen stelden dit jaar zelfs een brief op waarin ze vroegen om een 'pauze' totdat alle risico's van AI in kaart zijn gebracht.

Wet- en regelgeving

Vestager is geen enorme fan van zo'n pauze. "Hoe moet je zoiets handhaven? En kan je voorkomen dat iemand ergens in een kelder aan een nieuwe code werkt? Ik denk het niet", zegt ze. De brief geeft volgens haar wel aan dat ook grote techbedrijven begrijpen dat er betere regels moeten komen. Die zijn namelijk nog nergens.

Europa is op dit moment de enige grote wetgever die een speciale wet voorbereidt voor kunstmatige intelligentie: de zogenoemde 'AI-act'. Omdat Vestager zich daar tegenaan bemoeit, wordt ze door sommigen gezien als 'de enige die AI nog kan stoppen'. Volgens de Eurocommissaris is dat 'klinkklare onzin'.

Gedragscodes

"De risico's en de impact van AI kan nog niemand overzien. Het klinkt heel vroom van techbedrijven dat ze om regelgeving vragen, maar het zal zeker niet alleen van bovenaf gereguleerd kunnen worden." Vestager vertelt dat de inspanningen van de Europese Commissie nu gericht zijn op twee zaken. Allereerst een fase van grondige, bindende en dwingende spelregels, die nog enige tijd in beslag zal nemen.

Ten tweede een uitbreiding van de bestaande regels op het gebied van privacy. En ook op het gebied van auteursrecht, in de vorm van een nieuwe Digital Services Act. "Daarnaast zal de EU voor het oplossen van urgente kwesties ook om oplossingen vragen aan de sector zelf om met voorlopige gedragscodes en aanbevelingen te komen voor het beperken van risico's die kleven aan de nieuwe AI-tools", vertelt Vestager.

'Risico's zijn beheersbaar'

En wat zijn daar dan de risico's van? Aardig wat mensen zijn bang dat computersystemen slimmer worden dan de mensen die ze hebben gemaakt. Daarbij denken ze aan 'horrorscenario's', zoals in sciencefiction-films waar robots mensen uitroeien. Volgens Vestager is dat zogenaamde 'existentiële risico' vooral theoretisch.

"Ik denk dat de risico's beheersbaar zijn. Ik ben er geen voorstander van om nieuwe technologie te verbieden of tegen te houden", zegt ze. "AI is niet goed of slecht. Het is een enorm krachtig instrument dat ook voor nuttige zaken ingezet kan worden, zoals het voorkomen van een klimaatramp."

Redelijk optimistisch

De Eurocommissaris maakt zich meer zorgen over het feit dat de nieuwe technologie sneller dan ooit toegankelijk is gemaakt voor het grote publiek. Veel experts noemen het onverantwoord om AI als een product op de markt te brengen, omdat makers zelf ook nog niet weten wat de risico's zijn. In die omstandigheden zou je een medicijn ook niet verkopen, zeggen zij.

En daarnaast waarschuwen experts dat overheden ook mijlenver achterlopen als het aankomt op kennis op kunstmatige intelligentie. Maar Vestager is daar nog redelijk optimistisch over: "We zagen zoiets ook bij pesticiden. Dat leek een uitkomst voor landbouw, totdat we erachter kwamen dat het onze gezondheid en ons ecosysteem beschadigde. Toen zag ook iedereen dat er regels moesten worden gemaakt door overheden."

Bestrijden van desinformatie

Maar of dat ook zo werkt bij een complexe technologie als AI, wordt door experts betwijfeld. Daarnaast is er ook nog angst voor bad actors, criminelen die de technologie kunnen inzetten om op veel grotere schaal mensen op te lichten, haat te zaaien en andere schade aan te richten.

Vestager ziet vooral een grote bedreiging in mensen die politieke onrust willen veroorzaken met behulp van desinformatie: "Daarom roepen wij nu in de Digital Services Act de grote platforms al op om desinformatie te bestrijden." Niemand heeft daar echt iets tegen, maar de commissaris krijgt wel regelmatig de kritiek dat het een moeilijke zaak zou zijn om te bepalen wat wel of niet desinformatie is.

Bedrijven willen niks vrijgeven

Grote techbedrijven als Google zeggen dan ook dat zij de werking van hun algoritmen niet vrij kunnen geven om desinformatie tegen te houden, omdat dat de concurrentie zou helpen. Ook biedt het kansen om de zoekmachine te manipuleren.

Vestager zegt daarover: "Dat is ook de reden dat wij een Europees Expertise Centrum in het leven roepen waar mensen met kennis van zaken software in vertrouwelijkheid kunnen onderzoeken. Techbedrijven kunnen dan meer transparantie bieden, zonder dat al hun geheimen op straat liggen."