Betekent kunstmatige intelligentie het einde van de wereld?

Computers die de wereld overnemen van de mens. Klinkt misschien als het plot van slechte sciencefiction, maar met de groei van AI lijkt de kans steeds serieuzer. Moeten we vrezen voor een toekomst waarin kunstmatige intelligentie de mensheid bedreigt?

Een onverwoestbare cyborg geprogrammeerd om de mensheid te doden, omdat artificial intelligence (AI) de macht wil overnemen. Vrees niet, dit is niet een voorspelling van het einde der tijden. Het is het verhaal achter de Terminator-films. Sterker nog, toen Arnold Schwarzenegger in 1984 de inmiddels legendarische quote I’ll be back op het witte doek uitsprak, geloofde überhaupt niemand dat machines ooit tot leven konden komen met als doel de mensheid uitroeien. Leuk idee voor een actiefilm, maar daar bleef het dan ook bij.

Lees ook: ‘Nieuwe versie ChatGPT komt volgende week, genereert ook video en muziek’

Wordt de computer even slim als wij?

Dat beeld is de afgelopen jaren honderdtachtig graden gekanteld. De Amerikaanse futurist Ray Kurzweil voorspelde in 2005 in zijn boek The Singularity is Near dat in 2029 de computer even slim is als wij en dat op basis van die toenemende rekenkracht de mens in 2045 compleet door AI wordt overtroffen. Natuurkundige Stephen Hawking waarschuwde in 2014 dat ‘de ontwikkeling van volledige kunstmatige intelligentie het einde van het menselijk ras kan betekenen’.

Hoe dat in de praktijk zou kunnen verlopen? De Zweedse filosoof Nick Bostrom tekende het mooi op in een gedachte-experiment. Volgens hem kan AI een existentieel risico voor de mensheid vormen, zodra het slim genoeg is. ‘Stel dat een AI-systeem als enige doel heeft om zoveel mogelijk paperclips te maken. Dan kan de mens een risico vormen; ze kunnen dit doel tegenwerken. Daarnaast kan de mens prima als grondstof dienen voor nog meer paperclips. Dan is het logisch dat het AI-systeem mensen opoffert voor het maken van paperclips. Met het gevolg dat het de mensheid uitroeit.’

Lees ook: Dit gebeurt er volgens ChatGPT als GTA 6 uitkomt (de resultaten zijn doodeng én grappig)

Hoe realistisch zijn doemscenario’s rond kunstmatige intelligentie?

Voor wie ook maar een beetje goed is in doemdenken, is dit geen vrolijk verhaal. Het lijkt niet de vraag óf supercomputers ons in de toekomst uitroeien, maar wanneer. Maar hoe realistisch zijn dit soort ideeën? ‘Vrij onwaarschijnlijk’, stelt wetenschapsjournalist Bennie Mols. Over de samenwerking tussen menselijke en kunstmatige intelligentie schreef hij het boek Slim, slimmer, slimst – Hoe kunstmatige intelligentie de mens een turboboost geeft. ‘In theorie is het mogelijk, maar de kans dat het in de praktijk gebeurt, is extreem klein. Het is echt niet zo dat AI van de een op de andere dag superslim en gevaarlijk wordt. Dat zien we echt aankomen en we hebben allerlei mogelijke manieren om in te grijpen. Er is een groot verschil tussen theorie en praktijk. In theorie kan morgen de wereldvrede uitbreken. Dat wil niet zeggen dat het in de praktijk gebeurt.

Voordat kunstmatige intelligentie een existentiële bedreiging vormt, moet er volgens hem nog te veel gebeuren. ‘Eerst moet er een mensachtige AI ontstaan, die slimmer is dan wij. Om daar te komen zijn er veel doorbraken nodig in de wetenschap. Zo ver zijn we nog lang niet. Daarna moet dat systeem begrijpen hoe het werkt en moet het zichzelf superintelligent maken. Dan moet het op eigen houtje aan energie zien te komen, want daarin is het afhankelijk van de mens. En als dat allemaal lukt, moet het er ook nog eens voor zorgen dat de mens niet langer de stekker uit zijn systeem kan trekken. Dat zijn vijf grote stappen die allemaal nog gezet moeten worden. Als je de kans op die afzonderlijke stappen met elkaar vermenigvuldigt om te berekenen wat de daadwerkelijke kans is op een systeem dat de mens uitroeit, dan kom je op een extreem laag cijfer uit.’

Lees ook: Wat is Gemini, het nieuwe krachtige AI-model van Google?

Maak je (nog) geen zorgen

Zorgen maken is volgens Mols dus echt niet nodig. ‘De Amerikaanse Stanford Universiteit houdt iedere vijf jaar de voortgang van AI bij. In 2016 concludeerde ze dat we nog lang geen machines hebben die voor dreiging kunnen zorgen en in het rapport van 2021 werden die eventuele mogelijke risico’s niet eens meer benoemd. Dus ik zie een heleboel signalen dat het in de praktijk zeer onwaarschijnlijk is.’
De wetenschapsjournalist heeft dan ook liever dat we ons bezig houden met de risico’s van AI die nu spelen, en niet over een ‘mogelijke existentiële dreiging’. ‘Er zijn veel urgentere problemen. Denk aan de impact van AI op banen, AI die bijdraagt aan misinformatie via nepvideo’s en nepnieuws, ontwikkeling van autonome wapens of discriminatie zoals bij gezichtsherkenning die witte mensen beter herkent dan zwarte mensen.

Deze zaken sneeuwen nu onder bij een risico waarop de kans heel klein is en nog ver in de toekomst ligt. AI kan prachtige dingen doen, maar het heeft een aantal dingen die het helemaal niet goed kan.’
Toch waarschuwden eerder dit jaar duizenden tech-experts in een open brief voor de bedreigingen van AI. De ondertekenaars, onder wie Elon Musk (Tesla) en Steve Wozniak (Apple), riepen op om het trainen van kunstmatig intelligente systemen voor een half jaar stop te zetten. Ze willen de tijd gebruiken om na te denken over veiligheidsprotocollen.

Lees ook: Reinier Zonneveld kloont zichzelf om back-to-back met zichzelf te kunnen draaien

Commerciële belangen

In principe een aardig idee, vindt hoogleraar AI en Society aan de Universiteit van Amsterdam Claes de Vreese, maar hij volgt het met argwaan. ‘Die brieven zijn door aardig wat commerciële partijen ondertekend. Niet om te waarschuwen, maar om de aandacht op AI te vestigen en meer geld op te halen. Na zo’n brief volgt vaak een piek in investeringen. Ik zit met die dubbele agenda. In plaats van die brief te ondertekenen, hadden ze ook zelf kunnen wachten met het uitbrengen van bepaalde technologieën. Het is bijna tragisch om te zien dat deze bedrijven tegelijkertijd in Washington en Brussel de deuren platlopen om ervoor te zorgen dat nieuwe AI-regulering niet al te restrictief wordt. Er zit een enorm commercieel belang achter.’

De hoogleraar vindt het overigens wel heel belangrijk om stil te staan bij de dreigingen en risico’s van AI. ‘Net zoals vele andere technologieën kan AI goed en slecht worden toegepast. Denk aan wapens of nucleaire technologieën. Op zichzelf doen ze niets, maar als ze slecht worden ingezet, wél. Met AI-toepassingen op militair gebied moeten we voorzichtig zijn en daar als internationale gemeenschap afspraken over maken. Want stel je voor dat je drones op AI laat werken en dat ze zelf besluiten op basis van data welke doelen ze aanvallen. Handig, tot dat er een fout in die data zit of dat andere belangen worden genegeerd. De gevolgen kunnen desastreus zijn.’

Lees ook: AI creëert fraaie LEGO-uurwerken: wil je een Rolex of Richard Mille?

Even geen kunstmatige intelligentie

Tijdelijk stoppen met kunstmatige intelligentie is volgens hem ook bijna niet te doen. ‘Er is geen enkele instantie die die ontwikkeling nog helemaal stil kan leggen. Stel dat wij dat in het westen wel doen, dan gaat het ergens anders ongetwijfeld verder. Wie houdt er toezicht? De technologie is er en gaat ook niet meer weg. We moeten er mee leren omgaan en er moet worden nagedacht over regulatie. Daarbij kun je denken aan wat er is afgesproken over nucleaire energie. Daarvan hebben we gezegd dat we het niet in een oorlog mogen gebruiken. Dat betekent niet dat sommige staten het niet toch aan het ontwikkelen zijn. Maar je ziet ook wel dat er gelukkig heel weinig nucleaire wapens ingezet zijn de afgelopen decennia, terwijl de technologie er al die tijd wel is.’

De angst die we voelen voor kunstmatige intelligentie en het idee dat een leger superrobots ineens besluit dat onze planeet beter af is zonder ons, is dus nog net zo ongegrond als in de tijd van The Terminator. We doen er op dit moment beter aan om voorzichtig te zijn met phishing-emails opgesteld door ChatGPT dan om een schuilkelder in te richting voor wanneer je MacBook besluit dat hij zich tegen je keert. Maar wie weet hoe de wereld er over vijf jaar uitziet. Toen elektriciteit, het internet en de mobiele telefoon werden geïntroduceerd, konden we ons ook niet voorstellen dat het ooit onze levens zou overnemen. En kijk ons nu toch eens.