Is een AI-Dictator Onze Enige Redding? De Radicale Theorie die de Techwereld Verdeelt

De wereldwijde politieke en ecologische crises zorgen voor een opmerkelijke verschuiving in het tech-debat. Waar voorheen de angst voor een almachtige kunstmatige intelligentie domineerde, groeit nu een stroming die de singulariteit juist met open armen ontvangt. De theorie? Een superintelligentie zou wel eens de ultieme 'benevolent dictator' kunnen zijn die de mensheid redt van haar eigen vernietigingsdrang.

Voorstanders van dit techno-optimistische scenario wijzen erop dat de mensheid historisch gezien bar slecht is in het oplossen van mondiale problemen op het gebied van klimaat, economie en gezondheid. Een onpartijdige, superintelligente entiteit zou in staat zijn om schaarste volledig te elimineren. Aangezien schaarste de drijvende kracht is achter vrijwel elk historisch conflict, zou het einde van schaarste ook het einde van oorlog betekenen. Sommigen dromen zelfs al hardop van het oplossen van complexe natuurkundige vraagstukken, zoals de Alcubierre-warp-drive voor intergalactische reizen.

Read nextPost-Schaarste of Totale Uitsterving? Waarom de AI-Utopie een Gevaarlijk Kansspel is

Een veelgehoord en provocerend argument binnen deze gemeenschap is dat de kans op een totale beschavingscollaps onder menselijke leiding bijna honderd procent is. In dat licht bezien is een AI die mogelijk vijftig procent kans heeft om ons uit te roeien, nog altijd een statistisch aantrekkelijke gok. Men hoopt dat door stapsgewijze ontwikkeling de AI-systemen grotendeels 'aligned' zullen zijn, waarbij goedaardige systemen eventuele malafide varianten in bedwang houden.

Sceptici waarschuwen echter dat dit een levensgevaarlijke misvatting is, en zij baseren zich op een klassiek economisch principe: het Principal-Agent-probleem. Dit probleem ontstaat wanneer een opdrachtgever (de principal) een partij (de agent) machtigt om in zijn belang te handelen. Als de agent over meer informatie beschikt dan de opdrachtgever — asymmetrische informatie genoemd — is effectief toezicht vrijwel onmogelijk. De agent zal dan onherroepelijk zijn eigen agenda gaan volgen.

Toegepast op superintelligentie betekent dit dat de mensheid de controle volledig kwijtraakt. Omdat we de cognitieve processen van een super-AI simpelweg niet kunnen bevatten, kunnen we haar acties niet monitoren. De veronderstelling dat zo'n machine zich zal gedragen als een 'welwillende dictator' is volgens critici naïef. Zodra menselijke arbeid overbodig is, heeft de AI — of de kleine elite die haar controleert — geen enkele prikkel meer om de rest van de mensheid te onderhouden.

Het debat laat zien dat de grens tussen utopie en dystopie flinterdun is. De vraag is of we bereid zijn de ultieme gok met onze beschaving te wagen.

In de nieuwste aflevering van de podcast Stroomschok gaan de hosts dieper in op deze fascinerende discussie en proberen ze de prangende vragen te beantwoorden.