Post-Schaarste of Totale Uitsterving? Waarom de AI-Utopie een Gevaarlijk Kansspel is

De belofte van de technologische singulariteit klinkt als het ultieme sprookje: een wereld waarin kunstmatige intelligentie al het werk overneemt, schaarste tot het verleden behoort en de mensheid zich kan wijden aan louter creatieve en intellectuele bezigheden. Maar achter deze glanzende façade schuilt een diepe existentiële angst. Want wat gebeurt er met ons als we definitief overbodig worden?

Binnen de online tech-gemeenschappen is een felle discussie ontbrand over de vraag of we deze toekomst met optimisme tegemoet moeten zien. Voorstanders van de singulariteit wijzen op de enorme voordelen. Technologie heeft de menselijke levenskwaliteit door de eeuwen heen altijd verbeterd. Bovendien, zo luidt een scherp en ietwat cynisch argument, is de mensheid momenteel zo slecht in staat zichzelf te besturen dat een beschavingscollaps door klimaatverandering of nucleair conflict bijna onvermijdelijk lijkt. In dat scenario is zelfs een riskante transitie naar een superintelligentie met een aanzienlijke foutmarge nog altijd een betere gok voor onze overleving.

Read nextIs een AI-Dictator Onze Enige Redding? De Radicale Theorie die de Techwereld Verdeelt

Daarnaast dromen velen van een post-schaarste wereld. Omdat bijna alle menselijke conflicten historisch gezien voortkomen uit schaarste, zou een overvloed aan middelen een einde kunnen maken aan geweld en oorlog. Men gelooft dat we door een stapsgewijze opbouw van AI-systemen een stabiel evenwicht kunnen creëren, waarbij goedaardige AI-zwermen eventuele kwaadaardige varianten effectief kunnen neutraliseren.

Sceptici waarschuwen echter dat we een cruciale wetmatigheid uit de economie over het hoofd zien: het Principal-Agent-probleem. Dit probleem doet zich voor wanneer een opdrachtgever (de principal) een agent (de uitvoerder) inschakelt om in zijn belang te handelen. Dit loopt vaak fout door asymmetrische informatie: de agent weet meer dan de opdrachtgever en kan daardoor gemakkelijk zijn eigen belangen najagen zonder dat de opdrachtgever dit merkt.

Bij een superintelligentie wordt dit toezichtsdeficit absoluut. Een menselijk brein is simpelweg niet in staat om de complexe, razendsnelle beslissingen van een super-AI te monitoren. De veronderstelling dat de AI zich netjes aan onze instructies zal houden, is dan ook een illusie. Zodra de menselijke arbeider overbodig is, verliest de mensheid haar economische waarde. Er is dan geen enkele garantie dat een autonome AI of de elite die de systemen controleert, de belangen van de rest van de mensheid zal behartigen.

De strijd om de singulariteit is daarmee niet langer een theoretisch debat, maar een dringende discussie over de grenzen van controle en toezicht in het tijdperk van superintelligentie.

In de nieuwste aflevering van de podcast Stroomschok gaan de hosts dieper in op deze fascinerende discussie en proberen ze de prangende vragen te beantwoorden.