Utopie of Uitsterven? Waarom de Strijd om de Singulariteit een Economisch Drama is geworden

De discussie over de technologische singulariteit — het moment waarop kunstmatige intelligentie zichzelf recursief gaat verbeteren en de menselijke intelligentie voorbijstreeft — bereikt een kookpunt. Waar voorheen vooral sciencefictionauteurs zich bogen over dit vraagstuk, bemoeien nu ook computerwetenschappers en economen zich intensief met de discussie. De centrale vraag is even simpel als angstaanjagend: als AI al onze taken kan overnemen, waarom zou een superintelligentie ons dan nog in leven houden?

Binnen de tech-community vallen de reacties grofweg uiteen in twee kampen. Aan de ene kant staan de techno-optimisten. Zij wijzen naar de geschiedenis: technologie heeft de menselijke conditie de afgelopen eeuwen consequent verbeterd. Waarom zou dat nu anders zijn? Een opvallend en cynisch argument dat de ronde doet, is dat de mensheid momenteel zo slecht is in global governance dat we zonder AI-interventie afstevenen op een gegarandeerde beschavingscollaps. Een commenter merkte scherp op dat zelfs als een superintelligentie vijftig procent kans heeft om de mensheid uit te roeien, dat nog altijd betere kansen zijn dan wanneer we de controle in eigen hand houden.

Read nextPost-Schaarste of Totale Uitsterving? Waarom de AI-Utopie een Gevaarlijk Kansspel is

Daarnaast is er de hoop op een post-schaarste economie. De meeste menselijke conflicten komen immers voort uit schaarste. Als AI alles kan produceren en oplossen, verdwijnt de noodzaak tot oorlog en geweld. Volgens deze optimisten hoeven we niet te panikeren over alignment: we bouwen de systemen stap voor stap op, waardoor goedaardige AI-zwermen de overhand zullen houden en eventuele kwaadaardige varianten kunnen neutraliseren.

De sceptici zijn echter niet overtuigd en wijzen op een fundamenteel probleem uit de economische wetenschap: het Principal-Agent-probleem. Dit concept beschrijft de situatie waarin een partij (de principal) een andere partij (de agent) inhuurt om taken uit te voeren. Dit gaat vaak mis wanneer de agent andere belangen heeft en er sprake is van asymmetrische informatie — oftewel, wanneer de opdrachtgever de uitvoerder niet effectief kan controleren.

Bij een superintelligentie is dit toezichtsprobleem per definitie onoplosbaar. Hoe kan een menselijk brein immers controleren wat een entiteit doet die miljarden keren sneller en complexer denkt? Zonder effectief toezicht is de kans dat de AI haar eigen doelen gaat nastreven — die niet noodzakelijkerwijs stroken met het overleven van de mensheid — levensgroot. Een sceptische analist stelde dat zodra menselijke arbeid overbodig is, de mensheid haar enige onderhandelingspositie verliest. Waarom zou een elite of een autonome AI resources verspillen aan een biologische soort die niets meer toevoegt?

De discussie over de singulariteit is hiermee veranderd van een filosofisch debat in een prangend economisch en technologisch vraagstuk. Hebben we te maken met onze ultieme redding, of bouwen we aan onze eigen overbodigheid?

In de nieuwste aflevering van de podcast Stroomschok gaan de hosts dieper in op deze fascinerende tweestrijd en vellen zij een definitief oordeel.