Sami na Marsu a tváří v tvář superinteligenci: Kdo drží spoušť, když selže spojení?

Představte si, že velíte válečné lodi na oběžné dráze Marsu a musíte reagovat na provokaci rivala. Vydáte rozkaz k palbě, ale velitelství na Zemi se o vašem kroku dozví až za pět minut. Než dorazí jejich odpovídající instrukce, uběhne deset minut. V tomto časovém vakuu leží osud lidstva na ramenech jediného důstojníka.

Tento mrazivý taktický prvek z moderní vědeckofantastické literatury připomíná historická období, kdy námořní kapitáni na vzdálených oceánech museli jednat bez pokynů z domova. Bitva u New Orleans se odehrála týdny po uzavření mírové smlouvy jen proto, že informace cestovala přes Atlantik příliš pomalu.

Read nextVálka na Marsu bez signálu a desetiprocentní šance na konec světa: Vědci přiznávají ztrátu kontroly

Dnes však čelíme ještě záludnější formě ztráty kontroly, která se neodehrává ve vesmírném prostoru, ale v křemíkových čipech. Tento týden rezignoval klíčový výzkumník Jacob Coxon z laboratoře Anthropic s varováním, že vývojářské firmy se nekontrolovatelně řítí k vytvoření sebezdokonalující se superinteligence.

Situace nabrala na vážnosti, když jeho obavy veřejně potvrdili přední představitelé bezpečnostního výzkumu téže společnosti. Evan Hubinger i Samuel Marks přiznali, že pravděpodobnost katastrofického scenáře pro lidstvo odhadují na více než deset procent a že společnost v současnosti nemá funkční plán na zarovnání superinteligence.

V veřejné diskusi se okamžitě vyhranily dva názory. Jeden komentátor poznamenal, že varování před apokalypsou slouží vývojářům jako dokonalý marketing, který dělá z jejich produktů v očích veřejnosti všemocné entity. Druhý diskutující však oponoval, že veřejné přiznání vlastní bezmocnosti ze strany bezpečnostních expertů nelze považovat za reklamu, ale za vážné varování před technologií, která se vymkla z rukou.

Kde leží pravda mezi strategickou nadsázkou a reálnou hrozbou? Moderátoři pořadu Zítřek Dnes tyto otázky detailně rozebírají v nové epizodě.