Válka na Marsu bez signálu a desetiprocentní šance na konec světa: Vědci přiznávají ztrátu kontroly

Představte si situaci na oběžné dráze Marsu. Válečná loď Huntsville zachytí nepřátelský pohyb čínských sil. Velitel vydává rozkaz k manévru a zahájení palby, ale zpráva do velitelského centra na Zemi dorazí až za pět minut. Dalších pět minut zabere cesta odpovědi zpět. Vítězství nebo globální katastrofa závisí na jediném člověku, který je v daný moment zcela odříznut od světa.

Tento scénář z moderní science fiction otevírá hlubší otázku o tom, jak lidstvo zvládá situace, kdy ztrácí možnost řízení v reálném čase. Historie nabízí jasné paralely. Námořní kapitáni v devatenáctém století museli na vzdálených stanicích rozhodovat o osudech celých impérií bez možnosti konzultace s vládami. Bitva u New Orleans byla vyhrána týdny po podepsání mírové smlouvy, protože zpráva o míru neudělala cestu přes oceán včas.

Read nextSami na Marsu a tváří v tvář superinteligenci: Kdo drží spoušť, když selže spojení?

Zatímco ve vesmírném prostoru hraje hlavní roli fyzikální limit rychlosti světla, v našem světě čelíme podobnému problému u vývoje umělé inteligence. Tento týden otřásla technologickou scénou rezignace výzkumníka Jacoba Coxona z přední laboratoře Anthropic. Coxon odešel, aby mohl veřejně varovat, že vývojářské společnosti hazardují s lidskými životy a bezohledně závodí v vytvoření superinteligence.

Reakce na jeho odchod byla ještě šokující. Evan Hubinger, vedoucí výzkumu bezpečnosti v téže firmě, veřejně potvrdil, že vědci opravdu věří v riziko vyhlazení lidstva. Šanci na katastrofální scénář v tomto desetiletí odhadl na více než deset procent a přiznal, že firma nemá funkční plán na bezpečné usměrnění takto mocného systému.

Mezi pozorovateli se okamžitě rozhořela ostrá diskuse. Jeden z komentátorů poznamenal, že apokalyptické předpovědi mohou být pouze propracovaným marketingovým tahem, který má z dnešních algoritmů vytvořit iluzi božské síly a přilákat další investory. Další však oponoval, že pokud samotný bezpečnostní tým přiznává neschopnost zaručit bezpečnost, jde o reálné varování před technologií, která předbíhá naše schopnosti jí rozumět.

Zda jde o marketingový kalkul, nebo o varovný výkřik lidí u kormidla, zůstává otevřené. Moderátoři pořadu Zítřek Dnes se v nejnovější epizodě podcastu dívají tomuto tématu hlouběji na kloub.