Světelné zpoždění a mrazivé přiznání vědců: Když vývoj předběhne bezpečnost

Vesmírný konflikt na Marsu přináší taktickou výzvu, kterou lidstvo zná z vlastní historie. Když velitel americké lodi zahájí palbu na čínské jednotky, zpráva poletí na Zemi pět minut. Odpověď dorazí nejdříve za dalších pět minut. V tomto časovém okně musí všichni aktéři jednat bez možnosti konzultace s vrchním velením.

Tento fenomén světelného zpoždění ukazuje, jak fyzikální zákony vracejí moderní technologii do éry devatenáctého století. Tehdejší námořní kapitáni na Dálném východě museli činit osudová rozhodnutí zcela odříznuti od domova. Bitva u New Orleans představuje historický pomník této komunikativní izolace, když proběhla týdny po podepsání mírové smlouvy v Evropě.

Read nextSami na Marsu a tváří v tvář superinteligenci: Kdo drží spoušť, když selže spojení?

Zatímco ve vesmíru tvoří bariéru vzdálenost, v laboratořích umělé inteligence tvoří bariéru rychlost vývoje. Rezignace výzkumníka Jacoba Coxona z firmy Anthropic otevřela veřejnou debatu o tom, zda vývojářské společnosti neřízeně nehazardují s budoucností lidstva při závodě o superinteligenci.

Děsivý rozměr celému příběhu dodalo potvrdzující vyjádření šéfů bezpečnostního výzkumu Evana Hubingera a Samuela Markse. Ti veřejně přiznali, že pravděpodobnost vyhlazení lidstva umělou inteligencí odhadují na více než deset procent a že společnost postrádá plán na její bezpečné usměrnění.

V reakcích veřejnosti se vyprofilovaly dva zásadní pohledy. Jeden z diskutujících poznamenal, že varování před apokalypsou může být promyšlenou marketingovou taktikou, jak vyvolat iluzi nepředstavitelné síly vyvíjených produktů. Druhý hlas však zdůraznil, že pokud samotný bezpečnostní tým oficiálně deklaruje absenci kontrolních mechanismů, jde o reálný poplach.

Tématu ztráty kontroly nad technologiemi se detailně věnují moderátoři v nejnovější epizodě podcastu Zítřek Dnes.