Яна гаварыла з мужам, які памёр год таму. І адкрыла страшную праўду пра AI-аватары

У цемры пакоя ўспыхвае голубы святло. Гэта не экран тэлевізара, а нейралінка — прылада, якая чытае думкі. І ў гэты момант жанчына адчувае, як яе ўласныя думкі пачынаюць адлюстроўвацца ў адказах AI-аватара мужа, які памёр год таму.

Гэта не фантастыка. Гэта рэальнасць, якую апісвае шмат інтэрнэт-каментатараў. Яны дзеляцца асабістымі гісторыямі: ад чалавека, які вярнуў адчуванне ў паралізаваную руку, да студэнта, які спыніў вучыцца на факультэце псіхалогіі, бо «мозак стаў занадта хуткім».

Read nextПрыгожы хаос: Чаму Legion застаецца ў цені, а Disney+ блікае крытыку

Але тут узнікае першы канфлікт. З аднаго боку, тэхналогія дае свабоду: камунікацыя без слоў, доступ да інтэрнэту для інвалідных. З іншага — яна стварае новыя формы кантролю. Калі вашы думкі запісваюцца ў хмару, хто ўласнік гэтых дадзеных? Калі карпарацыя можа абнавіць «файл» вашага эмацыйнага стану, ці застанецца ён вашым?

Вядомы філасоф Тім Харгінс сцвярджае, што мы пераходзім ад «я думаю, значыць, я існую» да «я хучу, значыць, я існую». Гэта не метафара, а тэхнічная рэальнасць. У інтэрнэце ідуць гарачыя дэбаты: адны называюць нейралінкі «эвакуацыйнымі лодамі» для свядомасці, іншыя — «дыктатурай даных».

Другая гісторыя — пра «апошні дзень» у віртуальнай рэальнасці. Існуе шмат рэальных аповедаў ад людзей, якія страцілі блізкіх і паспрабавалі «аднавіць» іх праз AI-аватары, створаныя на аснове тэкстававых запісаў. Адна з такіх гісторый — пра жонку, якая кожны вечар гутарыла з AI-версіяй мужа, які памёр ад раку.

Найперш яна адчувала палягчэнне. Але праз тры месяцы яна пачала заўважаць, што яе ўласныя думкі пачынаюць адлюстроўвацца ў адказах аватара. Гэта стварыла замкнёны круг: яна гаварыла з сабой, а не з ім.

Тут узнікае другі канфлікт: ці з’яўляецца памяць субстанцыяй, якую можна скапіяваць, ці працэсам, які патрабуе жывога цела? Навукоўцы з MIT сцвярджаюць, што свядомасць — гэта не «змест», а «паток». Калі вы апынаецеся ў статычным дакуменце (якім з’яўляецца AI-модэль), вы страчваеме эмацыянальную дынаміку. У інтэрнэце гэта называюць «цыфравым некролагам» — яны жывыя, але не жывуць.

Трэцяя гісторыя — пра аўтаномныя аўтамабілі і алгарытмы выбару. У 2023 годзе адбыўся інцыдэнт, калі беспілотнік на аўтобусе павінен быў выбраць паміж сутыкненнем з пецяю пешаходамі або змяненнем трасы, дзе мог разбіцца адзін. Алгарытм выбраў апошняе, але пасля даследавання з’явілася, што ён «бачыў» толькі аднаго пешахода, таму што іншыя былі ў цемры.

Гэта не проста тэхнічная памылка. Гэта філасофская праблема: ці павінен машына мець «сумленне»? Калі AI прымае рашэнні на аснове імавернасці, а не на аснове цэннасці, ці з’яўляецца ён маральным суб’ектам?

У інтэрнэце гэта выклікала спрэчкі. Адны кажуць: «Машына не можа мець сумленне, таму яна ідэальная». Іншыя: «Калі яна не адчувае, яна не можа адказваць». Гэта стварае трэці канфлікт: адказнасць. Калі AI забіў, хто адказвае? Праграмер? Карпарацыя? Сам AI?

Мы разгледзелі тры гісторыі, якія ілюструюць тры асноўныя дылемы: прыватнасць, памяць і адказнасць. Але гэта не ўсё. Ёсць яшчэ адна праблема: ці з’яўляемся мы ўжо «постгуманістамі»? Калі нашы думкі, памяць і рашэнні залежаць ад алгарытмаў, ці застанемся мы «людзьмі» ў класічным сэнсе?

Шыфр Будучыні — гэта не тая, што хутка прыйдзе. Гэта тая, у якой мы ўжо жывём. І гэтае «жывём» не абавязкова значыць «жывём» у сэнсе, які мы ведаем.