PANIKA NA DIGITALNIM KARTAMA: Google povukao AI alat jer su ljudi počeli lažirati ratne zone na stvarnim adresama!

Zamislite da otvorite aplikaciju za karte kako biste provjerili rutu do doma, a na ekranu vas dočeka vaša vlastita ulica pretvorena u ruševine zapaljene u katastrofalnom požaru. Upravo se takav scenarij počeo masovno događati kada je u Google Earth ugrađen napredni generator slika pokretan umjetnom inteligencijom pod nazivom Nano Banana 2.

Funkcija je na papiru trebala poslužiti arhitektima, urbanistima i povjesničarima za vizualizaciju novih zgrada ili rekonstrukciju davno zaboravljenih spomenika. No, u praksi, korisnici su u samo nekoliko klikova počeli stvarati zastrašujuće uvjerljive prizore prirodnih katastrofa i ratnih sukoba usred mirnih gradskih četvrti.

Read nextKrvoproliće u kuhinji: Zaručnica pustila ljestve, zaručnik ozlijeđen! Je li to bila namjera ili čista nepažnja?

Glavni problem leži u činjenici da snimke zaslona napravljene unutar alata zadržavaju prepoznatljivi vizualni identitet službene karte. Kada se takva slika izreže i pošalje u aplikacije za razmjenu poruka, djeluje kao službeno potvrđena vijest s terena prije nego što netko uopće stigne provjeriti činjenice.

Iako je tehnološki div istaknuo kako su sve generirane slike u sebi sadržavale nevidljivi sigurnosni vodeni žig SynthID te da izvorna podloga karte nije izmijenjena, to je slab utjeha za prosječnog promatrača. U trenutku kada se snimka proširi društvenim mrežama, rijetko tko provjerava pozadinske kodove datoteke.

Reakcije stručne javnosti bile su brze i žestoke. Jedan komentator navodi kako je neshvatljivo da je netko ugradnju AI generatora u najpouzdaniji kartografski sustav na svijetu smatrao dobrom idejom. Drugi analitičar ističe da Google Earth nije igračka, već ključni alat od vitalnog značaja za geolociranje i zračnu plovidbu, zbog čega mora ostati isključivo utemeljen na dokazima i stvarnim podacima.

Your brand, right here.Reach story-obsessed listeners in 45+ languages → advertise on Avonetics

S druge strane, pojedini tehnološki stručnjaci tvrde da je borba protiv lažnih slika u potpunosti promašena ako se oslanjamo samo na vizualni doživljaj. Oni smatraju da bi rješenje trebalo biti uuvođenju digitalnih omotnica i kriptografskih potpisa za svaku stvarnu snimku, čime bi se jasnije razdvojila simulacija od dokazane činjenice.

Nakon vala kritika, sporni AI alat ekspresno je povučen s platforme, ostavljajući iza sebe ključno pitanje o budućnosti digitalnog povjerenja. Kako spriječiti da simulacije unište našu percepciju stvarnosti i jesu li vizualni dokazi zauvijek izgubili svoj autoritet?

Naši voditelji u novoj epizodi emisije Kvantni Skok detaljno su suočili stavove o ovoj temi i donijeli svoju konačnu presudu.