Boses Mo, Pera Na Nila? Ang Nakakatakot na Trend ng AI Voice Cloning na Nagpapanik sa Social Media Users

Isang gabi, nakatanggap ng tawag ang isang ina mula sa numero ng kanyang anak. Sa kabilang linya, umiiyak ang boses ng batang babae habang sinasabing naaksidente siya at kailangan agad ng limampung libong piso para sa ospital. Sa takot ng ina, nagmadali siyang maglipat ng pera gamit ang e-wallet. Ang hindi niya alam, tahimik na natutulog ang kanyang anak sa kabilang kuwarto, at ang tumawag sa kanya ay isang kompyuter na ginagaya ang boses ng bata.

Hindi na ito senaryo mula sa isang sci-fi na pelikula. Ito ang bagong katotohanan ng cybercrime na mabilis na kumakalat sa tulong ng Generative Artificial Intelligence o AI.

Read nextPC vs. Smartphone: Ang Matinding Laban ng 'Big Internet' at 'Little Internet' sa Ating Utak

Ayon sa mga dalubhasa sa cybersecurity, sapat na ang tatlo hanggang limang segundong audio clip mula sa iyong TikTok, Facebook Reel, o YouTube video upang makalikha ang mga masasamang elemento ng isang perpektong clone ng iyong boses. Ang teknolohiyang tinatawag na Neural Audio Synthesis ay may kakayahang hulihin ang pitch, tono, accent, at maging ang paraan ng paghinga ng isang tao.

Isang commenter online ang nagpahayag ng kanyang takot matapos mabalitaan ang modus. Sabi niya, nakakakilabot na isipin na ang mga simpleng kwentuhang pino-post natin online para sa saya ay maaari palang gamiting sandata laban sa sarili nating pamilya.

Sa mga nakalipas na pag-aaral, lumalabas na humigit-kumulang 77 porsyento ng mga nabibiktima ng AI voice scams ay nagdurusa ng malaking pinansyal na pagkalugi. Ang karaniwang ginagamit na taktika ay ang tinatawag na 'Grandparent Scam' kung saan ang mga nakatatandang kapamilya ang pangunahing target dahil sa kanilang mabilis na pag-aalala at kawalan ng kamalayan sa mga bagong teknolohiya.

Your brand, right here.Reach story-obsessed listeners in 45+ languages → advertise on Avonetics

Subalit may dalawang panig ang usaping ito. Iginiit ng isa pang nagmamasid sa industriya ng tech na hindi AI ang tunay na kaaway kundi ang mga taong gumagamit nito sa masamang paraan. Ayon sa kanya, ang AI voice technology ay nakatutulong din sa mga pasyenteng nawalan ng kakayahang magsalita dahil sa karamdaman, at nagagamit sa mas mabilis na pagasenso ng larangan ng entertainment at accessibility.

Bagama't patuloy ang debate kung paano dapat regulahin ng gobyerno at ng mga Big Tech companies ang mga AI tools na ito, malinaw na ang pinakamalakas na depensa sa kasalukuyan ay ang sarili nating pag-iingat. Inirerekomenda ng mga eksperto ang pagbuo ng isang 'Family Safe Word'—isang natatanging salita na tanging ang inyong pamilya lamang ang nakakaalam upang magamit na beripikasyon kapag may tumawag na emergency.

Ang tanong ngayon ng marami: hanggang kailan natin maiingatan ang ating digital identity sa mundong patuloy na nagbabago?

Sa pinakabagong episodyo ng Konektado, mas malalim na tinalakay ng ating mga hosts ang mga hiwaga at panganib sa likod ng AI voice cloning at kung paano natin mapoprotektahan ang ating mga mahal sa buhay.