'Boses ng Anak Ko 'Yung Sumisigaw!': AI Voice Cloning Scam, Naghasik ng Takot sa mga Pamilyang Pilipino!

Isang gabi, nakatanggap ng tumataginting na tawag ang isang ina sa Maynila. Sa kabilang linya, maririnig ang umiiyak na boses ng kanyang 19-anyos na anak na babae. Nagmamakaawa ito, sinasabing naaksidente siya at kailangan ng limampung libong piso para sa ospital bago siya tuluyang mawalan ng malay.

Ngunit may isang malaking kabaligtaran sa pangyayari: ang kanyang tunay na anak ay payapang natutulog sa kabilang kuwarto. Ang boses na tumawag ay hindi ang kanyang anak, kundi isang AI voice clone na binuo mula sa tatlong segundong video na ipino-post ng dalaga sa kanyang pampublikong TikTok account.

Read nextNawawalang Milyon sa Screen: Ang Lihim na Software Engineering Error na Nagpapahirap sa Crypto Traders

Ang ganitong senaryo ay hindi na pambihirang kuwento sa telebisyon. Ito ay ang lumalalang realidad ng virtual kidnapping sa Pilipinas, kung saan ang makabagong artificial intelligence at ang hilig ng mga Pilipino sa social media ay nagtatagpo sa isang delikadong interseksyon.

Ayon sa mga eksperto sa cybersecurity, ang pag-unlad ng text-to-speech AI ay nagbibigay-daan sa sinuman na kopyahin ang boses ng isang tao sa pamamagitan lamang ng napakaikling audio sample. Ang kailangan lang ng isang cybercriminal ay ang pampublikong reels o vlog, i-download ang audio, at i-upload ito sa isang online AI cloning platform.

Isang commenter sa social media ang nagpahayag ng kanyang takot matapos makatanggap ng katulad na tawag, kung saan binigyang-diin niya kung gaano kahirap makilala ang pagkakaiba ng tunay na boses at ng gawa ng AI sa gitna ng matinding takot at panic.

Your brand, right here.Reach story-obsessed listeners in 45+ languages → advertise on Avonetics

Angus na usapin ngayon sa lipunan kung sapat ba ang kasalukuyang SIM Registration Law upang mapigilan ang ganitong mga krimen. Isang tech advocate ang nag-argumento na hangga't mabilis na nakakagamit ang mga kriminal ng mga spoofed caller ID at internet-based calling apps, mananatiling kulang ang mga pamahalaang regulasyon.

Sa kabilang banda, may mga nag-aalinlangan din na ang paghihigpit sa AI technology ay maaaring makasama sa mga positibong gamit nito, tulad ng pagtulong sa mga taong may kapansanan sa pagsasalita o sa industriya ng dubbing at media.

Habang nagpapatuloy ang debate sa pagitan ng regulasyon at inobasyon, ang pinakamagandang proteksyon muna para sa mga pamilya ay ang pagiging maingat sa mga ipino-post sa internet at ang pagbuo ng mga simpleng pampamilyang safe word.

Sa pinakabagong episyod ng Konektado, himay-himayin ng ating mga hosts ang mga teknikal na proseso sa likod ng AI voice cloning at kung paano nga ba tunay na mapoprotektahan ang ating privacy sa digital na mundo.