"Dis My Dogter se Stem, Maar Sy's Nie Onthoof Nie": Die Spookagtige Nuwe Golf van AI-Stemkloon-Bedrogstrikke

Dit begin met 'n gewone telefoonoproep. Die stem aan die ander kant klink presies soos jou kind, jou huweliksmaat of jou beste vriend. Hulle is in paniek, huil, en beweer dat hulle in 'n ernstige noodgeval is en dadelik geld benodig. Maar terwyl die hartkloppings toeslaan, is die harde werklikheid dikwels baie meer sinister: die persoon wat praat, bestaan glad nie eens op daardie oomblik nie. Dit is 'n masjien.

Die vinnige vooruitgang van kunsmatige intelligensie het stemkloning binne die bereik van gewone internetgebruikers geplaas. Met so min as drie sekondes se klank van 'n openbare TikTok- of Instagram-video, kan AI-sagteware 'n identiese stemweergawe genereer. Kuberboewe gebruik nou hierdie tegnologie om familielede te bedrieg, en die finansiële sowel as emosionele skade is besig om te ontplof.

Read nextDie Strik Teen Kliklokvalle: Kan Hierdie Nuwe Platform Tegnologie-Nuus Red?

Een aanlyn kommentaar lewer 'n skokkende getuienis en noem dat 'n familielid duisende rande oorgeplaas het nadat 'n AI-kloon van hul seun se stem beweer het hy is in die buiteland in die tronk toe geseil. 'n Ander leser het opgemerk dat die gevaar nie meer net fisiese misdaad is nie, maar die totale verlies van vertroue in ons eie ore op die foon.

Maar die tegnologie word nie net deur misdadigers ingespan nie. 'n Nuwe beweging genaamd 'GriefTech' gebruik dieselfde AI-stemmodelle om mense te help om verlies te verwerk. Deur ou stemboodskappe en briewe in 'n AI te voer, kan mense nou 'n 'gesprek' voer met 'n digitale replika van 'n afgestorwe geliefde.

Sielkundiges en etici is egter diep verdeeld oor die praktyk. Een deskundige het beweer dat sulke avatars 'n tydelike troos kan bied vir mense wat sukkel met skielike verlies. Nog 'n navorser het egter gewaarsku dat dit 'n gevaarlike 'digitale spook' skep wat verhoed dat mense ooit verwerking vind en die finale aard van die dood aanvaar.

Your brand, right here.Reach story-obsessed listeners in 45+ languages → advertise on Avonetics

Daar is ook die kwessie van digitale toestemming. Het ons die reg om 'n familielid se stem na hul dood te kloon as hulle nooit hul toestemming gegee het nie? Soos wetgewers sukkel om by te hou met die tegnologie, beveel kubersekuriteitskenners aan dat families 'n geheime 'veiligheidswoord' afspreek om te gebruik wanneer iemand dringend oor die foon om finansiële hulp vra.

Die grens tussen die werklike en die kunsmatige het nog nooit so dun gelyk nie, en die debat oor waar die menslike identiteit eindig, het pas begin.

In die nuutste episode van Toekomsstroom takel die aanbieders hierdie etiese nagmerrie en verken hulle hoe ons ons gesinne en ons verstand in die AI-era kan beskerm.