15-godišnja kći Jennifer DeStefano nazvala ju je dok je bila izvan grada na skijanju, pa DeStefano nije mislila da je bilo što neobično.

“Podignem slušalicu i čujem kćerin glas: Mama! i ona jeca”, rekla je DeStefano lokalnoj podružnici CBS-a.

Odgovarajući na kćerin glas koji je pitao: ‘Što se dogodilo?'”, njezina je kći odgovorila: “Mama, zabrljala sam”, dok je jecala i plakala”, rekla je DeStefano.

DeStefano tada počinje paničariti kada čuje muški glas u pozadini.

“Čujem muški glas kako govori: Zabaci glavu unatrag. Lezi”, rekla je DeStefano, zbunjena što se zapravo događa njezinoj kćeri.

“Ovaj čovjek se javlja na telefon i kaže: ‘Slušaj ovdje’. Imam tvoju kćer. Ovako će se to riješiti. Zovite policiju, zovite bilo koga, drogirat ću je. “Radit ću s njom što želim i ostavit ću je u Meksiku”, objašnjava DeStefano.

Uplašena majka počinje se tresti kada čuje kćer kako viče: “Pomozi mi, mama. Molim te pomozi mi. Pomozite mi”, rekla je DeStefano.

Unatoč zastrašujućem pozivu, glas DeStefanine kćeri bio je klon koji je stvorila umjetna inteligencija.

Kako stvoriti glasovne klonove uz pomoć AI

Subbarao Kambhampati, profesor informatike na Sveučilištu Arizona State koji se specijalizirao za umjetnu inteligenciju, objasnio je koliko realno i zbunjujuće može biti otkrivanje lažnog glasa.

“Više ne možete vjerovati svojim ušima”, rekao je Kambhampati u intervjuu za WKYT.

Kako tehnologija neprestano napreduje, kloniranje glasa olakšava pojedincima stvaranje drugačije osobnosti i glasa.

“U početku bi bila potrebna veća količina uzoraka. Sada postoje načini na koje to možete učiniti sa samo tri sekunde glasa. Tri sekunde. A s tri sekunde može se točno definirati kako zvučiš,” rekao je Kambhampati.

Zaštitite se od napada prijevara

Prema Saveznoj komisiji za trgovinu, prevaranti će često tražiti od žrtava prijenos novca, slanje kriptovalute ili plaćanje otkupnine darovnim karticama. Na taj način prevarant može lako pobjeći s novcem, a da mu se ne uđe u trag.

Dan Mayo, pomoćnik specijalnog agenta zadužen za FBI-jev ured u Phoenixu, upozorio je javnost na prevarante koji žrtve traže preko javnih profila na društvenim mrežama.

“Moraš držati te stvari zaključane. Problem je u tome što ako ih imate javno, dopuštate sebi da vas ovakvi ljudi prevare jer će tražiti javne profile koji imaju što više informacija o vama, a kada dođu tamo, iskoristit ću to protiv tebe,” rekao je Mayo za WKYT.

Mayo pruža neke uvide o tome kako možete znati jeste li meta prijevare i na što trebate paziti.

“Ako telefonski broj dolazi s pozivnog broja koji ne prepoznajete, to bi trebala biti jedna crvena zastavica”, rekao je Mayo. “Druga crvena zastava; međunarodni brojevi. Ponekad će vas nazvati i iz njih. Treća crvena zastava; neće vam dopustiti da prekinete vezu i razgovarate s drugom osobom. To je problem”.

Kako je kloniranje glasa u porastu, Mayo kaže da FBI prati svaki potez prevaranata.

“Međutim, neki ljudi im popuštaju i na kraju šalju novac tim pojedincima”, rekao je Mayo. “Vjeruj mi, FBI istražuje te ljude i mi ih pronalazimo.”

AI klon glasa DeStefanine kćeri nikada nije pobudio sumnju da glas s kojim je razgovarala zapravo nije njezina kći.

“Nikad nije bilo pitanje tko je to? Bio je to potpuno njezin glas. To je bila njezina infleksija. Tako bi plakala”, rekla je DeStefano. – Nikad nisam sumnjao da je to ona. To je onaj čudni dio koji me stvarno uplašio.”

Zdrava i cijela

DeStefano je brzo potvrdila da je njezina kći sigurna od članova obitelji.

“Bila je gore u svojoj sobi i govorila: ‘Što?’ Što se događa?”, rekla je DeStefano. “Onda se očito naljutila na te tipove. Ovo nije nešto s čime se šalite.”

DeStefano je na svom Facebooku objavila poruku upozorenja svim korisnicima društvenih mreža.

“Jedini način da se ovo zaustavi je podizanje javne svijesti!!”, rekla je. “Također, imajte obiteljsku frazu ili hitno pitanje koje samo vi znate kako biste mogli potvrditi da vas AI nije prevarila!” Čuvajte se!!!”