Washington Post je izvijestio o porastu privatnih tvrtki koje koriste umjetnu inteligenciju za korištenje tehnologije prepoznavanja lica za određivanje dobi korisnika. Tehnologija se reklamira na stranicama poput TikToka kao način sprječavanja pristupa djeci.
Ministarstvo pravosuđa SAD-a (DOJ) tužilo je TikTok prošlog tjedna, optužujući platformu za očito kršenje Zakona o zaštiti privatnosti djece na internetu (COPPA), Pravila COPPA-e i odluke Ministarstva pravosuđa SAD-a (DOJ) iz 2019. godine (FTC) o nezakonitom prikupljanju osobnih podataka od djece.
U tužbi, podnesenoj saveznom sudu u Kaliforniji, navodi se da je TikTok prikupio “opsežne podatke” od djece mlađe od 13 godina bez roditeljskog pristanka, omogućio korisnicima mlađima od 13 godina stvaranje i održavanje računa te da nije udovoljio zahtjevima roditelja da izbriše podatke djece s računa i osobne podatke.
Tužba – posljednja u nizu akcija američke vlade protiv platforme – uslijedila je nakon pritužbe koju je 2020. podnijelo nekoliko zagovaračkih skupina, uključujući Electronic Privacy Information Center (EPIC), u kojoj se navodi da TikTok krši COPPA-u.
U travnju je predsjednik Joe Biden potpisao zakon o zabrani TikToka u Sjedinjenim Državama ako kineska matična kompanija ne proda američku imovinu platforme društvenih medija do siječnja 2025.
Najava Ministarstva pravosuđa uslijedila je nakon izvješća Washington Posta u srijedu u kojem se ističe rast privatnih tvrtki koje koriste tehnologiju prepoznavanja lica umjetne inteligencije (AI) za prepoznavanje dobi korisnika. Tehnologija se reklamira na stranicama poput TikToka kao način sprječavanja pristupa djeci.
Prema izvješću, tehnologija – koja je sklona lažno pozitivnim rezultatima – izazvala je zabrinutost za privatnost među roditeljima. Međutim, prema Postu, 19 država donijelo je zakone koji zahtijevaju online provjeru dobi. Međutim, ti su zakoni naišli na zakonske i ustavne prepreke na temelju cenzure i slobode izražavanja.
Eva Galperin, direktorica kibernetičke sigurnosti pri Electronic Frontier Foundation (EFF), izjavila je za The Defender: “Od svih napora koje su naši zakonodavci i američka vlada uložili da napadnu TikTok i ograniče njegov doseg, ovo je vjerojatno najrazumniji. Ovo je jedan sa zubima”.
Međutim, Galperin je primijetio da su se druge platforme društvenih medija uključile u slične prakse. Rekla je:
“DOJ je poduzeo mjere protiv drugih društvenih medija zbog kršenja COPPA-e. Kad je Zastupnički dom izglasao zabranu TikToka zbog kršenja privatnosti i drugog ponašanja, smatrao sam to prilično nečuvenim, a razlog za to je bio jer nije postojalo gotovo ništa za što je Zastupnički dom optuživao TikTok, a da gotovo sve druge tvrtke društvenih medija već nisu učinile. Medijska tvrtka u SAD-u je bila gotova.
“Jedina razlika je u tome što ga je napravila kineska tvrtka, a ne tvrtka u Europi ili SAD-u.”
Galperin je naveo primjer:
“Ispostavilo se da je Google besplatno dijelio Chromebookove školarcima i da nije trebao bilježiti ništa što su radili u školi, već je zapravo prikupljao te podatke.”
Galperin je rekao da je žalba EFF-a protiv Googlea iz 2015. dovela do daljnjeg regulatornog nadzora Googleove prakse.
Prema Timu Hinchliffeu, uredniku časopisa The Sociable, korištenje tehnologije prepoznavanja lica od strane platformi društvenih medija i drugih web stranica i online usluga predstavlja značajan rizik za djecu.
Hinchliffe je rekao:
“Rizici AI prepoznavanja lica za djecu nadmašuju dobrobiti. Tijekom našeg ljudskog postojanja uvijek su postojali ljudi zvani roditelji koji su štitili djecu. Ako roditelj ne želi da se lice njegovog djeteta snimi i pohrani u bazu podataka, trebao bi imati moć i kontrolu kako bi spriječio da se ova tehnologija bez predrasuda primjenjuje na njihovu djecu.”
Hinchliffe je također upozorio da bi široka uporaba takvih tehnologija kod djece mogla dovesti do normalizacije njihove uporabe.
“AI skeneri lica u dječjim programima uče ih od rane dobi da prihvate da nemaju privatnosti, a to je sljedeći korak prema internetskoj putovnici koja se temelji na digitalnom identitetu i koja uklanja svu anonimnost”, rekao je Hinchliffe.
TikTok je instalirao “stražnja vrata” koja omogućuju maloj djeci pristup njegovoj platformi
Prema FTC-u, TikTok i njegova matična tvrtka ByteDance “navodno su bili svjesni potrebe poštivanja pravila COPPA i Naredbe o pristanku iz 2019. te su bili svjesni TikTokovih propusta u poštivanju propisa koji su ugrozili podatke i privatnost djece.”
Ali umjesto poštivanja propisa, u pritužbi se navodi sljedeće:
“Godinama su milijuni američke djece mlađe od 13 godina koristili TikTok, a optuženi su prikupljali i pohranjivali osobne podatke djece.”
FTC je napisao da je od 2020. TikTok koristio “ljudske recenzente” kako bi utvrdio je li korisnik mlađi od 13 godina, ali “u prosjeku je proveo samo pet do sedam sekundi pregledavajući svaki račun kako bi utvrdio pripada li račun korisniku koji pripada djetetu”.
Platforma je tada navodno nastavila prikupljati osobne podatke od te djece, “uključujući podatke koji su omogućili TikToku da ih cilja oglašavanjem – bez obavijesti njihovih roditelja i dobivanja njihovog pristanka, kao što zahtijeva pravilo COPPA.”
Prema FTC-u, “stražnja vrata” ugrađena su u TikTok platformu koja je omogućila djeci da zaobiđu dobnu granicu namijenjenu isključivanju djece mlađe od 13 godina. To je uključivalo korištenje vjerodajnica uvezenih s drugih Big Tech platformi kao što su Google i Instagram. TikTok je ove račune klasificirao kao “nepoznatu dob”.
TikTok je koristio prikupljene podatke za “kreiranje profila djece” i “dijelio te osobne podatke s trećim stranama kao što su Facebook i AppsFlyer.” Platforma je također navodno otežavala roditeljima traženje da se računi njihove djece izbrišu i često je ignorirala zahtjeve roditelja za brisanje.
Procvat industrije “mirovinske sigurnosti” vodi u “autoritarnu noćnu moru”.
Prema Washington Postu, zabrinutost oko toga da djeca dobiju pristup mrežnom sadržaju neprikladnom za dob potaknula je “procvat industrije AI skenera za dob koji ciljaju dječja lica”, koju čini “malo poznata grupa tvrtki u jednom eksperimentalnom kutu tehnološka industrija poznata kao ‘mirovinska sigurnost’.
Ove dobne kontrole, koje se “oslanjaju na vrstu nadzora koji se kreće od “donekle narušavanja privatnosti” do “autoritarne noćne more”, prema Postu, ugrožavaju privatnost svih korisnika interneta i ostavljaju “djecu – i sve ostale – ranjivima na nadzor “izloženost koja se rijetko događa na otvorenom internetu”.
Dok bi dobna sigurnost “roditeljima mogla pružiti veći osjećaj kontrole i bezbrižnosti”, Post izvještava da prikupljanje i centralizacija osobnih i biometrijskih podataka korisnika “povećava vjerojatnost da bi mogli biti hakirani, dijeljeni ili zloupotrijebljeni”.
The Post je citirao tvrtke poput Yoti, Incode i VerifyMyAge, koje je opisao kao “čuvare digitalnih vrata” koji su razvili tehnologiju koja od korisnika traži da potvrde svoju dob snimanjem “video selfija.” Često držeći službenu osobnu iskaznicu ispred kamere. AI alati zatim određuju dob korisnika na temelju biometrijskih karakteristika.
Glavne platforme društvenih medija i internetske usluge kao što su TikTok, Facebook, Instagram i OpenAI, kao i nekoliko web stranica namijenjenih odraslima, sada koriste takve alate za provjeru dobi. 19 država – uključujući Floridu, Teksas i Virginiju – donijelo je zakone koji zahtijevaju online provjeru dobi.
Post kaže da su takvi zakoni “stvorili zlatni rudnik” i navodi primjer tvrtke Incode za provjeru dobi iz San Francisca, koja sada “interno prati državne račune i kontaktira lokalne dužnosnike da shvati gdje naša tehnologija sve odgovara i koristi se.”
Fotografije i podaci djece “primamljiva” su meta za hakere
Ekspanzija online usluga provjere dobi – i sve veći broj država koje su donijele zakone o online provjeri dobi – također su izazvali kritike i zabrinutost, piše Post:
“Zagovornici alata priznaju da bi kontrola dobi mogla rezultirati dubokim širenjem državnog nadzora nad online životom. Ali kritičari tvrde da bi zakonodavci koji se nadaju zaštiti djece umjesto toga mogli izložiti korisnike svih dobi užasnim rizicima prisiljavajući ih da dijele intimne detalje iz svojih života s tvrtkama koje su uglavnom neprovjerene, neregulirane i nepoznate.”
Takva zabrinutost postoji unatoč uvjeravanjima tvrtki kao što su Incode i Yoti da brišu slike nakon analize lica korisnika.
Galperin je rekao da su podaci koje prikupljaju te tvrtke smješteni u “velike baze podataka koje sadrže fotografije ljudi s njihovim pravim imenima, njihove osobne iskaznice, njihove adrese i sve vrste osjetljivih informacija – i samo leže tamo.”
To ih čini “primamljivom” metom za hakere, rekao je Galperin, a također predstavlja rizik od proboja ili curenja podataka.
“Ovo je također informacija koja ima potencijal postati javna, ne samo putem hakera, već i zato što tvrtke griješe i te informacije završe na internetu”, rekla je.
Kalifornijski odvjetnik za privatnost Greg Glaser usporedio je centralizirane baze podataka dječjih biometrijskih podataka s “legaliziranom pedofilijom” i rekao za The Defender da bi takvi podaci, koji mogu sadržavati “potpune i djelomične slike tijela djece” u privatnom okruženju, bili u opasnosti da se dobiju “na mračni web”.
“U ovom trenutku u povijesti, očito je da računalni sustavi nisu dizajnirani da poštuju tradicionalni moral, kao što je svetost nevinog djetinjstva”, rekao je Glaser.
Hinchliffe je rekao da bi se mogli prikupljati i podaci pojedinačnih korisnika, što bi ih dovelo u opasnost od profiliranja, jer bi “baze podataka vodile potpunu evidenciju životnih faza svakog djeteta”. Dodao je:
“Istraživači kažu da AI može otkriti seksualnost iz samo jedne fotografije. Zamislite kakve zaključke mogu izvući o djeci koja se skeniraju cijeli život. Hoće li AI skeneri lica moći razlikovati liberala od konzervativca? Može li AI izvući zaključke o osobi na temelju vrste odjeće, boje kose, etničke pripadnosti, mikroizražaja ili tetovaža?”
Galperin je također upozorio da bi obiteljski zlostavljači i uhodi mogli iskoristiti podatke koji su procurili iz baza podataka o mirovinskom osiguranju.
“Jedan od najčešćih scenarija otmice u SAD-u obično je otmica djeteta kada su roditelji razvedeni, ali je samo jednom roditelju dodijeljeno skrbništvo, a roditelj koji nije skrbnik zapravo uzima dijete”, rekao je Galperin. “Ova bi tehnologija mogla dovesti ljude u stvarnu opasnost.”
“Ako odrasli iz prve ruke nauče kako se AI prepoznavanje lica može koristiti protiv njih, mislim da bi više oklijevali koristiti istu tehnologiju na svojoj djeci. Ali da je tehnologija prvo korištena na djeci, bi li roditelji shvatili puni razmjer distopijskih posljedica?”
Državni i privatni akteri također bi mogli koristiti takve podatke. rekao je Galperin:
“Ovi bi podaci također mogli biti primamljivi za oglašivače i posrednike podataka koji vole ovu vrstu informacija za svrhe ciljanog oglašavanja. Oni su također zanimljivi vladama i agencijama za provođenje zakona koje redovito kupuju podatke od brokera podataka kako bi izbjegle gnjavažu s dobivanjem naloga za pretragu ili sudskog poziva na sudu za određene vrste podataka.”
Drugi su tvrdili da unatoč obećanju umjetne inteligencije, tehnologija zaštite od starosti često proizvodi lažne rezultate koji mogu isključiti legitimne korisnike iz online usluga.
Post je citirao podatke iz Nacionalnog instituta za standarde i tehnologiju, koji je rekao da su procjene dobi “obično točne unutar otprilike tri godine”, i s Instagrama, koji je otkrio da je provjera dobi zaustavila 96% tinejdžera koji su pokušali upotrijebiti svoje račune za promjenu na starijima od 18 godina.
Ali to još uvijek isključuje mnoge potencijalno legitimne korisnike, a određene skupine su posebno ugrožene. Post je otkrio da je stopa neuspjeha sustava veća za djevojčice i žene nego za dječake i muškarce, te da su ljudi s određenim nedostacima koji utječu na njihov izgled često isključeni.
“Ako vaše rješenje ima bilo kakvu vrstu lažno pozitivnog, u biti zaključavate ljude s interneta koji ne bi trebali biti zaključani. Neprihvatljivo je svako rješenje koje proizvodi lažne rezultate poput ovog”, rekao je Galperin.
Kad je Yoti prošle godine zatražio od FTC-a da odobri procjenu dobi kao način dobivanja pristanka roditelja, više od 300 komentara dostavljenih tijekom razdoblja javne rasprave usprotivilo se prijedlogu, izvijestio je Post. FTC je na kraju odbio Yotijev prijedlog.
