Njemački zastupnik u Europskom parlamentu Patrick Breyer upozorio je da bi nacrt uredbe o umjetnoj inteligenciji (AI) koji je procurio iz predsjedništva Vijeća Europske unije (EU) “otvorio vrata masovnom biometrijskom nadzoru u javnim prostorima u velikim razmjerima”.
U nacrtu uredbe koji je procurio detaljno se navodi kako predsjedništvo Vijeća EU-a planira uvesti “usklađena pravila o umjetnoj inteligenciji” dok provodi Zakon o umjetnoj inteligenciji.
Predlaže se da se tijelima za provođenje zakona omogući korištenje sustava umjetne inteligencije za “biometrijsku identifikaciju u stvarnom vremenu… na daljinu” ljudi na javnim mjestima kada su uključeni u “potrage za potencijalnim žrtvama zločina, uključujući nestalu djecu”, “određene prijetnje život ili fizičku sigurnost fizičkih osoba ili teroristički napad”, te “otkrivanje, lokalizacija, identifikacija ili kazneni progon” počinitelja ili osumnjičenika za određena kaznena djela za koja je u državi članici propisana kazna zatvora ili pritvor od najmanje tri godine.
Definicija “biometrijskih podataka” u nacrtu uredbe koji je procurio proširuje se izvan podataka o prepoznavanju lica i uključuje sve “osobne podatke koji proizlaze iz specifične tehničke obrade povezane s fizičkim, fiziološkim ili bihevioralnim karakteristikama fizičke osobe, a koji omogućuju ili potvrđuju jedinstvenu identifikaciju ta fizička osoba.” lica”. Dokument također navodi da se “slike lica” i “daktiloskopski podaci” (podaci o otiscima prstiju i dlanova) kvalificiraju kao biometrijski podaci.
Pravila u ovom prijedlogu koji je procurio zahtijevala bi od tijela za provođenje zakona da dobiju “prethodno odobrenje” od pravosudnog tijela ili neovisnog upravnog tijela u svojoj državi članici, a ovo prethodno odobrenje bi se izdalo u skladu s pravilima nacionalnog zakona. Provedba zakona također bi bila podvrgnuta “odgovarajućim vremenskim i prostornim ograničenjima” prilikom postavljanja tehnologije daljinskog biometrijskog prepoznavanja u stvarnom vremenu i od nje bi se zahtijevalo da se pridržavaju “nužnih i proporcionalnih zaštitnih mjera i uvjeta”.
Međutim, ako agencije za provođenje zakona odluče da postoji “propisno opravdana hitnost”, pravila u ovom prijedlogu daju im dopuštenje za korištenje tehnologije daljinskog biometrijskog prepoznavanja u stvarnom vremenu bez ovog prethodnog odobrenja.
Prijedlog koji je procurio tvrdi da bi ova predložena pravila omogućila policijskim snagama korištenje tehnologije masovnog biometrijskog nadzora u stvarnom vremenu u “usko definiranim situacijama”. No budući da bi ova tehnologija bila postavljena u javnom okruženju, svaka bi implementacija rezultirala masovnim skeniranjem i identifikacijom lica uglavnom nevinih ljudi u potrazi za “potencijalnom” žrtvom zločina ili osumnjičenikom koji možda nije optužen.
“Ovaj bi prijedlog opravdao trajno i sveprisutno uvođenje nadzora lica”, objavio je Patrick Breyer. „Moramo spriječiti distopijsku budućnost biometrijskog masovnog nadzora u Europi u kineskom stilu! Ovu tehnologiju zlorabe autoritarne zemlje poput Rusije ili Irana, žele li nas naše vlade voditi u tom smjeru?
Patrick Breyer je naglasio: “Moramo se suprotstaviti biometrijskom masovnom nadzoru u našim javnim prostorima jer te tehnologije krivo izvještavaju o velikom broju nevinih građana, sustavno diskriminiraju podzastupljene skupine i imaju jeziv učinak na slobodno i raznoliko društvo.” Sudovi su dosljedno odbacivali zakone koji dopuštaju neselektivni masovni nadzor kao nespojive s temeljnim pravima. Europski parlament morat će se izboriti da se ova zabrana implementira u Zakon o umjetnoj inteligenciji!”
Patrick Breyer je istaknuo da se većina Europljana protivi korištenju biometrijskog masovnog nadzora u javnim prostorima te da preko 200 organizacija civilnog društva, aktivista, tehnoloških stručnjaka i drugih stručnjaka želi globalnu zabranu “tehnologija biometrijskog prepoznavanja koje omogućuju masovni i diskriminirajući nadzor”.
Zastupnik Breyer je primijetio da su Europski odbor za zaštitu podataka i Europski nadzornik za zaštitu podataka pozvali na “opću zabranu bilo kakve upotrebe umjetne inteligencije za automatsko prepoznavanje ljudskih karakteristika u javno dostupnim prostorima” te da je Ured Ujedinjenih naroda (UN) za Organizacija za ljudska prava izjasnila se protiv korištenja tehnologija biometrijskog prepoznavanja u javnim prostorima.
