Čini se da se Ujedinjeno Kraljevstvo sve više odvojilo od Europske unije, njezinih pravila i propisa, samo da bi njezina vlada odvela zemlju u sve autoritarnijem smjeru. Ovo je, naravno, generalizirani trend među naizgled “liberalnim demokracijama” gotovo posvuda, uključujući države članice EU-a, jer sve više prihvaćaju zamke i taktike autoritarnijih režima, poput ograničavanja slobode govora, ukidanja ljudskih računa na društvenim mrežama, zamrzavanja banaka račune i slabljenje vladavine prava. No Velika Britanija definitivno prednjači u ovom trendu. Primjer za to je čisti entuzijazam Ministarstva unutarnjih poslova za tehnologije biometrijskog nadzora i kontrole.

Ovaj je tjedan, primjerice, The Guardian otkrio da su ministar policije Chris Phillips i drugi visoki dužnosnici Ministarstva unutarnjih poslova održali sastanak iza zatvorenih vrata sa Simonom Gordonom, osnivačem Facewatcha, vodeće maloprodajne sigurnosne tvrtke za prepoznavanje lica. Glavni ishod sastanka bio je da će vlada lobirati kod Ureda povjerenika za informiranje (ICO) o prednostima korištenja tehnologija za prepoznavanje lica uživo (LFR) u maloprodajnim okruženjima. LFR uključuje povezivanje kamera za prepoznavanje lica s bazama podataka koje sadrže fotografije ljudi. Slike s kamera se zatim mogu prikazati nasuprot tim fotografijama da se vidi podudaraju li se.

Lobiranje je očito bilo uspješno. Samo nekoliko tjedana nakon kontaktiranja ICO-a, ICO je poslao pismo Facewatchu potvrđujući da tvrtka “ima legitimnu svrhu korištenja podataka ljudi za otkrivanje i sprječavanje kriminala” te da su njezine usluge općenito u skladu sa zakonima o zaštiti podataka Ujedinjenog Kraljevstva, koje Sunakova vlada i Britanske obavještajne agencije pokušavaju činiti dobro. Kako je izvijestio Guardian, “zakon o zaštiti podataka i informacija Ujedinjenog Kraljevstva predlaže ukidanje uloge vladinog povjerenika za nadzorne kamere zajedno sa zahtjevom za kodeksom prakse za nadzorne kamere.”

ICO odobrenje daje pravno pokriće praksi koja je već dobro uspostavljena. Facewatch godinama skenira lica britanskih kupaca u tisućama prodajnih mjesta diljem Ujedinjenog Kraljevstva. Kamere skeniraju lica dok ljudi ulaze u trgovinu i povezuju ih u bazi podataka s poznatim prijestupnicima, upozoravajući trgovce ako je ušao “predmet interesa”. Trgovine koje koriste ove tehnologije objavile su obavijesti u svojim izlozima (kao što je ova ispod) koje obavještavaju kupce da su tehnologije prepoznavanja lica u funkciji, “kako bi zaštitile” “zaposlenike, kupce i zalihe” trgovine. Ali nije jasno koliko kupaca zapravo obraća pozornost na obavijesti.

Što se tiče primjera državnog outsourcinga, to je ekstremno. Prema Guardianu, to je zbog nedavne eksplozije krađa u trgovinama, koja je pak uzrokovana “krizom troškova života” (moderni britanski način da se kaže “inflacija”). Kao što čitatelji NC-a znaju, inflacija je dijelom rezultat korporativnog profiterstva. Do sada je 400 trgovaca u Velikoj Britaniji, uključujući neke vrlo velike maloprodajne lance (Sports Direct, Spar, Co-op), postavilo Facewatch kamere. Kako Guardian kaže, vlada “učinkovito sankcionira privatnu tvrtku da radi posao koji je policija nekoć rutinski radila”.

Od prikrivenog do otvorenog

Nisu samo trgovci na malo ti koji intenzivno koriste LFR tehnologije; koristi ga i britanska policija. Agencije za provođenje zakona u Ujedinjenom Kraljevstvu, posebice londonska Metropolitanska policijska služba i policija Južnog Walesa, već nekoliko godina isprobavaju prepoznavanje lica uživo (LFR) na javnim mjestima. LFR se koristio u Engleskoj i Walesu za brojne događaje, uključujući prosvjede, koncerte, karneval u Notting Hillu, kao i na prometnim cestama kao što je Oxford Street u Londonu.

Godine 2019. Naked Capitalism objavio je članak Open Democracy o tome kako je novi, privatni kompleks Kings Cross u Londonu koristio kamere za prepoznavanje lica za identifikaciju pješaka koji su prelazili Granary Square. Argent, programer i upravitelj imovine odgovoran za dizajn i isporuku stranice, zatim je unio podatke u bazu podataka koju je dostavila Metropolitanska policijska služba kako bi provjerio podudaraju li se. King’s Cross je bio samo jedan od mnogih dijelova Londona gdje su pješaci davali svoje biometrijske podatke kamerama za prepoznavanje lica i oni su bili pohranjeni u bazama podataka.

Ujedinjeno Kraljevstvo je već jedna od nacija s najviše kamera na planetu. Do 2019. bilo je dom za više od 6 milijuna nadzornih kamera – više po glavi stanovnika nego u bilo kojoj drugoj zemlji na svijetu osim Kine, prema Silkie Carlo, direktorici Big Brother Watcha.

Do sada je policijska uporaba LFR-a bila prilično dobro pokrivena, a svaki put kada je informacija o toj uporabi procurila, došlo je do negodovanja javnosti; sada, postaje očito. Ministar policije Chris Phillips potiče policijske snage diljem zemlje da koriste LFR za rutinsko provođenje zakona, navodi se u članku BBC Science Focusa (koji je, zanimljivo, uklonjen s weba, ali ne prije nego što je spremljen za potomstvo na Wayback Machineu ):

Budući da policijski službenici već nose kamere na tijelu, bilo bi moguće poslati slike koje snime izravno u sustave za prepoznavanje lica uživo (LFR). To bi značilo da se svatko na koga naiđe može odmah provjeriti odgovara li nekome na popisu za praćenje – bazi podataka kriminalaca koje traže policija i sudovi.

Preporuke Ministarstva unutarnjih poslova za mnogo širu upotrebu LFR-ova u suprotnosti su s nalazima nedavne studije Centra za tehnologiju i demokraciju Minderoo na Sveučilištu u Cambridgeu, koja je zaključila da bi se LFR-ovi trebali zabraniti koristiti na ulicama, u zračnim lukama i na svim drugim mjestima. javni prostori – mjesta za koja policija vjeruje da bi bila najvrjednija.

Nije iznenađujuće da su potrošačke skupine i zagovornici privatnosti u plamenu. Organizacija za građanske slobode i zaštitu privatnosti Big Brother Watch organizirala je online peticiju pozivajući ministricu unutarnjih poslova Suelu Braverman i načelnika metropolitanske policije Marka Rowleya da zaustave Met u korištenju LFR-a. U trenutku pisanja peticija je na rubu ciljanog broja (45.000 potpisa).

“Prepoznavanje lica uživo distopijski je alat za masovni nadzor koji nevine članove javnosti pretvara u osobne iskaznice”, kaže Mark Johnson, voditelj zastupanja u Big Brother Watchu:

U sedam mjeseci, trinaest angažiranja, stotine radnih sati i više od pola milijuna skeniranih lica u 2023., policija je izvršila samo tri uhićenja zbog korištenja ovog nametljivog i skupog alata za masovni nadzor… Umjesto promicanja njegove uporabe, Vlada bi trebala slijediti druge liberalne demokracije diljem svijeta donose zakone za zabranu ove Orwellove tehnologije u javnim prostorima.

Te liberalne demokracije uključuju Europski parlament, koji je, svaka mu čast, nedavno odlučio zabraniti korištenje invazivnih tehnologija masovnog nadzora u javnim prostorima u svom Zakonu o umjetnoj inteligenciji. Međutim, zabrana se ne odnosi na granice EU-a, gdje policija i granična tijela planiraju koristiti visoko invazivne biometrijske identifikacijske tehnologije, kao što su otisci prstiju ili skeneri očiju, za registraciju putnika iz trećih zemalja i njihovu provjeru prema nizu nacionalnih i međunarodnih baza podataka .

Razlozi za zabrinutost

Građani Ujedinjenog Kraljevstva imaju mnogo razloga za zabrinutost zbog širenja kamera za prepoznavanje lica i drugih biometrijskih sustava za nadzor i kontrolu. Predstavljaju ekstremne povrede privatnosti, osobnih sloboda i zakonskih prava, uključujući vjerojatno i pretpostavku nevinosti. Zapravo, sudovi UK-a i skupine za građanske slobode uspješno su osporili korištenje LFR-a na temelju toga da tehnologija može kršiti zakone o privatnosti, zaštiti podataka i može biti diskriminirajuća.

Amnesty International to kaže još otvorenije: sustavi daljinske biometrijske identifikacije s umjetnom inteligencijom ne mogu koegzistirati s kodificiranim sustavom zakona o ljudskim pravima:

“Ne postoji način koji je usklađen s ljudskim pravima za korištenje daljinske biometrijske identifikacije (RBI). Nikakvi popravci, tehnički ili neki drugi, ne mogu ga učiniti kompatibilnim sa zakonom o ljudskim pravima. Jedina zaštita od IRB-a je potpuna zabrana. Ako se ti sustavi legaliziraju, to će postaviti alarmantan i dalekosežan presedan, što će dovesti do proliferacije AI tehnologija u budućnosti koje nisu u skladu s ljudskim pravima.”

Još jedan čest problem je taj što je unutarnje funkcioniranje alata za biometrijski nadzor i način na koji prikupljaju, koriste i pohranjuju podatke često obavijeno velom tajne ili barem netransparentnosti. Također su skloni pristranosti i neuspjehu. Ovo se posebno odnosi na prepoznavanje lica uživo, kao što upozorava članak BBC Science Focusa:

Neuralna mreža osposobljena za razlikovanje lica često dobiva pristrane podatke – obično zato što je obučena na više bijelih muških lica nego lica drugih rasa i spolova.

Istraživači su pokazali da iako je točnost otkrivanja bijelih muškaraca impresivna, pristrani trening znači da je umjetna inteligencija mnogo manje precizna kada pokušava usporediti ženska lica s tamnoputim licima.

Izvršni direktor Facewatcha Simon Gordon tvrdi da je trenutna točnost tehnologije kamera tvrtke 99,85%. Kao takva, kaže on, pogrešna identifikacija je rijetka, a kada se dogodi, implikacije su “manje”. Ali što je drugo mogao reći; ima proizvod za prodaju.

Konačno, sustavi predstavljaju još jedan veliki problem: njima upravlja AI. Kao takve, mnoge odluke ili radnje koje poduzimaju trgovci na malo, korporacije, banke, središnje banke i lokalne, regionalne ili nacionalne vlasti koje utječu na nas bit će potpuno automatizirane; neće biti potrebna ljudska intervencija. To znači da će pokušaj poništavanja ili poništavanja tih odluka ili postupaka vjerojatno biti kafkijanska noćna mora koju je čak i Kafka teško mogao predvidjeti.