Britanska policija testira sustav umjetne inteligencije za praćenje “sumnjivih” putovanja.
Nadzor pokretan umjetnom inteligencijom prelazi s lova na osumnjičenike na mapiranje svakodnevnog života, pretvarajući svakodnevnu mobilnost u tok podataka o ponašanju.
Policijske snage diljem Ujedinjenog Kraljevstva eksperimentiraju s umjetnom inteligencijom koja može automatski pratiti i kategorizirati kretanje vozača koristeći opsežni sustav prepoznavanja registarskih pločica u zemlji.
Interni dokumenti koje su vidjeli Liberty Investigates i The Telegraph pokazuju da tri od devet regionalnih jedinica za organizirani kriminal u Engleskoj i Walesu testiraju program koji je razvio Faculty AI. Ovaj program osmišljen je za učenje iz podataka o kretanju vozila i identificiranje putovanja koja algoritmi klasificiraju kao “sumnjiva”.
Godinama je sustav automatskog prepoznavanja registarskih pločica (ANPR) dnevno bilježio više od 100 milijuna registracija vozila, uglavnom kako bi provjerio je li se određena registarska pločica pojavila u određenom području.
Nova inicijativa temeljno mijenja ovu logiku. Umjesto provjere pojedinačnih registarskih pločica, softver je obučen za praćenje cijelih ruta i traženje obrazaca ponašanja sličnih onima kriminalnih mreža poznatih po takozvanoj trgovini drogom “po županijskim linijama”.
Projekt, nazvan Operacija Ignition, predstavlja promjenu u opsegu i ambiciji.
Za razliku od konvencionalnih sustava upozorenja gdje službenici ručno označavaju “vozila od interesa”, model strojnog učenja uči iz prošlih podataka i stvara vlastiti popis potencijalnih ciljeva.
Službeni dokumenti priznaju da bi ovaj proces mogao utjecati na “milijune [registracijskih brojeva vozila]” i da bi dobivene informacije mogle utjecati na buduće odluke o etičkoj i operativnoj upotrebi takvih tehnologija.
Ono što je započelo kao suđenje financirano od strane Ministarstva unutarnjih poslova na sjeverozapadu – koje je obuhvaćalo Merseyside, Veliki Manchester, Cheshire, Cumbriju, Lancashire i Sjeverni Wales – sada se proširilo na tri regionalne jedinice za organizirani kriminal.
Vlasti ovo opisuju kao tehnički eksperiment, ali dokumenti sugeriraju dugoročne planove za uvođenje na nacionalnoj razini.
Organizacije za građanska prava upozoravaju da takvi sustavi rijetko ostaju ograničeni na svoju izvornu svrhu.
Jake Hurfurt iz Big Brother Watcha rekao je: „Britanska ANPR mreža već je jedna od najvećih svjetskih nadzornih mreža koja svakodnevno prati putovanja milijuna nevinih ljudi. Korištenje umjetne inteligencije za analizu milijuna registarskih pločica koje snima samo će učiniti ovu nadzornu mrežu invazivnijom. Praćenje i analiziranje tolikog broja putovanja krši privatnost svih i ima potencijal omogućiti policiji da jednim klikom analizira kako se svi krećemo po zemlji.“
Dodao je da iako je borba protiv organiziranih ruta za drogu legitiman cilj, „postoji stvarni rizik od zlouporabe – ANPR je uveden kao antiteroristička mjera i sada se koristi za provođenje prometnih zakona. Pitanje nije treba li policija pokušati zaustaviti bande, već kako bi se ova sljedeća generacija prepoznavanja registarskih pločica mogla koristiti u budućnosti.“
Aplikaciju za pretraživanje i profiliranje razvila je Faculty AI, britanska tehnološka tvrtka s bliskim vezama s vladinim projektima.
Tvrtka, koja je surađivala s Dominicom Cummingsom tijekom kampanje za izlazak iz EU, od tada je razvila alate za analizu podataka za NHS i Ministarstvo obrane.
Fakultet se nedavno našao pod lupom nakon što je dobio zadatak da razvije softver koji skenira društvene mreže u potrazi za „zabrinjavajućim“ objavama, a koji je kasnije korišten za praćenje online rasprava o smještaju za tražitelje azila.
Fakultet je odbio komentirati svoju ulogu u ANPR inicijativi.
Načelnik policije Chris Todd, predsjednik Odbora za podatke i analitiku Nacionalnog vijeća načelnika policije, opisao je sustav kao “mali, istraživački, operativni dokaz koncepta za potencijalnu upotrebu strojnog učenja u kombinaciji s ANPR podacima”.
Rekao je da je test koristio “samo vrlo mali podskup ANPR podataka” i naglasio da su “mjere zaštite i sigurnosti podataka na snazi te da je osnovan etički odbor za praćenje rada”.
William Webster, povjerenik za biometriju i nadzorne kamere, izjavio je da Ministarstvo unutarnjih poslova provodi konzultacije o novim pravnim okvirima za digitalne i biometrijske alate za policijsku kontrolu, uključujući ANPR.
„Nadzor je ključna komponenta ovog okvira“, rekao je, dodajući da bi se ovakvi testovi trebali odvijati u „sigurnom prostoru“ koji osigurava „transparentnost i odgovornost od samog početka“.
Glasnogovornik Ministarstva unutarnjih poslova izjavio je da je aplikacija „osmišljena za podršku istragama teškog i organiziranog kriminala“ i da se trenutno testira „u malom opsegu“ s „malim podskupom podataka koje prikuplja nacionalna ANPR mreža“.
S gledišta zaštite podataka, problem nije samo u prikupljanju podataka o kretanju, već i u onome što se iz njih može zaključiti.
Povezivanjem milijuna putovanja s modelima ponašanja, sustav bi u konačnici mogao stvoriti kartu kretanja stanovništva u stvarnom vremenu diljem zemlje.
Nakon što ova analitička sposobnost postane dio rutinskog policijskog posla, razlika između praćenja osumnjičenika i praćenja građana mogla bi postati potpuno nejasna.
