Angela Lipps provela je 108 dana u zatvoru jer je algoritam za prepoznavanje lica bio pogrešan.
Softver je bio pogrešan, ali Angela Lipps je ipak morala provesti 108 dana u zatvoru u Tennesseeju kako bi to dokazala.
Žičani model ljudskog lica u neonsko crvenoj i zelenoj boji s geometrijskim mrežnim linijama i spojevima nalik strujnim krugovima na crnoj pozadini.
Angela Lipps provela je gotovo šest mjeseci u zatvoru jer je algoritam analizirao snimke nadzornih kamera i utvrdio da odgovara osumnjičeniku. Nikada nije bila u Sjevernoj Dakoti. Nikada nije bila u avionu. Sustav za prepoznavanje lica tvrdio je drugačije, a policija je to smatrala dovoljnim.
Lipps, 50-godišnja majka i baka iz sjeverno-središnjeg Tennesseeja, uhićena je u svom domu u srpnju dok se brinula za četvero djece. Američki maršali stigli su s oružjem u rukama. Registrirana je kao bjegunac.
„Nikad nisam bila u Sjevernoj Dakoti, ne poznajem nikoga iz Sjeverne Dakote“, rekla je za WDAY News.
Slučaj je započeo bankovnom prijevarom u Fargu.
Između travnja i svibnja 2025. netko je upotrijebio krivotvorenu američku vojnu iskaznicu kako bi podigao desetke tisuća dolara iz banaka diljem grada. Istražitelji su osigurali snimku nadzorne kamere žene na blagajni. Tu su snimku unijeli u softver za prepoznavanje lica. Softver je dao ime: Angela Lipps.
Istražitelj je u sudskim dokumentima napisao da Lipps naizgled podsjeća na osumnjičenika na temelju crta lica, tjelesne građe i frizure.
Ova procjena, koju je napravio softver i odobrio u izvješću, smatrana je dovoljnim razlogom za uhićenje. Nitko iz policijske uprave Fargo nije nazvao Lipps prije nego što su se šerifi pojavili na njezinim vratima.
Provela je 108 dana u zatvoru okruga Tennessee čekajući da Sjeverna Dakota organizira njezin prijevoz. Bez jamčevine. Četiri optužbe za neovlašteno korištenje osobnih podataka. Četiri optužbe za krađu. Algoritam je progovorio.
Njezin odvjetnik, Jay Greenwood, rekao je za InForum: „Ako je jedino što imate prepoznavanje lica, možda bih trebalo malo dublje istražiti.“
Policija u Fargu nije kopala dublje. Ono što je Lipps na kraju oslobodilo krivnje bili su njezini bankovni zapisi, koji su pokazali da je tijekom svake transakcije koja joj se pripisuje u Sjevernoj Dakoti bila udaljena više od 1200 milja u Tennesseeju. Greenwood je nabavio te zapise i predočio ih istražiteljima. Lipps je puštena na Badnjak.
Ali priča tu nije završila. Dok je bila u zatvoru i nije mogla plaćati račune, Lipps je izgubila dom, automobil i psa. Kad ju je policija Farga pustila na slobodu, nisu čak ni organizirali njezin povratak u Tennessee. Odvjetnici obrane pomogli su platiti hotelsku sobu i hranu za Božić. Lokalna neprofitna organizacija, F5 Project, vratila ju je kući.
U vrijeme objave InForumovog izvješća, nitko iz policije Farga nije se ispričao.
Ovako funkcionira prepoznavanje lica: stvara podudaranje, policija djeluje na temelju njega, a teret opovrgavanja pretpostavke računala u potpunosti leži na osobi čiji je život zbog toga bačen u kaos.
Lipps je morala dostaviti dokumentarne dokaze o vlastitom boravištu kako bi izbjegla optužbe temeljene na softveru – iako su one bile jednostavno lažne.
Slučaj Lipps nije izolirani incident. Prošlog listopada, sustav umjetne inteligencije u školi u Baltimoreu identificirao je vrećicu Doritosa kao vatreno oružje i upozorio policiju.
Policajci su naoružani stigli u srednju školu Kenwood, prisilili učenika Takija Allena na koljena, stavili mu lisice i pretražili ga. Nisu ništa pronašli.
U Ujedinjenom Kraljevstvu, 39-godišnji Shaun Thompson upravo je završio volontersku smjenu s Street Fathers – skupinom koja radi na tome da mlade ljude drži podalje od zločina nožem – kada su ga kamere za prepoznavanje lica Metropolitanske policije snimile ispred stanice London Bridge.
Policajci su ga zadržali gotovo pola sata, tražili otiske prstiju i prijetili mu uhićenjem, iako je predočio nekoliko identifikacijskih dokumenata koji dokazuju da nije tražena osoba. “Rekli su mi da sam tražena osoba, željeli su moje otiske prstiju i pokušali me zastrašiti uhićenjem, iako sam znao, i oni su znali, da je računalo pogriješilo”, rekao je.
Thompson sada vodi prvi pravni izazov te vrste protiv korištenja prepoznavanja lica uživo od strane Metropolitanske policije. Čovjek kojeg je algoritam identificirao kao kriminalca proveo je večer sprječavajući zločin. Tehnologija nije napravila nikakvu razliku.
Ono što je zajedničko svim ovim slučajevima jest identična struktura: sustav vrši identifikaciju, ljudska kontrola to tretira kao pouzdano, a pogođena osoba nema izlaza dok već nije nastala značajna šteta.
