Softver za prepoznavanje lica dovodi do vala uhićenja nevinih ljudi u SAD-u.
Dio budućih pametnih 15-minutnih gradova trebao bi između ostalog biti i poseban za AI sustav prepoznavanje lica. Dakle, već imamo pregled kako bi mogla izgledati kontrola populacije sa sličnim alatom.
Uhićenja potpuno nevinih ljudi sve su češća u Sjedinjenim Državama zbog lažno pozitivnih izvješća AI prepoznavanja lica. Kontrolni mehanizmi? Rijetko se koriste.
Ljudi se sve više oslanjaju samo na umjetnu inteligenciju, bez prethodne provjere daje li točne informacije ili bez dodatnih dokaza.
Scena izgleda kao iz nekog distopijskog romana: Čovjeka noću dižu iz kreveta i odvode s lisicama na rukama – samo zato što mu je umjetna inteligencija zametnula lice. Ali to je upravo ono što se alarmantno često događa u Sjedinjenim Državama.
Nedavna istraga Washington Posta otkrila je da je nekoliko policijskih odjela diljem zemlje već više puta uhitilo ljude čiji je jedini “prijestup” to što ih je umjetna inteligencija netočno identificirala kao kriminalce.
Od 23 istražene policijske uprave, 15 odjela u 12 država izvršilo je uhićenja isključivo na temelju intervencija umjetne inteligencije – bez ikakvih drugih dokaza.
Posebno zabrinjavajuće: neka su izvješća tvrdila da se neprovjerene detekcije umjetne inteligencije “100 posto poklapaju.” Međutim, najmanje osam ljudi je očigledno nepravedno uhićeno, dva slučaja još nisu poznata javnosti.
Ovo je korak u vrlo distopijsku budućnost.
“Tehnologija je jasno identificirala osumnjičenika”, kaže interno policijsko izvješće – opasna pogrešna procjena koja se kasnije pokazala.
Jednostavan osnovni policijski rad kao što su provjere alibija ili podudarni fizički dokazi mogli su spriječiti nezakonita uhićenja.
Louis Kelly, tužitelj iz Kentuckyja, ipak je branio postupke svojih službenika: “Naši se policajci oslanjaju na svoje dugogodišnje iskustvo u identificiranju osumnjičenika.”
Ono što ne spominje je da su u njegovom uredu bila najmanje četiri uhićenja samo na temelju intervencija umjetne inteligencije.
Pravi razmjeri problema ostaju nejasni. Većina od 75 agencija koje je identificirao The Washington Post i koje koriste prepoznavanje lica nisu obavezne dokumentirati ili otkriti njihovu upotrebu.
Glavne policijske uprave poput Austina, Detroita i Miamija nisu iznimka—oni su također uhitili ljude isključivo na temelju informacija koje je dao AI—i bez drugih dokaza.
