Državne i privatne tvrtke koristit će napredne AI alate i druge tehnologije nadzora za provođenje sveobuhvatnog i trajnog nadzora prije, tijekom i nakon Olimpijskih igara u Parizu 2024. godine.
Piše Anne Toomey McKenna:
Olimpijske igre u Parizu 2024. privući će poglede svijeta jer će se tisuće sportaša i osoblja, kao i stotine tisuća posjetitelja iz cijelog svijeta, okupiti u Francuskoj.
Ali neće samo oči svijeta biti uprte u igre. Sustavi umjetne inteligencije (AI) također će sve promatrati.
Državne i privatne tvrtke koristit će napredne alate umjetne inteligencije i druge tehnologije nadzora za provođenje sveobuhvatnog i trajnog praćenja prije, tijekom i nakon Igara.
Svjetska olimpijska pozornica i međunarodna publika predstavljaju tako veliki sigurnosni rizik da su vlasti i kritičari posljednjih godina opisali Olimpijske igre kao “najveću svjetsku sigurnosnu operaciju izvan rata”.
Francuska vlada, zajedno s privatnim tehnološkim sektorom, iskoristila je ovu legitimnu sigurnosnu potrebu za uvođenjem tehnološki naprednih alata za nadzor i prikupljanje podataka.
Njihovi planovi nadzora za rješavanje ovih rizika, uključujući kontroverznu upotrebu eksperimentalnog AI videonadzora, toliko su opsežni da je zemlja morala promijeniti svoje zakone kako bi legalizirala planirani nadzor.
Plan nadilazi nove sustave videonadzora umjetne inteligencije. Prema medijskim izvješćima, Ured premijera dogovorio je privremenu naredbu, klasificiranu kao tajnu, koja će omogućiti vladi da značajno proširi tradicionalni, tajni nadzor i alate za prikupljanje informacija tijekom trajanja Igara.
To uključuje prisluškivanje, prikupljanje geolokacijskih, komunikacijskih i računalnih podataka te prikupljanje velike količine slikovnih i zvučnih podataka.
Profesorica sam prava i pravnica koja istražuje, predaje i piše o zaštiti podataka, umjetnoj inteligenciji i nadzoru. Također pružam pravne i političke savjete o ovim pitanjima zakonodavcima i drugima.
Povećani sigurnosni rizici mogu i zahtijevat će pojačani nadzor. Ove godine Francuska se suočila sa zabrinutošću oko svojih olimpijskih sigurnosnih sposobnosti i vjerodostojnim prijetnjama koje okružuju javna sportska događanja.
Međutim, preventivne mjere trebaju biti razmjerne rizicima. Kritičari diljem svijeta tvrde da Francuska koristi Olimpijske igre kao vježbu nadzora i da će vlada koristiti ovaj “izvanredni” nadzor kao opravdanje za normalizaciju državnog nadzora nad cijelim društvom.
U isto vrijeme, postoji opravdana zabrinutost oko adekvatnog i učinkovitog nadzora iz sigurnosnih razloga. U Sjedinjenim Državama, na primjer, nacija se pita zašto sigurnosni nadzor Tajne službe nije uspio spriječiti pokušaj atentata na bivšeg predsjednika Donalda Trumpa 13. srpnja.
Masovni nadzor koji pokreće AI
Na temelju novih proširenih zakona o nadzoru, francuske vlasti surađivale su s AI tvrtkama Videtics, Orange Business, ChapsVision i Wintics kako bi provele sveobuhvatan AI videonadzor.
Koristili su AI nadzor na velikim koncertima, sportskim događajima te na stanicama podzemne željeznice i željezničkih postaja tijekom vrhunca sezone, uključujući koncert Taylor Swift i Filmski festival u Cannesu. Francuski dužnosnici rekli su da su ovi eksperimenti s AI nadzorom prošli dobro i da su “svjetla zelena” za buduće primjene.
Softver AI koji se koristi obično je dizajniran za otkrivanje specifičnih događaja kao što su promjene u veličini i kretanju gomile, napušteni objekti, prisutnost ili uporaba oružja, tijelo na tlu, dim ili plamen i određeni prometni prekršaji.
Cilj je da nadzorni sustavi odmah i u stvarnom vremenu detektiraju događaje kao što je gužva koja se kreće prema vratima ili osoba koja ostavlja ruksak na prometnom uglu ulice i upozore sigurnosno osoblje. Označavanje tih događaja čini se kao logična i razumna uporaba tehnologije.
Međutim, prava privatnost i pravna pitanja proizlaze iz načina na koji ti sustavi rade i kako se koriste. Koliko i koje vrste podataka je potrebno prikupiti i analizirati da bi se otkrili ti događaji? Koji su podaci o obuci sustava, stope pogrešaka i znakovi pristranosti ili netočnosti? Što se radi s podacima nakon što su prikupljeni i tko ima pristup njima?
Malo je transparentnosti za odgovor na ova pitanja. Unatoč zaštitnim mjerama koje su osmišljene kako bi se spriječila uporaba biometrijskih podataka koji mogu identificirati pojedince, moguće je da će podaci o obuci uhvatiti te informacije i sustavi će biti prilagođeni njihovoj upotrebi.
Dajući ovim privatnim tvrtkama pristup tisućama video kamera diljem Francuske, iskorištavajući i koordinirajući mogućnosti nadzora željezničkih tvrtki i prijevoznika te dopuštajući upotrebu dronova s kamerama, Francuska zakonski dopušta i podržava te tvrtke da distribuiraju softver AI svojim građanima i posjetiteljima te da ih na njima testiraju i treniraju.
Ozakonjeni masovni nadzor
Ni potreba ni praksa državnog nadzora na Olimpijskim igrama nisu ništa novo. Zabrinutost za sigurnost i privatnost na Zimskim olimpijskim igrama u Pekingu 2022. bila je toliko velika da je FBI zatražio od “svih sportaša” da ostave svoje osobne mobitele kod kuće i koriste samo jednokratni mobitel dok su u Kini zbog nadzora koji je ekstremna vlada nametnula.
Međutim, Francuska je država članica Europske unije (EU). Opća uredba EU-a o zaštiti podataka jedan je od najstrožih zakona o zaštiti podataka na svijetu, a zakon EU-a o umjetnoj inteligenciji vodi nastojanja da se reguliraju štetne primjene tehnologija umjetne inteligencije. Kao članica EU-a, Francuska se mora pridržavati zakona EU-a.
U pripremama za Olimpijske igre, Francuska je 2023. donijela Zakon br. 2023-380, paket zakona koji je trebao osigurati pravni okvir za Olimpijske igre 2024.
Sadrži kontroverzni članak 7, odredbu koja dopušta francuskim agencijama za provođenje zakona i njihovim tehničkim izvođačima da eksperimentiraju s inteligentnim videonadzorom prije, tijekom i nakon Olimpijskih igara 2024., kao i članak 10, koji posebno dopušta korištenje AI softvera za dopuštena provjera video zapisa i kamera.
Ovim zakonima Francuska postaje prva zemlja EU-a koja je legalizirala tako dalekosežan sustav nadzora koji pokreće AI.
Znanstvenici, skupine civilnog društva i aktivisti za građanska prava istaknuli su da su ovi članci u suprotnosti s Općom uredbom o zaštiti podataka i naporima EU-a da regulira AI. Tvrde da se člankom 7. posebice krše odredbe Opće uredbe o zaštiti podataka o zaštiti biometrijskih podataka.
Francuski dužnosnici i predstavnici tehnoloških tvrtki rekli su da AI softver može postići svoj cilj identificiranja i označavanja ovih specifičnih vrsta događaja bez identificiranja pojedinaca ili kršenja ograničenja Opće uredbe o zaštiti podataka o obradi biometrijskih podataka.
Međutim, europske organizacije za građanska prava istaknule su da ako je svrha i funkcija algoritama i kamera vođenih umjetnom inteligencijom otkrivanje određenih sumnjivih događaja u javnim prostorima, tada će ti sustavi neizbježno uhvatiti “fiziološke karakteristike i ponašanja” ljudi u tim prostorima će se analizirati.
To uključuje držanje, hod, pokrete, geste i izgled. Kritičari tvrde da se radi o biometrijskim podacima koji se prikupljaju i obrađuju te da francuski zakon stoga krši Opću uredbu o zaštiti podataka.
Sigurnost temeljena na umjetnoj inteligenciji – po cijeni
Za francusku vladu i AI tvrtke, AI nadzor je dosad bio obostrano koristan uspjeh. Algoritamski monitori postaju sve češći, dajući vladama i njihovim tehnološkim kolegama daleko više podataka nego što bi to mogli pružiti sami ljudi.
Ali ovi nadzorni sustavi koje pokreće AI slabo su regulirani i podliježu malom broju neovisnih testiranja. Nakon što se podaci prikupe, potencijal za daljnju analizu podataka i zadiranje u privatnost je ogroman.
