Planirani tehnološki regulatorni okvir EU-a uistinu ide predaleko.
Prošli mjesec pisali smo o kalifornijskom zakonu o graničnoj umjetnoj inteligenciji iz 2025. Zakon daje prioritet formalnoj usklađenosti s propisima nad stvarnim upravljanjem rizicima te štiti birokrate i zakonodavce od odgovornosti. Najvažnije je da provodi regulatorne standarde od vrha prema dolje umjesto da dopušta civilnom društvu i stručnjacima iz industrije da testiraju i razvijaju etičke standarde od dna prema vrhu.
Moglo bi se ovaj zakon odbaciti kao još jedan primjer kalifornijskih intervencionističkih tendencija. Međutim, neki američki političari i regulatori već pozivaju da on posluži kao “predložak za usklađivanje saveznog i državnog nadzora”. Drugi izvor takvog predloška bila bi Europska unija (EU) – što je, dakle, dovoljan razlog da se pomno prati propisi iz Bruxellesa.
No, s druge pak strane EU je već daleko ispred Kalifornije u provođenju problematične regulacije od vrha prema dolje. Zapravo, Zakon EU o umjetnoj inteligenciji iz 2024. slijedi opće načelo opreza EU. Kako objašnjava interni think tank Europskog parlamenta, „Načelo opreza omogućuje kreatorima politika da poduzmu mjere opreza kada su znanstveni dokazi o rizicima za okoliš ili zdravlje nesigurni, a ulozi visoki.“
Ovo načelo daje EU ogromnu moć reguliranja u neizvjesnosti – umjesto da dopušta eksperimentiranje unutar granica kazni i odgovornosti (kao u SAD-u). Guši etičko učenje i inovacije. Zbog načela opreza i povezane regulacije, gospodarstvo EU pati od veće koncentracije tržišta, viših regulatornih troškova i smanjene inovacije – u usporedbi s okruženjem koje omogućuje eksperimentiranje i dobro upravljanje rizicima. Nije iznenađujuće da se samo četiri od 50 vodećih svjetskih tehnoloških tvrtki nalaze u Europi.
Od gušenih inovacija do gušene privatnosti
Uz načelo opreznosti, druga pokretačka snaga regulacije EU jest provedba prava – iako selektivnim izborom iz Povelje EU o temeljnim pravima, pri čemu su prava često u sukobu jedno s drugim. Primjerice, Opća uredba o zaštiti podataka (GDPR) iz 2016. uvedena je s ciljem osiguranja temeljnog prava na zaštitu osobnih podataka (tehnički odvojeno od prava na privatnost, koje EU-u daje znatno više ovlasti intervencije – tema za specijalizirane časopise). U konačnici, GDPR je ograničio pravo na ekonomsku slobodu.
Ovaj put, temeljna prava se koriste kako bi se opravdao pristup EU-a borbi protiv seksualnog zlostavljanja djece. Svi cijenimo temeljna prava i svi se gnušamo zlostavljanja djece. Pa ipak, tijekom godina, temeljna prava su se koristila kao tupo, ali snažno oružje za proširenje regulatornih ovlasti EU-a. Predložena uredba o borbi protiv seksualnog zlostavljanja djece (CSA) nije iznimka. Međutim, ono što je iznimno jest opseg zadiranja: EU predlaže praćenje komunikacije europskih građana i njihovo neselektivno tretiranje kao potencijalne prijetnje, a ne kao zaštićeni govor s prima facie pravom na privatnost.
Od 26. studenog 2025. birokracija EU pregovara o detaljima CSA-a. Najnoviji nacrt, srećom – barem formalno – ukida obvezno provjeravanje privatne komunikacije. Međutim, postoji kvaka. Pružatelji usluga hostinga i interpersonalne komunikacije moraju identificirati, analizirati i procijeniti kako bi se njihove usluge mogle koristiti za seksualno zlostavljanje djece na internetu, a zatim poduzeti „sve odgovarajuće korektivne mjere“. S obzirom na takav neograničeni mandat i prijetnju odgovornosti, mnogi pružatelji usluga mogli bi zaključiti da je najsigurniji – i pravno najrazboritiji – način dokazivanja usklađenosti s propisima EU-a široko rasprostranjeno skeniranje privatne komunikacije.
Nacrt CSA-a inzistira na tome da se korektivne mjere, gdje je to moguće, ograniče na određene dijelove usluge ili određene korisničke skupine. Međutim, struktura poticaja ukazuje na drugi smjer. Sveobuhvatno praćenje moglo bi se pokazati jedinom održivom opcijom za usklađenost s propisima. Ono što se danas predstavlja kao dobrovoljno riskira da sutra postane de facto obveza.
Riječima danskog ministra pravosuđa Petera Hummelgaarda: „Svake godine dijele se milijuni datoteka koje prikazuju seksualno zlostavljanje djece. I iza svake slike i videa stoji dijete koje je bilo podvrgnuto najstrašnijem i najokrutnijem zlostavljanju. To je potpuno neprihvatljivo.“ Nitko ne osporava ozbiljnost ili neprihvatljivost problema. Ipak, prema ovom narativu, od telekomunikacijske industrije i europskih građana očekuje se da prihvate opasne mjere ublažavanja rizika koje će vjerojatno rezultirati gubitkom privatnosti za građane i dalekosežnim nadzornim ovlastima za državu.
Tvrdi se da troškovi nisu ništa u usporedbi s koristima
Konačno: Tko se ne bi želio boriti protiv seksualnog zlostavljanja djece? Krajnje je vrijeme da duboko udahnemo. Zlostavljače djece treba strogo kazniti. Međutim, to ne oslobađa slobodno društvo od poštivanja drugih temeljnih vrijednosti.
Ali čekajte – ima još…
Sveobuhvatan nadzor? Pa, ne baš sveobuhvatan.
Unatoč moralnom imperativu zaštite djece – imperativu toliko snažnom da je EU spremna kompromitirati druge temeljne vrijednosti zbog njega – prijedlog CSA-e uvodi prikladnu iznimku. Sve što spada pod nacionalnu sigurnost, kao i sve elektroničke komunikacijske usluge koje nisu javno dostupne (tj. samo za izabrane dužnosnike i birokrate), ostat će potpuno netaknute. Privatni razgovori građana bit će nadzirani – ali ne i razgovori onih koji tvrde da nas štite.
Kao što je ministar rekao: „Iza svake slike i videa stoji dijete koje je bilo podvrgnuto najstrašnijem i najokrutnijem zlostavljanju.“ Ako se to odnosi na „svaku sliku i video“, zašto se ne bi odnosilo i na poruke zaštićene iznimkama nacionalne sigurnosti i nejavnih službi? Nestaje li užas nekako kada su korisnici političari ili birokrati u pitanju? Postaje li neprihvatljivo odjednom prihvatljivo kada utječe na one koji pišu pravila?
U hijerarhiji prava EU-a, zaštita djece je važnija od privatnosti. Ali zaštita eurokrata je važnija od zaštite djece. U konačnici, moderna tehnologija političarima daje neviđene mogućnosti praćenja građana – dok sami izbjegavaju nadzor.
Koliko znamo, još nema rasprava o uvođenju sličnih mjera u SAD-u. Ali od poreza na bogatstvo do regulacije umjetne inteligencije i podrijetla američke birokratske države, loše ideje iz Europe imaju nesretnu naviku pronaći put preko Atlantika.
