Kako umjetna inteligencija i duboka država digitaliziraju tiraniju.
Ako tvrtka ili mala skupina ljudi uspije razviti božansku digitalnu superinteligenciju, mogli bi preuzeti svijet. Barem ako postoji zli diktator, ta će osoba umrijeti. Ali za umjetnu inteligenciju ne bi bilo smrti. Živjela bi vječno. A onda bismo imali besmrtnog diktatora kojem nikada ne bismo mogli pobjeći.“
Elon Musk
Duboka država ne nestaje. Jednostavno je zamjenjuje. Ne karizmatični autokrat ili čak neprozirna birokracija, već umjetna inteligencija (AI) – bezosjećajna, nekontrolirana i besmrtna.
Dok stojimo na pragu novog tehnološkog poretka, moć tiho prelazi u ruke algoritama.
Pod Donaldom Trumpom, ova promjena će biti ukorijenjena barem jednu generaciju.
Trumpova najnovija zakonodavna inicijativa – desetogodišnja zabrana regulacije umjetne inteligencije skrivena u “Jednom velikom lijepom zakonu” – lišava države i lokalne vlasti bilo kakve mogućnosti postavljanja bilo kakvih ograničenja za umjetnu inteligenciju do 2035. godine.
Unatoč dvostranačkim upozorenjima 40 državnih odvjetnika, zakon je prošao Zastupnički dom i sada čeka odobrenje Senata. On predstavlja ništa manje od nacionalnog odobrenja za djelovanje umjetne inteligencije bez nadzora u svim područjima života, od provedbe zakona i zapošljavanja do zdravstva, obrazovanja i digitalnog nadzora.
Ovo nije inovacija.
Ovo je institucionalizirana automatizacija tiranije.
U stanju algoritamskog upravljanja, kod brzo zamjenjuje ustavno pravo kao kontrolni mehanizam.
Brzo se mijenjamo od društva kojim upravljaju zakoni i vladavina prava do društva kojim upravlja softver.
Algoritamsko upravljanje odnosi se na korištenje strojnog učenja i automatiziranih sustava za donošenje odluka za obavljanje funkcija koje su prije bile rezervirane za ljude: policijski rad, socijalna skrb, kontrola imigracije, zapošljavanje, provjera kreditne sposobnosti i procjena pravnog rizika.
U ovom režimu, zakon se više ne tumači. Izvršava se. Automatski. Mehanički. Bez prostora za žalbu, diskreciju ili ljudsku milost.
Ovi AI sustavi oslanjaju se na povijesne podatke – podatke podložne sistemskim pristranostima i ljudskim pogreškama – kako bi donosili predviđanja i odluke. Prediktivni policijski algoritmi govore policajcima gdje patrolirati i koga zaustaviti. Tehnologija prepoznavanja lica označava “osumnjičenike” na temelju fotografija prikupljenih s društvenih mreža. Softver za procjenu rizika dodjeljuje građanima ocjene prijetnje bez objašnjenja, nadzora ili mogućnosti pravnog lijeka.
Ti algoritmi rade u crnim kutijama, zaštićeni poslovnim tajnama i zaštićeni izuzećima nacionalne sigurnosti. Javnost ih ne može vidjeti. Sudovi ih ne mogu osporiti. Građani im ne mogu pobjeći.
Rezultat? Populacija sortirana, procijenjena i nadzirana strojevima.
Ovo je praktični rezultat deregulacijske agende Trumpove administracije: sustavima umjetne inteligencije daju se slobodne ruke da prate, kategoriziraju i kriminaliziraju javnost bez transparentnosti ili mogućnosti pravnog lijeka.
I to nisu teoretske opasnosti – one su već stvarnost.
Primjeri nekontrolirane umjetne inteligencije i prediktivnog policijskog djelovanja pokazuju da je preventivni kriminal već stvarnost.
Svatko tko je ikada bio ocijenjen i označen od strane stroja može očekivati posljedice koje mijenjaju život – poput Michaela Williamsa, 65-godišnjaka koji je proveo gotovo godinu dana u zatvoru zbog zločina koji nije počinio. Williams je vozio kada je automobil u prolazu pucao na njegovo vozilo, ubivši njegovog 25-godišnjeg suputnika koji je autostopirao.
Unatoč nedostatku motiva, oružja i očevidaca, policija je podigla optužnicu protiv Williamsa na temelju programa za detekciju pucnjeva pokretanog umjetnom inteligencijom pod nazivom ShotSpotter. Sustav je detektirao glasan prasak u blizini mjesta zločina i, na temelju triangulacije, lokalizirao ga na Williamsovo vozilo. Optužbe su na kraju odbačene zbog nedostatka dokaza.
Ovo je preventivni kriminal u akciji. Predviđanje, a ne dokaz. Algoritam, a ne očevidac.
Programi poput ShotSpottera poznati su po tome što pogrešno klasificiraju zvukove poput vatrometa i građevinskih radova kao pucnjavu. Zaposlenici su čak ručno mijenjali podatke kako bi se podudarali s policijskim narativima. Pa ipak, ovi se sustavi kombiniraju s prediktivnim policijskim softverom za izradu karata rizika, ciljanje pojedinaca i opravdanje mjera nadzora – sve bez transparentnosti ili odgovornosti.
To nije sve.
Umjetna inteligencija sada označava obitelji kao potencijalno zanemarene po pitanju djece na temelju prediktivnih modela koji koriste podatke iz Medicaida, zdravstvenih, zatvorskih i stambenih evidencija. Ovi modeli nesrazmjerno ciljaju siromašne i manjinske obitelji. Algoritam dodjeljuje ocjene rizika od 1 do 20. Obiteljima i njihovim zagovornicima nikada se ne govori koji su rezultati ili da su korišteni.
Zamislite da izgubite dijete zbog sustava udomiteljstva jer vas je tajni algoritam klasificirao kao osobu visokog rizika.
Ovako umjetna inteligencija redefinira krivnju.
Pristup Trumpove administracije regulaciji umjetne inteligencije otkriva dublji plan deregulacije same demokracije.
Umjesto da obuzda te zlouporabe, Trumpova administracija ih ubrzava.
Izvršna naredba koju je predsjednik Trump potpisao početkom 2025. pod nazivom “Uklanjanje prepreka američkom vodstvu u umjetnoj inteligenciji” ukinula je prethodne zaštitne mjere za umjetnu inteligenciju, ukinula revizije pristranosti i naložila agencijama da daju prioritet “inovacijama” nad etikom. Naredba potiče sve savezne agencije da brzo usvoje umjetnu inteligenciju, posebno u područjima kao što su policijski rad i nadzor.
Pod krinkom „učinkovitosti“ potkopavaju se ustavne zaštite.
Trumpov desetogodišnji moratorij na regulaciju umjetne inteligencije logičan je sljedeći korak. Uklanja posljednju liniju obrane – otpor na razini države – i osigurava jedinstvenu nacionalnu politiku algoritamske dominacije.
Rezultat je sustav u kojem vlada više ne vlada. Ona obrađuje.
Širenje umjetne inteligencije savezne vlade stvara državu nadzora koju nijedna ljudska vlast ne može kontrolirati.
Dobrodošli u Nadzornu Državu 2.0, besmrtni stroj.
U saveznim agencijama prijavljeno je preko 1700 primjena umjetne inteligencije, od kojih stotine imaju izravan utjecaj na sigurnost i ljudska prava. Mnoge agencije, uključujući Ministarstvo domovinske sigurnosti, Ministarstvo za pitanja branitelja i Ministarstvo zdravstva i socijalnih usluga, koriste umjetnu inteligenciju za donošenje odluka bez javnog sudjelovanja ili nadzora.
To je ono što tehnokrati nazivaju “algokracijom” – vladavinom algoritama.
U algokraciji, neizabrani programeri i korporativni izvođači radova imaju više moći nad vašim životom nego izabrani dužnosnici.
Vaše zdravlje, sloboda, mobilnost i privatnost podliježu automatiziranim sustavima procjene koje ne možete vidjeti i od kojih se ne možete braniti.
I za razliku čak i od najtvrdokornijih ljudskih diktatora, ovi sustavi ne umiru. Oni ne zaboravljaju. Nisu podložni milosti ili razumu. Ne kandiduju se za reizbor.
Oni nastavljaju postojati.
Kada umjetna inteligencija vlada putem predviđanja, vladavina prava nestaje u magli strojne logike.
Najstrašniji utjecaj ovog digitalnog režima je kraj vladavine prava.
Kojem se sudu možete obratiti ako vas je algoritam klasificirao kao prijetnju? Koji odvjetnik može unakrsno ispitati prediktivni model? Koja porota može procijeniti obrazloženje neuronske mreže obučene s neispravnim podacima?
Kriv si jer stroj tako kaže. A stroj nikad ne griješi.
Kada se pošteni postupci uključe u obradu podataka, teret dokazivanja se obrće. Pretpostavka nevinosti nestaje. Građani su prisiljeni dokazati da nisu prijetnja, rizik ili neprijatelj.
I većinu vremena ni ne znaju da su označeni.
Ova erozija vladavine prava nije samo pravni neuspjeh, već i filozofski, svodeći ljude na podatkovne točke u sustavima koji više ne prepoznaju njihovu ljudskost.
Prije više od pola stoljeća, pisac i vizionar Rod Serling upozorio je upravo na ovaj scenarij: svijet u kojem tehnologija, prikrivena kao napredak pod krinkom reda i logike, postaje instrument tiranije.
Ova budućnost više nije fikcija. Ono što je Serling zamislio sada je stvarnost.
Sada je vrijeme za otpor prije nego što se sloboda izgubi.
Za one na vlasti u vladinim zgradama, „mi, narod“ smo samo sredstvo za postizanje cilja.
„Mi, narod“ – oni koji misle, oni koji se prepiru, oni koji zauzimaju stav, oni koji se opiru, oni koji žele da se prema njima postupa s dostojanstvom i poštovanjem, oni koji vjeruju u slobodu i pravdu za sve – postali smo suvišni, podcijenjeni građani totalitarne države koja, kako je Serling rekao, „uzima u obzir svakog diktatora koji je ostavio svoj krvavi trag u povijesti od početka vremena. On ima suptilnosti, tehnološki napredak i sofisticiraniju metodu uništavanja slobode ljudi.“
U tom smislu, svi smo mi Romney Wordsworth, osuđenik u Serlingovoj epizodi “Zastarjeli čovjek” iz serije “Zona sumraka”.
“Zastarjeli čovjek”, priča o brisanju individualne vrijednosti od strane mehanizirane države, naglašava opasnost od toga da ljudi postanu nebitni u sustavu hladne automatizacije i govori o opasnostima vlade koja ljude smatra potrošnim materijalom kada više nisu korisni državi. Ali – i evo ključne stvari – upravo ovdje i vlada postaje zastarjela zbog svoje monstruozne nečovječnosti.
Kao što je Serling izjavio u svom originalnom scenariju za “Zastarjeli čovjek”, “Svaka država, svaki entitet, svaka ideologija koja ne priznaje vrijednost, dostojanstvo i prava čovjeka je zastarjela.”
Kao i u Serlingovoj totalitarnoj državi, naša budućnost ovisit će o tome hoćemo li se pokoriti dehumanizirajućem strojnom poretku – ili ćemo se boriti prije nego što besmrtni diktator stekne apsolutnu moć.
Sada stojimo na raskrižju: ili se odupiremo usponu besmrtnog diktatora ili se pokoravamo vladavini stroja.
Ovo nije borba protiv tehnologije, već borba protiv nekontrolirane, neregulirane i nedemokratske upotrebe tehnologije za kontrolu ljudi.
Moramo zahtijevati algoritamsku transparentnost, suverenitet podataka i pravne lijekove protiv automatiziranih odluka. Potrebna nam je digitalna povelja o temeljnim pravima koja jamči sljedeće:
- Pravo da znamo kako algoritmi utječu na nas.
- Pravo na osporavanje i pritužbu na automatizirane odluke.
- Pravo na privatnost i sigurnost podataka.
- Pravo na slobodu od automatiziranog nadzora i prediktivnog policijskog djelovanja.
- Pravo na zaborav.
U suprotnom, umjetna inteligencija će postati ultimativni provoditelj nadzornog stanja iz kojeg nema bijega.
Eric Schmidt, bivši izvršni direktor Googlea, upozorio je: „Znamo gdje ste. Znamo gdje ste bili. Možemo manje-više znati što mislite. Vaš digitalni identitet živjet će zauvijek… jer nema gumba za brisanje.“
Besmrtni diktator, zaista.
Budimo jasni: prijetnja nije samo našoj privatnosti, već i samoj demokraciji u koju se svi oni toliko jako kunu.
