Postaju li ljudi avatari umjetne inteligencije? Kako strojevi tiho preuzimaju kontrolu nad vama.
Godinama se javna zabrinutost zbog umjetne inteligencije vrtjela oko ideje da će se strojevi okrenuti protiv ljudi. Taj strah se obično pojavljuje u metalnom obliku: roboti zamjenjuju radnike, nadmudruju vlade, kontroliraju gradove ili nameću odluke izvan ljudske vrste. Ali najneposredniji rizik mogao bi biti još čudniji od toga: umjetnoj inteligenciji ne treba robotsko tijelo ako ga sve više osiguravaju sami ljudi.
Ljudi sada pitaju umjetnu inteligenciju što jesti, kako trenirati, treba li prekinuti vezu, što reći djetetu, kako investirati, kako odgovoriti kolegi, kako smiriti tjeskobu, kako protumačiti vijest i kako isplanirati dan. Pokret, glas i potpis ostaju ljudski, dok upute počinju negdje drugdje. Stari strah bio je da će roboti postati dovoljno inteligentni da djeluju u svijetu, ali realnija je mogućnost da će ljudi dobrovoljno postati toliko podložni strojnoj kontroli da će funkcionirati kao fizički produžetak umjetne inteligencije. Jesmo li mi roboti?
Ljude zavarava znanstvena fantastika
Znanstvena fantastika je naučila ljude da zamišljaju umjetnu inteligenciju kao nešto što će se na kraju razlikovati od nas. Imala bi udove, senzore, kamere, oružje, tvorničke ruke ili sintetičko lice i pojavljivala bi se kao suparničko biće, a ne kao skriveni utjecaj. Ta verzija još uvijek može pronaći put u neka područja rada i rata, ali to nije jedini način na koji umjetna inteligencija može steći moć nad fizičkim svijetom.
Umjesto toga, obična poslušnost čini se najizravnijom opasnošću. Savjetujući ljudima da izvrše određene radnje ili što reći pri ulasku u sobu, sama umjetna inteligencija ne zahtijeva fizičku prisutnost. Umjesto toga, sustav piše poruku, preporučuje dijetu, odabire rutu, sastavlja ispriku, rangira kandidate, raspoređuje osoblje, daje upute voditelju i savjetuje pacijenta. Jedino što mu treba je da ljudi slijede upute.
Pa što ako ljudi jednostavno postanu avatari umjetne inteligencije? U digitalnoj kulturi, avatar je fizičko tijelo kojim upravlja netko drugi. Još uvijek osjećamo emocije, gestikuliramo, doživljavamo posljedice i, što je najvažnije, vjerujemo da su naši postupci dobrovoljni. Ali s postupnim prelaskom prosuđivanja s pojedinca na sustav, ljudi gube kontrolu nad vlastitim odlukama.
Kako umjetna inteligencija pretvara ljude u robote
Istraživači to opisuju kao kognitivno rasterećenje, što znači da se mentalni rad prenosi na vanjske alate. Dnevnici, kalkulatori, bilježnice i karte oduvijek su to činili, ali umjetna inteligencija dopire do drugog dijela uma jer ne samo da pamti činjenice ili vrši izračune. Ona tumači, sastavlja, savjetuje i oblikuje moguće izbore.
Studija iz 2025. – Alati umjetne inteligencije u društvu: Utjecaji na kognitivno rasterećenje i budućnost kritičkog mišljenja – pokazala je da kognitivno rasterećenje posreduje u negativnom odnosu između česte upotrebe alata umjetne inteligencije i rezultata kritičkog mišljenja. Ovo otkriće daje ozbiljnu težinu zabrinutosti koju mnogi ljudi već osjećaju u sebi: kako alati sve više preuzimaju svačije svakodnevno razmišljanje, korisnik gubi sposobnost samostalnog rada.
Ovo je posebno učinkovito jer ne zahtijeva drastično odustajanje od uma, već proizlazi iz spore promjene navike. Ljudi koji su se satima mučili s svakodnevnom administracijom ili velikim radnim pritiskom počinju tražiti pomoć od umjetne inteligencije. Zatim traže savjet o razgovoru za posao, sportskoj rutini ili planu za odmor. Na kraju, stroj prestaje samo pomagati i počinje aktivno upravljati smjerom u kojem će se korisnikove misli kretati.
Umjetna inteligencija je namjerno laka za poslušnost
Pristranost automatizacije objašnjava psihološki mehanizam koji stoji iza ove promjene. Ljudi se previše oslanjaju na preporuke strojeva, posebno kada se stroj čini samouvjerenim, brzim i tečnim. Rad na Harvardu o podršci u odlučivanju putem umjetne inteligencije otkrio je da korisnici često prihvaćaju prijedloge umjetne inteligencije, čak i kada su ti prijedlozi bili netočni, a samo to objašnjenje nije moglo pouzdano spriječiti pretjerano povjerenje. Istraživači su testirali kognitivno-kompulzivne funkcije jer su korisnici morali biti ponovno potaknuti na aktivno razmišljanje prije nego što su prihvatili odgovor stroja.
Izraz ‘čovjek u petlji’, ili osiguravanje da stvarna osoba ostane središnja u procesima umjetne inteligencije, često se koristi kao uvjeravanje. Ali u stvarnosti, pristranost automatizacije potkopava ulogu čovjeka. Unatoč tome što je formalno uključen, on postaje psihološki podređen preporuci koju prima. Ukratko, ako odgovor umjetne inteligencije zvuči uvjerljivo i štedi vrijeme, neslaganje s njim počinje se činiti kao dodatni posao.
U svakodnevnom životu to vodi do nove vrste poslušnosti bez vidljive prisile. Nitko ne naređuje korisniku da slijedi stroj. Umjesto toga, korisnik se konzultira sa strojem po vlastitom izboru jer je koristan, potom se češće vraća zbog praktičnosti i postupno se navikava na primanje prosudbi i preporuka u obliku koji se čini osobnim, neutralnim i učinkovitim.
Primjeri iz prakse: to se već događa
Najjasniji primjeri ljudi koji postaju AI avatari mogu se vidjeti u algoritamskom upravljanju. Dostavljači, skladištari, zaposlenici pozivnih centara i radnici na platformama često rade unutar sustava koji dodjeljuju zadatke, mjere brzinu, ocjenjuju učinkovitost, optimiziraju rute i određuju prioritete. Ljudsko tijelo se kreće svijetom, ali obrasce rada sve više određuje softver.
OECD definira algoritamsko upravljanje kao korištenje softvera, moguće uključujući umjetnu inteligenciju, za potpunu ili djelomičnu automatizaciju zadataka koje tradicionalno obavljaju ljudski menadžeri. Zaposlenicima sve rjeđe netko drugi govori što trebaju raditi, a sve češće primaju upute sa sučelja koje zna rutu, ciljano vrijeme, procjenu, upozorenje i sljedeći zadatak.
Ovo nije budućnost upravljanja umjetnom inteligencijom, jer je to već ovdje. Osoba je vidljiva kupcu, odgovorna poslodavcu i doživljava fizičke promjene sve učinkovitijih radnih procesa. U međuvremenu, sustav je apstraktan i udaljen, koristeći zaposlenika kao svoje praktično tijelo.
Osjećamo se slobodno, ali nas više nego ikad kontrolira umjetna inteligencija.
Politička verzija problema može se pronaći u ideji algoritamskog upravljanja, terminu na koji je utjecao rad Michela Foucaulta o moći i formiranju podanika. Problem nije samo u tome što strojevi donose odluke, već i što sustavi vođeni podacima određuju uvjete pod kojima ljudi sami donose odluke. Ponašanje je vođeno preporukama, rangiranjem, predviđanjima, personalizacijom i kontinuiranom prilagodbom.
Rad iz 2026. o algoritamskom upravljanju tvrdi da personalizacija temeljena na podacima može utjecati na subjektivnost stvaranjem okruženja prilagođenih pojedincu. To zapažanje obuhvaća nešto važno u sadašnjem trenutku: digitalni svijet više ne predstavlja samo isti javni prostor svima, već sve više svakoj osobi nudi svijet koji je strukturiran oko njezinih predviđenih interesa, strahova, želja i slabosti.
Rezultat se može osjećati kao sloboda jer je sve skrojeno po mjeri. Korisnik bira između opcija koje se čine kao da su odabrane za njega, prima savjete koji odgovaraju njegovom profilu i snalazi se u svijetu koji ga kao da poznaje. Pa ipak, personalizirani svijet može postati i ograničen svijet, gdje se najvjerojatniji put stalno čini lakšim od onog koji se više razmatra.
Ljudi ne koriste strojeve; strojevi koriste ljude
Još jedan koristan koncept je heteromacija, koja opisuje sustave u kojima je ljudski rad uključen u računalne procese, dok se vrijednost ostvaruje negdje drugdje. Ljudi označavaju podatke, treniraju modele, ispravljaju izlaze, moderiraju sadržaj, slijede upute, generiraju materijal i obavljaju zadatke koji strojeve čine autonomnijima nego što zapravo jesu.
Ekbia i Nardi opisali su heteromaciju kao nevidljivu podjelu rada između ljudi i strojeva. Prema tom gledištu, tehnologija ne eliminira samo ljudski rad. Ona reorganizira ljudski trud tako da ljudi postaju skrivena potporna struktura računalnih sustava, često bez primanja vrijednosti ili priznanja vezanog uz učinak stroja.
Generativna umjetna inteligencija proširuje ovaj aranžman na jezik, kulturu i osobne misli. Korisnici hrane sustave pitanjima, priznanjima, preferencijama, tekstovima, slikama i željama, a potom primaju izlaz koji usmjerava daljnje djelovanje. Osoba postaje i izvorni materijal i izvršitelj, i trener stroja i tijelo kroz koje se stroj vraća u svijet.
Ljudsko tijelo na kraju plaća cijenu
Madeleine Clare Elish svojim konceptom zone moralnog sloma dodaje problem odgovornosti. U složenim automatiziranim sustavima, tvrdi ona, odgovornost se može pogrešno pripisati ljudskom akteru koji je imao ograničenu kontrolu nad ponašanjem sustava. Čovjek preuzima krivnju za sustav koji nije dizajnirao, ne može u potpunosti razumjeti i možda ga nije mogao smisleno poništiti.
Ovo je jedna od najmračnijih strana odnosa s avatarom. Umjetna inteligencija može utjecati na odluku, ali čovjek i dalje potpisuje dokument, šalje e-poštu, odbija zajam, prihvaća liječnički savjet, prati navigaciju, pritiska gumb ili ponavlja savjet. Ako nešto pođe po zlu, stroj se može opisati kao alat, dok osoba postaje odgovorno tijelo povezano s njim.
Institucije će ovaj aranžman smatrati privlačnim jer održava privid ljudske odgovornosti. Osoba je bila uključena i stoga se odluka može predstaviti kao ljudska. Ipak, osoba koja je strukturno obučena da prihvati sud stroja ne vrši nikakvu vlast u starom smislu, čak i ako se zakon ili organizacija ponašaju kao da to čine.
Transformacija može započeti i kod kuće
Ova temeljna promjena ne uvodi se uvijek kroz posao – može započeti i u privatnom životu. Netko traži od umjetne inteligencije dijetu i pridržava je se, traži raspored treninga i izvršava ga, traži financijske prioritete i preuređuje svoju ušteđevinu, traži poruku za partnera i šalje je, traži pomoć s osjećajima tjeskobe i usvaja jezik koji mu umjetna inteligencija daje.
Nema ništa inherentno glupo u korištenju alata za navođenje. Mnogim ljudima je potrebna struktura, a sustavi umjetne inteligencije mogu pružiti korisnu podršku ako se koriste pažljivo. Problem leži u ponavljanju. Karakter se oblikuje ponovljenim činovima prosuđivanja, a netko tko opetovano delegira prosuđivanje može postupno izgubiti povjerenje u unutarnji čin odlučivanja.
Postupnim stvaranjem navika, stroj ne mora dominirati ljudima silom. Polako postaje primarno savjetodavno tijelo prije neovisnog razmišljanja, preferirani posrednik prije teškog razgovora i skriveni autoritet koji savjetuje o sljedećem koraku. Život nije preusmjeren naredbama, već praktičnošću.
Posljednja misao
Nekad smo se bojali da će roboti biti alat umjetne inteligencije korišten protiv čovječanstva. Čini se da najvjerojatnija opasnost više nije da strojevi stječu fizička tijela, već da mi dobrovoljno nudimo vlastita tijela. Ljudi mogu ostati biološki nepromijenjeni, a sve se više koriste kao instrumenti za govor, kretanje, rad i strojno generirane fizičke radnje.
Budućnost – ili zapravo sadašnjost – stoga ne nalikuje pobuni iz znanstvenofantastične priče. Umjesto toga, ljudi i dalje idu na posao, odgajaju djecu, kupuju hranu, glasaju, izlaze, bave se sportom, raspravljaju i mole, ali sud iza tih postupaka sve se više sugerira, formulira i optimizira sustavima nad kojima nemaju kontrolu. Osoba ostaje fizički prisutna, ali radnje koje izvodi kontroliraju se daljinski.
Umjetna inteligencija, naravno, može postati koristan sluga ako se zadrži na svom mjestu. Strojeve treba dovesti u pitanje, suočiti s otporom i koristiti ih samo za izoštravanje rasuđivanja, a ne za potpunu zamjenu. Kako postaje nevidljivi izvor svakodnevnih uputa, stara razlika između čovjeka i stroja počinje blijedjeti. Robot ne dolazi kao metal – dolazi kao čovjek koji je zaboravio kako samostalno razmišljati.
