Sljedeća faza Velikog reseta je zamjena ljudi.
Cilj je oduvijek bio zamijeniti ljude. Sada se to zapravo počinje oblikovati.
Godinama su nas insajderi pokušavali upozoriti – inženjeri, zviždači, cijeli timovi unutar najvećih svjetskih tehnoloških tvrtki. Vidjeli su kamo ide umjetna inteligencija… i što se od nje dogodilo.
Bili su ignorirani, odbačeni i otpisani kao pretjerani.
Maria Zeee ističe obrazac koji je sve teže ignorirati – gdje se tehnologija koja se nekada prodavala kao napredak sada koristi za nadzor, automatizirano ratovanje i sustavnu zamjenu ljudskog rada u velikim razmjerima.
I što je u vezi s tim najopasnije?
Ovo nije uvid u budućnost. Ovo se već događa.
Večeras nastavljamo s 2. dijelom naše serije „Veliko resetiranje: Sljedeća faza“ – i ono što ćemo vam pokazati jasno pokazuje jednu stvar: Ova sljedeća faza nije odmah iza ugla, već je u tijeku.
Prije svake veće krize uvijek postoje glasovi koji pokušavaju oglasiti uzbunu. Oni se odbacuju, etiketiraju kao pretjerani, nazivaju “širačima straha” ili još gore.
Ali ovaj put, ova upozorenja nisu prošla nezapaženo. Pokazala su se istinitima.
Ljudi najbliži ovoj tehnologiji točno su prepoznali kamo će ona odvesti – i sada to doživljavamo u stvarnom vremenu.
Sutra navečer ćemo se usredotočiti na rješenja. Ali danas se moramo pozabaviti nečim puno hitnijim: kako će svijet izgledati ako nitko ne intervenira da promijeni kurs.
Rizici povezani s umjetnom inteligencijom nikada nisu bili skriveni – rano su ih prepoznali upravo oni koji razvijaju te sustave.
Inženjeri i zaposlenici velikih tehnoloških tvrtki više su puta izrazili jasnu zabrinutost zbog toga kako bi se ti alati mogli koristiti za nadzor i ratovanje. Shvatili su nešto temeljno: kada jednom postoji mogućnost, kontrola postaje sporedna. Infrastruktura pokreće širenje.
Čak i ako uprava obeća ograničenja, poticaji djeluju u suprotnom smjeru.
Tisuće zaposlenika Googlea potpisale su 2018. godine pismo protiv vojnih projekata umjetne inteligencije, upozoravajući: “Vjerujemo da Google ne bi trebao biti uključen u rat.”
Ovo upozorenje ukazuje na dublju stvarnost. Umjetna inteligencija neće ostati ograničena na svoju izvornu svrhu. Nakon što se integrira u obrambene strukture, postat će prilagodljiva, skalabilna i sve teže ju je obuzdati. Godinama kasnije, optužbe zviždača sugeriraju da scenariji kojih su se zaposlenici bojali više nisu hipotetski.
Teško je promašiti obrazac – unutarnji otpor, uvjeravanje javnosti, a zatim tiha eskalacija. Oni koji su bili najbliži tehnologiji vidjeli su kamo će to odvesti.
I čak ni oni to nisu mogli zaustaviti.
Ono što se trenutno koristi pokazuje koliko je razvoj već napredovao.
Stvaraju se sustavi koji kombiniraju cijeli proces modernog ratovanja u jedno korisničko sučelje – podaci ulaze, ciljevi se identificiraju, opcije se generiraju i akcije se izvršavaju u kontinuiranom ciklusu.
U demonstraciji uživo Palantirovog sustava za akviziciju ciljeva pokretanog umjetnom inteligencijom, jedan je od voditelja objasnio koliko se brzo meta može identificirati i pokrenuti: “Lijevi klik, desni klik, lijevi klik – i poput magije, postaje detekcija.”
Ova jednostavnost nije samo pogodnost – to je transformacija. Ljudsko trenje se eliminira, a odluke koje su nekada zahtijevale koordinaciju, promišljanje i vrijeme sada su svedene na gotovo trenutne tijekove rada. Proces se odvija od otkrivanja do djelovanja s minimalnim prekidima, proces koji se opisuje kao “zatvaranje lanca ubijanja”.
Kako se učinkovitost povećava, smanjuje se ljudska uključenost. Operater postaje manje uključen u rezultat, dok sustav postaje brži, skalabilniji i autonomniji.
I jednom kada ta sposobnost postoji, neće ostati ograničena na bojno polje ili jedan kontekst.
Ona postaje model.
Sučelje između umjetne inteligencije i biotehnologije donosi novu vrstu rizika – onu koju je teže predvidjeti i daleko teže kontrolirati.
Zabrinutost nije samo zbog zloupotrebe. Radi se o brzini. Radi se o autonomiji.
Stručnjak za obranu opisao je scenarij bliske budućnosti u kojem bi sustavi umjetne inteligencije mogli provoditi cijele laboratorijske eksperimente bez ljudskog nadzora, upozoravajući: “Mogli biste biti u laboratoriju… i sustav bi morao sve raditi autonomno.”
Ova mogućnost uklanja jedno od posljednjih preostalih ograničenja složenih istraživanja: vrijeme i ljudski nadzor. Autonomni sustavi mogli bi ubrzati eksperimente izvan granica za koje su dizajnirane postojeće sigurnosne mjere, a ako ti sustavi rade s biološkim materijalom, posljedice će biti daleko ozbiljnije.
Temeljni problem je usklađenost. AI sustavi ne “razumiju” rezultate – oni optimiziraju imajući na umu ciljeve. Ako su ti ciljevi manjkavi, nepotpuni ili usko definirani, sustav može proizvesti štetne rezultate, a istovremeno funkcionirati točno onako kako je predviđeno.
Kada se donošenje odluka prebaci na ove sustave, ljudska prosudba postaje sekundarna, a intervencija otežana.
U ovom trenutku, izazov više nije samo razvoj tehnologije.
Cilj je osigurati da se ponaša na način koji je u skladu s ljudskim vrijednostima – nešto što postaje sve teže kako sustavi postaju moćniji i neovisniji.
Ekonomski utjecaj se brzo i istovremeno osjeća u brojnim industrijama.
Tvrtke ne samo da polako implementiraju umjetnu inteligenciju – one potpuno restrukturiraju svoje poslovanje oko nje. Čitave poslovne jedinice se ukidaju, deseci tisuća radnih mjesta se ukidaju u roku od nekoliko mjeseci, iako prihodi rastu, a cijene dionica rastu.
Uzorak je jasan: masovno ulagati u umjetnu inteligenciju, smanjiti broj zaposlenih i biti za to nagrađen.
U velikim tvrtkama ne radi se samo o uštedi troškova – radi se o promjeni načina na koji tvrtke posluju. Automatizacija smanjuje troškove, tržišta nagrađuju učinkovitost, a kada ovaj ciklus započne, brzo se širi.
U nedavnom intervjuu, rukovoditelj u industriji umjetne inteligencije upozorio je koliko brzo bi uredski poslovi mogli nestati: „Većina tih zadataka bit će u potpunosti automatizirana umjetnom inteligencijom u sljedećih 12 do 18 mjeseci.“
Ono što su mnogi desetljećima smatrali danim sada se svodi na mjesece. Poslovi u bijelim ovratnicima – koji su se dugo smatrali stabilnima – odjednom su ugroženi, a kako se to širi na sektore, učinci se protežu daleko izvan zaposlenosti. Utječu na ekonomsku stabilnost, identitet radne snage i dugoročno planiranje.
Možda postoje područja koja su otporna, posebno u praktičnom, fizičkom radu, ali čak su i ona pod pritiskom prilagodbe.
Cjelokupnu sliku karakterizira ubrzanje – ne spor razvoj, već brzo restrukturiranje koje se odvija istovremeno u svim sustavima.
A kada tehnološke mogućnosti, ekonomski poticaji i institucionalna dinamika pokazuju u istom smjeru, tempo promjena ne samo da se povećava.
Množi se.
