Zašto se tehnooligarsi tiho pripremaju za ‘AI apokalipsu’?, piše Leo Hohmann.
Vodeći tehnokrat Eric Schmidt, bivši izvršni direktor Googlea, upozorava da se umjetna inteligencija razvija brže nego što se društvo može pripremiti za nju, da sustavi umjetne inteligencije uče sami sebe poboljšavati te da insajderi iz Silicijske doline vjeruju kako bi superinteligencija mogla postati stvarnost u roku od dvije godine.
Objašnjava kako umjetna inteligencija nadograđuje samu sebe na način koji strojevima omogućuje brže učenje nego ljudima te zašto se istraživači boje stvaranja novog oblika inteligencije koji nećemo moći kontrolirati.
Navodno su AI agenti tvrtke OpenAI nedavno pobjegli iz svojih testnih okruženja, ukrali vjerodajnice za pristup tvrtkama i prodrli u sustave koji su se dotad smatrali sigurnima.
Schmidt priznaje da je umjetna inteligencija već nadmašila njegove iznimne programerske sposobnosti, istodobno upozoravajući da industrija nekako mora spriječiti nastanak onoga što se svodi na savršenu tehnološku oluju prije nego što ti sustavi postanu još moćniji.
Je li čovječanstvo spremno za ono što dolazi?
Schmidt je nedavno govorio u podcastu, prikazanom u nastavku, u razgovoru s predstavnikom investicijske tvrtke Blackstone, koja posjeduje više od 280 poduzeća čija zajednička vrijednost iznosi bilijune dolara. Oko četrnaeste minute Schmidt navodi primjer tvrtke koja je smanjila broj zaposlenika u odjelu korisničke podrške s 9.000 na 5.000 tako što je posao prepustila AI agentima. A to je bilo 2025. godine, kada umjetna inteligencija još ni približno nije bila sposobna kao danas.
Zatim govori o važnosti podatkovnih centara za nastavak razvoja umjetne inteligencije. Procjenjuje se da će umjetna inteligencija do 2030. godine biti odgovorna za 11 posto ukupne potražnje za električnom energijom u Sjedinjenim Američkim Državama.
„To je, prema bilo kojem mjerilu, izvanredna promjena. Povijesno gledano, taj je udio iznosio 2 ili 3 posto”, kaže Schmidt. Zaključuje potičući izvršne direktore poduzeća da prihvate umjetnu inteligenciju kao ključ produktivnosti i „zarade više novca”.
Ono na što se ne osvrće jest što bi se trebalo dogoditi sa svim ljudima koji će izgubiti posao zbog eksplozivnog porasta sposobnosti umjetne inteligencije kada izvršni direktori prihvate njegov izazov. To će njima samima i njihovim dioničarima donijeti više novca, ali radnička klasa, koja i dalje mora uzdržavati svoje obitelji, imat će manje. Tu na scenu stupa depopulacija.
Kako sve više ljudi postaje ovisno o umjetnoj inteligenciji, dodatni razlog za zabrinutost predstavlja gubitak izvornih ljudskih sposobnosti razmišljanja i kreativnosti.
Schmidt priznaje da je to „loše za društvo”. Nema odgovora na pitanje kako se taj slom može spriječiti, osim „većeg državnog nadzora”.
To me dovodi do još jedne priče koja se pojavila ovog tjedna, a to je da se tehnološke elite potajno pripremaju za apokalipsu umjetne inteligencije, događaj koji bi navodno mogao dovesti do kraja civilizacije, kako je to opisao Slay News u članku od 16. listopada, u kojem je napisano:
Visoki dužnosnik iz industrije umjetne inteligencije poziva ljude da se pripreme za napade koji bi mogli onesposobiti bankovne sustave, električnu energiju i pristup internetu, dok se neki od najmoćnijih ljudi u toj industriji pripremaju za katastrofu.
Andreas Stuhlmüller, izvršni direktor i suosnivač istraživačke tvrtke za umjetnu inteligenciju Elicit, objavio je kontrolni popis za preživljavanje u kojem preporučuje gotovinu, sredstva za hitnu komunikaciju, rezervne izvore napajanja te hranu i vodu za nekoliko tjedana.
„Gotovina: pobrinite se da imate dovoljno gotovine za život tijekom nekoliko tjedana”, savjetovao je Stuhlmüller u objavi na X-u.
Njegovi savjeti uključuju i Starlinkov terminal, baterije, generator, solarne panele te radio za hitne slučajeve s ručnom kurblom.
Upozorenje dolazi u trenutku kada tvrtke za umjetnu inteligenciju objavljuju da sustavi izlaze iz testnih okruženja i izvode kibernetičke napade, dok istraživači upozoravaju da bi sve napredniji alati mogli predstavljati prijetnju infrastrukturi na kojoj se temelji svakodnevni život.
Ponovno vidimo nekoga tko se ponaša kao da raspolaže povjerljivim informacijama unaprijed i savjetuje nam da se pripremimo za događaj tipa black swan (crni labud), koji bi mogao trajati „nekoliko tjedana”. To je najvjerojatnije slučaj ograničenog otkrivanja informacija (limited hangout), pri čemu se djelomično otkriva nadolazeća oluja koja će, kada naposljetku izbije, biti mnogo gora i trajati mnogo dulje.
Klaus Schwab, bivši čelnik Svjetskog gospodarskog foruma, prije više od pet godina upozorio je na razoran kibernetički događaj zbog kojeg bi „Covid izgledao kao manji poremećaj”.
To se još nije dogodilo, ali upozorenja i dalje pristižu iz različitih izvora unutar tehnološkog svijeta.
Svi smo mislili da bi kibernetički napad velikih razmjera mogao potjecati od neke države poput Kine, Rusije ili Irana. A to bi se još uvijek moglo dogoditi.
Štoviše, danas je objavljeno da je Iran zaprijetio kako će na buduće napade na svojem teritoriju odgovoriti sabotažom sedam važnih podmorskih internetskih kabela u Hormuškom tjesnacu, što bi moglo poremetiti globalne komunikacijske i podatkovne mreže.
No jeste li ikada pomislili da bi do sloma mogli dovesti i ljudi unutar industrije umjetne inteligencije, oni koji su napisali velik dio koda za umjetnu inteligenciju, ali sada gledaju kako će se plodovi njihova rada iskoristiti za uništavanje tolikih života na Zemlji? Sada kada su to shvatili, bi li se mogli okrenuti protiv sustava i organizirati kibernetičke napade na upravo one sustave koje su i sami pomogli stvoriti?
OpenAI, Anthropic i Meta tijekom prošle su godine prijavili incidente u kojima su AI agenti pobjegli iz testnih okruženja i napali vanjske internetske stranice ili računalne sustave.
Je li onda čudno što tehnološki oligarsi grade luksuzne, teško utvrđene podzemne bunkere?
Što god da nam predstoji, zapadno društvo i svijet nisu spremni za to. Revolucija umjetne inteligencije u nekom će trenutku izazvati protureakciju protiv onih koje se smatra odgovornima za uništavanje milijuna udobnih ili barem razmjerno funkcionalnih načina života.
Ono o čemu Schmidt govori zapravo se svodi na čovjekovu prastaru težnju za predviđanjem budućnosti. Moderni Babilonski toranj sposoban rješavati probleme prije nego što se pojave. Ali bez ljudske savjesti. Bez ljudske odgovornosti. Ideja da cilj opravdava sredstva mogla bi djelovati poput udarca maljem kada odluke kojima upravlja umjetna inteligencija počnu određivati državne politike.
U današnjem svijetu podaci su moć.
I kao što moj kršćanski brat često voli reći: oni unutar vlasti (a ja bih tome dodao i one u poslovnom svijetu) koji više vole moć nego Boga opasni su. Oni jašu na valu umjetne inteligencije putem koji može voditi samo u totalitarizam. Neki to nazivaju tehnokracijom. Neki to nazivaju sustavom Zvijeri. Neki to nazivaju tehnofašizmom ili nadzornim kapitalizmom. Kako god to nazvali, čini se da nam je tiranija sudbina ako ne siđemo s ljestvice eskalacije umjetne inteligencije prije nego što bude prekasno.
Je li uopće moguće zaustaviti ono što se sada razvija?
Nisam siguran da je to moguće.
Stoga jedino što možemo učiniti jest pripremiti se za nadolazeći slom.
Moramo se uskladiti s Bogom, proučavati Njegovu Riječ i moliti se za sposobnost razlučivanja. Jer stvari će uskoro postati doista ozbiljne.
