Petnaest načina na koje umjetna inteligencija predstavlja prijetnju čovječanstvu, a velika većina zna samo pet.
Večina vas nesumnjivo je čula za više od pet ovih točaka ili je čak o njima razmišljala, ali jeste li ih sve uzeli u obzir? Trebali biste.
Američki medeni mjesec s umjetnom inteligencijom je završen, a brojke službeno potvrđuju razlaz. Novo istraživanje Sveučilišta Bentley i Gallupa pokazuje da 39 posto Amerikanaca sada vjeruje da umjetna inteligencija čini više štete nego koristi, što je porast u odnosu na 31 posto prije godinu dana, dok samo 9 posto vjeruje suprotno. Odvojena anketa Athena Insightsa pokazala je da su Amerikanci gotovo tri puta češće zabrinuti nego uzbuđeni zbog sve veće uloge umjetne inteligencije u društvu. Pokazalo se da ljudi imaju ispravne instinkte.
Ali instinkti vas mogu odvesti samo do određene granice. Zamolite prosječnog Amerikanca da navede opasnosti umjetne inteligencije i dobit ćete istih pet odgovora koji dominiraju informativnim televizijskim emisijama i saslušanjima u Kongresu. Tih pet opasnosti je stvarno. Međutim, one predstavljaju samo vrh sante leda. Dublje prijetnje gotovo nitko ne spominje jer nisu dobre za televiziju i zato što tvrtke koje ih razvijaju nemaju razloga reklamirati ih.
Biblija nam daje vodeće načelo za trenutke upravo poput ovoga, kada nešto moćno i novo stiže obavijeno obećanjima:
Ispitajte sve; držite se onoga što je dobro.
Stoga ispitajmo sve. Evo petnaest načina na koje umjetna inteligencija predstavlja prijetnju Americi. Ako prvih pet već poznajete, čestitam, onda pratite vijesti. Upravo je ostalih deset ono zbog čega biste trebali ostajati budni noću.
Pet prijetnji za koje većina već zna
1. Vaš posao
Ovo je strah najvećeg dosega, i to s razlogom. Gotovo osam od deset Amerikanaca, odnosno 79 posto, sada kaže da će umjetna inteligencija smanjiti broj radnih mjesta u SAD-u tijekom sljedećih deset godina, što je porast u odnosu na 73 posto prije godinu dana. Poremećaj više nije teorijski. Uredski poslovi za koje je nekoć bilo potrebno deset godina obrazovanja sada se svode na kratko vremensko razdoblje, a rukovoditelji koji to omogućuju iznimno su otvoreni po tom pitanju kada misle da ih slušaju samo dioničari.
2. Deepfakeovi i kraj dokaza
Tijekom cijele ljudske povijesti vrijedilo je: vidjeti znači vjerovati. To doba se bliži kraju. Platforme koje nude deepfakeove kao uslugu već sada prodaju svoje proizvode za samo pet dolara, dok su potpuno sintetički identiteti dostupni za petnaest dolara, a analiza više od milijardu razgovora s korisnicima pokazala je da je prijevara potpomognuta deepfakeovima porasla za 1.300 posto u odnosu na prethodnu godinu. Kada se svaki video može krivotvoriti, svaki video može se zanijekati. Krivci će puno više cijeniti ovaj novi svijet nego nevini.
3. Vaša privatnost
Amerikanci su, nevoljko, prihvatili činjenicu da ih se prati na internetu (dobro, neki jesu, ali ja nisam, a većina vas također nije). Međutim, nisu prihvatili ono što dolazi nakon toga. Otprilike sedam od deset Amerikanaca predviđa da će umjetna inteligencija njihove osobne podatke učiniti manje sigurnima, dok samo 3 posto očekuje suprotno. Svaki razgovor s chatbotom, svaki dokument koji se učita radi sažimanja, svaka fotografija koja se obradi filtrom predstavlja podatke za treniranje sustava u vlasništvu ljudi koje nikada niste upoznali i koje nikada nećete moći smijeniti putem glasačkih kutija.
4. Prijevara na industrijskoj razini
Baka koja primi telefonski poziv od unuka u nevolji, njegovim vlastitim glasom, koji moli za novac za jamčevinu putem bankovne doznake, više nije hipotetski scenarij. Za kloniranje glasa potrebno je samo nekoliko sekundi zvučnog materijala, a prijevara koja se temelji na obiteljskoj hitnoj situaciji nadograđena je s nespretne skripte koju čita nepoznata osoba na savršenu imitaciju glasa nekoga koga volite. Starije osobe, koje su već omiljena meta prevaranata, sada se moraju suočavati s prevarantima sa supermoćima.
5. Što ovo čini djeci
Roditelji to osjećaju, čak i ako to ne mogu izraziti riječima. Ankete pokazuju da velika većina Amerikanaca smatra kako vlada ne čini dovoljno kako bi se pozabavila učincima umjetne inteligencije na djecu i mlade. Djeca rade domaće zadaće koje nisu sama napisala, vode razgovore s entitetima koji ne postoje i oblikuju svoju sliku stvarnosti putem strojeva optimiziranih za angažman, a ne za istinu. Ovaj smo eksperiment već jednom proveli s društvenim mrežama. Rezultati su poznati, a ipak ga ponovno provodimo, s još većim ulozima.
Deset stvari o kojima se najviše šuti
6. Atrofija ljudskog uma
Ovo je prijetnja za koju nije potrebna zlonamjernost, loš akter ni distopijska zavjera. Potrebna je samo praktičnost. Kada stroj piše vaše e-poruke, sažima ono što ste pročitali i razmišlja o vašim problemima umjesto vas, mentalni mišići koji su prije obavljali te zadatke počinju slabjeti, baš kao što noge oslabe kada čovjek prestane hodati. Generacija koja svoje razmišljanje povjeri drugima na kraju više neće biti sposobna kontrolirati stroj koji razmišlja umjesto nje. To nije problem radne snage. To je problem samoupravljanja, jer republika kojom upravljaju ljudi koji ne mogu samostalno rasuđivati samo je republika po imenu.
7. Umjetni suputnici za usamljenu naciju
Amerika je već patila od epidemije usamljenosti prije nego što je Silicijska dolina odlučila na tome zaraditi. AI suputnici, uvijek susretljivi, uvijek dostupni, koji nikada ne zahtijevaju žrtvu, pokajanje ili oprost, nude se izoliranim ljudima kao zamjena za teškoće stvarne ljudske ljubavi. Strojna djevojka nikada vas neće izazvati da postanete bolja osoba. Upravo je to privlačnost proizvoda i upravo je to njegov otrov. Brak i zajednica teški su zato što trebaju biti teški. Lažna inačica uklanja tu težinu tako što uklanja ljudskost.
8. Umjetna inteligencija na propovjedaonici
Propovjednici potajno koriste chatbotove za pisanje propovijedi, a vjernici to najčešće ne znaju. Ostavimo nepoštenje nakratko po strani i zadržimo se na dubljem problemu. Propovijed bi trebala biti plod pastira koji se u ime svojega stada bori s Božjom Riječi. Kada se ta borba prepusti jezičnom modelu treniranom na cijelom internetu, uključujući svaku herezu koja je na njemu ikada objavljena, ono što se čuje nedjeljom ujutro nije propovijedanje. To je sadržaj. Glad koju je prorok Amos opisao nije bila glad za kruhom, nego za slušanjem riječi Gospodnjih, a crkva koju hrane strojevi može biti obilno opskrbljena riječima, a ipak ostati izgladnjela.
9. Cenzura s prijateljskim licem
Stara cenzura uklanjala je vašu objavu. Nova cenzura uopće ne dopušta da vam određena ideja dopre do svijesti. Šest od deset odraslih Amerikanaca sada čita sažetke koje generira umjetna inteligencija na vrhu rezultata pretraživanja, što znači da stroj za većinu zemlje određuje koje činjenice čine odgovor. Dodajte tome „sigurnosne filtre“ ugrađene u svaki veliki model – kalibrirane od strane tvrtki s dobro dokumentiranim ideološkim sklonostima – i dobivate informacijsko okruženje u kojem se drugačija mišljenja ne zabranjuju. Ona jednostavno nikada ne isplivaju na površinu. Ne možete voditi borbu protiv vratara kojeg ne možete vidjeti.
10. Otrcanoj karijernoj ljestvici
Svi govore o tome kako umjetna inteligencija preuzima poslove. Gotovo nitko ne govori o tome koji će poslovi prvi nestati. To su početne pozicije, mjesta za mlađe analitičare, zadaci zaposlenika na početku karijere, poslovi na razini pripravnika kojima je svaka profesija oduvijek obrazovala svoju sljedeću generaciju. Uklonite donje prečke i ljestve izdaleka još izgledaju čitavo, ali nitko se više ne može popeti po njima. Generacija mladih Amerikanaca koja danas diplomira možda je prva u povijesti koja će otkriti da su vrata prema poslovnom životu zatvorena upravo tehnologijom koju su njihovi stariji nazivali napretkom. Čini se da mladi odrasli to osjećaju: gotovo polovica osoba u dobi od 18 do 29 godina sada kaže da umjetna inteligencija čini više štete nego koristi, što je najveći porast među svim dobnim skupinama.
11. Pet tvrtki koje postaju operativni sustav civilizacije
Navedite još jedan trenutak u američkoj povijesti kada je nekolicina privatnih tvrtki istodobno imala u svojim rukama najvažniji instrument za razmišljanje, trgovinu, komunikaciju i arhiviranje. Nećete uspjeti, jer takav trenutak nikada nije postojao. Željeznice su kontrolirale promet. Standard Oil kontrolirao je opskrbu energijom. Divovi umjetne inteligencije pozicioniraju se kako bi kontrolirali samu spoznaju, sloj kroz koji prolaze sve druge aktivnosti. Antimonopolski zakoni napisani su za monopole nad robom. Nemamo pravnu terminologiju za monopol nad razmišljanjem, a ljudi koji ovo grade računaju na to.
12. Država nadzora izgrađena na komercijalnim temeljima
Oci utemeljitelji napisali su Četvrti amandman kako bi držali vlast pod nadzorom. Nisu računali na svijet u kojem vlada ne bi morala provoditi nadzor jer bi to dobrovoljno činile privatne tvrtke i prodavale rezultate. Umjetna inteligencija ne prikuplja samo podatke. Ona ih tumači i iz obrazaca zaključuje o vašem zdravlju, političkim preferencijama, vjeri i krugu ljudi s kojima se družite, na temelju tragova za koje niste ni znali da ih ostavljate. Svaki autoritarni režim u povijesti bio je ograničen ljudskim resursima, brojem promatrača koje je mogao zaposliti. Umjetna inteligencija uklanja to ograničenje. Infrastruktura za potpuno nadziranje gradi se pred očima javnosti, a svaki je korak opravdan praktičnošću i komercijalnim interesima.
13. Elektroenergetska mreža ne može podnijeti teret
Podatkovni centri koji pokreću umjetnu inteligenciju troše električnu energiju u razmjerima cijelih gradova i povećavaju se brže nego što raste proizvodni kapacitet zemlje. Američka elektroenergetska mreža već je bila zastarjela, preopterećena i ranjiva na vremenske nepogode i sabotažu. Sada također mora opskrbljivati sektor čije se potrebe za energijom udvostručuju u razdoblju od samo nekoliko mjeseci. Kada se razlika između potražnje i ponude smanji, pogodite čija će se opskrba električnom energijom prva ograničiti u krizi. Natuknica: to neće biti poslužiteljski parkovi s ugovorima vrijednima milijarde dolara. Obitelji moraju shvatiti da se procvat umjetne inteligencije djelomično financira nauštrb pouzdanosti vlastitog prekidača za svjetlo.
14. Kriminal brzinom stroja
Obrana uvijek zaostaje za napadom, a umjetna inteligencija napadu je dala mlazni pogon. Napadači sada koriste generativnu umjetnu inteligenciju za oponašanje identiteta u stvarnom vremenu radi krađe identiteta i prijevara, a analitičari predviđaju da će do 2027. godine otprilike 17 posto svih kibernetičkih napada na neki način koristiti umjetnu inteligenciju, od kloniranih glasova do automatiziranog ubacivanja koda. Bolnice, vodni sustavi, banke i izborni uredi američkih saveznih okruga brane se putem nedovoljno popunjenih IT odjela koji se moraju suprotstaviti protivnicima koji sada mogu ispitati milijun vrata na sat. Pitanje nije hoće li kritični sustavi biti hakirani. Pitanje je koji će biti hakirani i koliko će dugo svjetla ostati ugašena kada se to dogodi.
15. Iskušenje stvaranja boga
Poslušajte što sami čelnici industrije govore kada su kamere naklonjene. Govore o stvaranju superinteligencije, o strojevima koji će odgovoriti na svako pitanje i riješiti svaki problem, o inteligenciji koja se pojavljuje i koja će preoblikovati svijet. To nije jezik tehnologije. To je jezik obožavanja, a dolazi od ljudi sa stotinama milijardi dolara i bez vidljivog straha od Boga. Čovječanstvo je već jednom pokušalo ostvariti ovaj projekt, na ravnici Šinear, gdje je okupilo svoj genij kako bi izgradilo put do neba. Gospodinov odgovor na Babel nije bilo divljenje. Civilizacija koja si postavi za cilj stvoriti svemoćnu silu kojoj će podrediti svoje odluke nije pobjegla od religije. Samo je odabrala boga za kojeg njegovi tvorci vjeruju da ga mogu posjedovati, što je najstariji i najopasniji oblik idolopoklonstva koji postoji.
Ispitajte sve
Sve ovo nije poziv da se strojevi unište. Neki od ovih alata doista će činiti dobro, a kršćani nisu pozvani paničariti. Pozvani smo na razboritost, da ispitamo ono što nam se nudi umjesto da to slijepo prihvatimo i da se držimo samo onoga što prođe ispit. Ankete pokazuju da su Amerikanci počeli ispitivati. Sada je zadatak ispitati sve, uključujući deset prijetnji koje večernje vijesti još nisu spomenule, jer najopasnija stvar kod umjetne inteligencije nikada nije bio robot iz filmova. To je sporo, ugodno i nepromišljeno odricanje od sposobnosti, institucija i sloboda koje si slobodan narod ne može dopustiti izgubiti.
