Većina ljudi upoznata je s poplavom aplikacija umjetne inteligencije (AI) za koje se čini da su dizajnirane da nas učine učinkovitijima i kreativnijima. Imamo aplikacije koje uzimaju tekstualne upite i stvaraju umjetnost, kao i kontroverzni ChatGPT, koji postavlja ozbiljna pitanja o originalnosti, dezinformacijama i plagijatu.
Unatoč tim zabrinutostima, umjetna inteligencija postaje sve prodornija i nametljivija. To je najnovija tehnologija koja će nepovratno promijeniti naše živote.
Internet i pametni telefoni bili su drugi primjeri. Ali za razliku od tih tehnologija, mnogi filozofi i znanstvenici misle da bi umjetna inteligencija jednog dana mogla parirati (ili čak nadmašiti) “razmišljanje” u ljudskom stilu. Ta je mogućnost, zajedno s našom sve većom ovisnošću o umjetnoj inteligenciji, u korijenu koncepta u futurizmu koji se naziva “tehnološka singularnost”.
Izraz postoji već neko vrijeme, popularizirao ga je pisac znanstvene fantastike Vernor Vinge prije nekoliko desetljeća.
Danas se “singularnost” odnosi na hipotetsku točku u vremenu u kojoj razvoj umjetne opće inteligencije (AGI)—to jest, umjetne inteligencije sa sposobnostima na razini čovjeka—postaje toliko napredan da će nepovratno promijeniti ljudsku civilizaciju.
To bi označilo početak naše neodvojivosti sa strojevima. Od tog trenutka nećemo moći živjeti bez njih, a da ne prestanemo funkcionirati kao ljudska bića. Ali ako se dogodi singularnost, hoćemo li je uopće primijetiti?
Moždani implantati kao prva faza
Da bismo razumjeli zašto ovo nije stvar iz bajki, trebamo samo pogledati nedavni razvoj u sučeljima mozak-računalo (BCI). BCI su prirodni početak singularnosti u očima mnogih futurista, jer spajaju um i stroj na način na koji nijedna druga tehnologija do sada ne može.
Tvrtka Neuralink Ilona Maska traži odobrenje Uprave za hranu i lijekove za početak ispitivanja na ljudima za svoju BCI tehnologiju. To bi uključivalo implantaciju neuralnih konektora u mozgove dobrovoljaca kako bi mogli koordinirati upute razmišljajući o njima.
Neuralink se nada pomoći paraplegičarima da prohodaju, a slijepima da progledaju. Ali izvan ovih ciljeva su druge ambicije.
Musk je dugo govorio kako vjeruje da će moždani implantati omogućiti telepatsku komunikaciju i dovesti do koevolucije ljudi i strojeva. On tvrdi da ako ne koristimo takvu tehnologiju za povećanje našeg intelekta, riskiramo da nas uništi superinteligentna umjetna inteligencija.
Razumljivo je da se mnogi ne slažu s Maskom i njegovom tehničkom stručnošću. Ali on nije jedini u predviđanju golemog rasta AI sposobnosti. Istraživanja pokazuju da se istraživači umjetne inteligencije uglavnom slažu da će umjetna inteligencija postići “razmišljanje” na ljudskoj razini u ovom stoljeću. Ono oko čega se ne slažu jest podrazumijeva li to svijest ili ne ili nužno znači da će nam umjetna inteligencija naštetiti kada dosegne tu razinu.
Druga BCI tehnološka tvrtka, Synchron, stvorila je minimalno invazivni implantat koji je pacijentu s amiotrofičnom lateralnom sklerozom (ALS) omogućio slanje e-pošte i pretraživanje interneta koristeći svoje misli.
Izvršni direktor Synchrona, Tom Oxley, vjeruje da bi moždani implantati s vremenom mogli ići dalje od protetske rehabilitacije i potpuno transformirati način na koji ljudi komuniciraju. Obraćajući se publici TED-a, rekao je da bi jednog dana mogli dopustiti korisnicima da “dijele” svoje emocije kako bi drugi mogli osjetiti ono što oni osjećaju, a “tada bi se otključao puni potencijal mozga”.
Rana postignuća u BCI-u mogu se smatrati prvim fazama pada prema postuliranoj singularnosti, u kojoj čovjek i stroj postaju jedno. To ne znači nužno da će strojevi postati “osjećajni” ili da će nas kontrolirati. Ali sama integracija i naša ovisnost o njoj mogla bi nas nepovratno promijeniti.
Također je vrijedno spomenuti da su početna sredstva za Synchron djelomično došla od DARPA-e, ogranka Ministarstva obrane SAD-a za istraživanje i razvoj koji je pomogao svijetu dati Internet. Vjerojatno je mudro brinuti se o tome gdje DARPA ulaže svoj investicijski novac.
Bi li AGI bio prijatelj ili neprijatelj?
Prema Rayu Kurzweilu, futuristu i bivšem Googleovom inženjeru za inovacije, ljudi s umom proširenim umjetnom inteligencijom mogli bi biti bačeni na autocestu evolucije — jureći naprijed bez ograničenja brzine.
U svojoj knjizi Kako stvoriti um iz 2012., Kurzweil teoretizira da je neokorteks — dio mozga za koji se smatra da je odgovoran za “više funkcije” kao što su osjetilna percepcija, emocije i spoznaja — hijerarhijski sustav prepoznavača obrazaca koji, ako imitira stroj, može dovesti do umjetne super-inteligencije.
On predviđa da će singularnost biti s nama do 2045. i misli da bi to moglo dovesti do svijeta superinteligentnih ljudi, možda čak nietzscheanskog “Ubermenscha”: nekoga tko nadilazi sva ograničenja svijeta kako bi dosegao svoj puni potencijal.
Ali ne vide svi AGI kao dobru stvar. Pokojni teorijski fizičar Stephen Hawking upozorio je da bi superinteligentna umjetna inteligencija mogla dovesti do apokalipse. Hawking je 2014. rekao za BBC: “Razvoj super umjetne inteligencije mogao bi značiti kraj ljudske rase. […] Počeo bi sam od sebe i redizajnirao se sve većom brzinom. Ljudi, koji su ograničeni sporom biološkom evolucijom, ne bi se mogli natjecati i bili bi zamijenjeni.”
Hawking je, međutim, bio zagovornik BCI-ja.
Povezani u umu košnice
Još jedna ideja vezana uz singularnost je ideja o “umu košnice” s omogućenom umjetnom inteligencijom. Merriam-Webster definira um košnice kao “kolektivnu mentalnu aktivnost izraženu u složenom, koordiniranom ponašanju kolonije društvenih insekata (kao što su pčele ili mravi) koji se smatraju usporedivim s jednim umom koji kontrolira ponašanje pojedinačnog organizma.”
Neuroznanstvenik Giulio Tononi razvio je teoriju oko ovog fenomena, nazvanu Teorija integriranih informacija (IIT). To sugerira da se svi krećemo prema spajanju svih umova i svih podataka.
Filozof Philip Gough dobro je objasnio implikacije Tononijevog koncepta u svojoj knjizi Galileo’s Error: “IIT predviđa da ako je rast internetske povezanosti ikada rezultirao količinom integriranih informacija u društvu koja premašuje količinu integriranih informacija u ljudskom mozgu, onda ne samo da li bi društvo postalo svjesno, točnije, ljudski mozgovi bi bili ‘apsorbirani’ u taj viši oblik svijesti. Mozak bi prestao biti svjestan sam po sebi i umjesto toga bi postao samo kotačić u mega-svjesnom entitetu koji je društvo, uključujući njegovu internetsku povezanost”.
Vrijedno je napomenuti da postoji malo dokaza da bi se takvo što ikada moglo dogoditi. Ali teorija pokreće važne ideje ne samo o brzom ubrzanju tehnologije (da ne spominjemo kako bi kvantno računalstvo to moglo potaknuti) — već i o prirodi same svijesti.
Hipotetski, kad bi se pojavio um košnice, moglo bi se zamisliti da bi to označilo kraj individualnosti i institucija koje se na njoj oslanjaju, uključujući demokraciju.
Konačna granica je između naših ušiju
Nedavno je OpenAI (tvrtka koja je razvila ChatGPT) objavila post na blogu potvrđujući svoju predanost postizanju AGI-ja. Ostali će bez sumnje slijediti primjer.
Naši životi postaju algoritamski vođeni na načine koje često ne možemo uočiti, pa stoga ne možemo izbjeći. Mnoge značajke tehnološke singularnosti obećavaju nevjerojatna poboljšanja u našim životima, ali brinemo da su ove umjetne inteligencije proizvodi privatne industrije.
Oni su praktički neregulirani i uglavnom su po hiru impulzivnih “tehnopoduzetnika” s više novca nego većina nas zajedno. Bilo da ih smatramo ludima, naivnima ili vizionarima, imamo pravo znati njihove planove (i moći ih opovrgnuti).
Za usporedbu posljednjih nekoliko desetljeća, kada je riječ o novim tehnologijama, svi ćemo biti pogođeni.
