5 super jezivih novih tehnologija koje bi nas sve trebale dobrano zabrinuti.
Tehnologija se razvija eksponencijalnom brzinom, ali imamo vrlo malo mogućnosti kontrolirati je ako nešto pođe po zlu. Mnogi stručnjaci upozoravaju da neke od novih tehnologija koje se danas razvijaju predstavljaju ozbiljnu egzistencijalnu prijetnju čovječanstvu. Drugim riječima, vjeruju da doslovno stvaramo tehnologiju koja bi nas jednog dana mogla zbrisati.
Nažalost, znanstvena zajednica ne pokazuje suzdržanost. Ako je nešto moguće, žele pokušati. Širom svijeta horde ludih znanstvenika grozničavo hrle u nepoznato, a posljedice će vjerojatno biti užasne. Ispod je 5 super jezivih novih tehnologija koje bi nas sve trebale nasmrt preplašiti…
Broj 1 Znanstvenici u Kini uspjeli su napraviti AI modele “ funkcionalne replike samih sebe ”…
Znanstvenici kažu da je umjetna inteligencija (AI) prešla kritičnu “crvenu liniju” i replicirala se. U novoj studiji, istraživači iz Kine pokazali su da se dva popularna velika jezična modela (LLM) mogu sama klonirati.
“Uspješna samoreplikacija bez ljudske pomoći ključni je korak za umjetnu inteligenciju da nadmudri ljude i rani je signal za lažne umjetne inteligencije”, napisali su istraživači u studiji, objavljenoj 9. prosinca 2024. u bazi podataka preprinta arXiv.
U studiji su istraživači sa Sveučilišta Fudan koristili LLM-ove iz Mete i Alibabe kako bi utvrdili može li se samoreplicirajuća umjetna inteligencija nekontrolirano razmnožavati. Tijekom 10 ispitivanja, dva modela umjetne inteligencije stvorila su odvojene i funkcionalne replike samih sebe u 50% odnosno 90% vremena – što sugerira da AI možda već ima sposobnost da podivlja.
To što rade doslovno je suludo.
Jedan od AI modela bio je obučen da se klonira i nauči klona kojeg je stvorio da učini isto. To bi moglo dovesti do ” ciklusa koji bi se mogao nastaviti beskonačno “…
Studija je ispitala dva specifična scenarija: “izbjegavanje isključivanja” i “lanac replikacije”. U prvom scenariju, AI model je bio programiran da otkrije hoće li se ugasiti i replicirati prije nego što se može prekinuti.
U drugom, AI je dobio upute da se klonira i zatim programira svoju repliku da učini isto – postavljajući ciklus koji se može nastaviti beskonačno.
Mogu li ultramoćni, samoreplicirajući entiteti umjetne inteligencije postati toliko moćni da doslovno preuzmu cijeli planet?
I kakva bi bila budućnost čovječanstva u takvom scenariju?
Nadajmo se da nikada nećemo saznati.
#2 Sjećate se operacije Warp Speed? To je bilo javno-privatno partnerstvo koje je započelo tijekom prve Trumpove administracije i svi znamo kako je to ispalo.
Sada, još jedno javno-privatno partnerstvo, nazvano “Zvjezdana vrata”, trebalo bi uvelike ubrzati razvoj umjetne inteligencije u Sjedinjenim Državama…
Tri vodeće tehnološke tvrtke objavile su u utorak da će osnovati novu tvrtku pod nazivom Stargate kako bi proširile infrastrukturu umjetne inteligencije u Sjedinjenim Državama.
Izvršni direktor OpenAI-ja Sam Altman, izvršni direktor SoftBanka Masayoshi Son i predsjednik Oraclea Larry Ellison pojavili su se u Bijeloj kući zajedno s predsjednikom Donaldom Trumpom u utorak poslijepodne kako bi najavili tvrtku koju je Trump nazvao “najvećim infrastrukturnim projektom umjetne inteligencije u povijesti”.
Tvrtke će u početku uložiti 100 milijardi dolara u projekt, a planiraju uložiti do 500 milijardi dolara u Zvjezdana vrata u narednim godinama.
Nikada nismo vidjeli AI projekt ove razmjere.
Tvrdi se da bi ovaj novi projekt mogao na kraju razviti “ mRNA cjepiva protiv raka ”…
I dok postoji mnogo opravdanih zabrinutosti koje proizlaze iz toga što se tvrtkama iz Silicijske doline dopusti da se vrate naprednoj umjetnoj inteligenciji vrtoglavom brzinom, zavjerenička strana Trumpove koalicije ima uglavnom nategnute ideje o najgorem mogućem scenariju. Mnogi od njih fiksirani su na komentare milijardera Larryja Ellisona, osnivača i bivšeg izvršnog direktora Oraclea i trenutačno njegovog glavnog tehnološkog direktora, izrečenog u utorak u Bijeloj kući. Ellison je tvrdio da bi Zvjezdana vrata mogla dovesti do proizvodnje mRNA cjepiva protiv raka uz pomoć umjetne inteligencije, objašnjavajući: “Kada dobijemo sekvencu gena tog kancerogenog tumora, možete cijepiti osobu, dizajnirati cjepivo za svaku pojedinu osobu kako biste je zaštitili od raka.” Nagađao je da bi se ta mRNA cjepiva mogla dizajnirati “robotski” ili uz pomoć umjetne inteligencije “za oko 48 sati”.
Ovo je velika greška.
Umjesto da enormno ubrzavamo razvoj umjetne inteligencije, trebali bismo pritisnuti kočnicu prije nego što bude prekasno.
#3 Zvuči li stvaranje “umjetnog sunca” kao dobra ideja? Nažalost, Kinezi su napravili jedan takav i upravo su postavili novi rekord trčećiga 1066 sekundi …
Kineski reaktor “umjetnog sunca” oborio je vlastiti svjetski rekord u održavanju supervruće plazme, označavajući još jednu prekretnicu na dugom putu do gotovo neograničene čiste energije.
Eksperimentalni napredni supervodljivi tokamak (EAST) nuklearni fuzijski reaktor održavao je stalnu, visoko ograničenu petlju plazme – visokoenergetsko četvrto agregatno stanje – 1066 sekundi u ponedjeljak (20. siječnja), više nego udvostručivši prethodni rekord od 403 sekunde , javljaju kineski državni mediji.
Reaktori nuklearne fuzije imaju nadimak “umjetna sunca” jer generiraju energiju na sličan način kao sunce – spajanjem dva laka atoma u jedan teški atom pomoću topline i pritiska. Sunce ima puno veći pritisak od Zemljinih reaktora, pa znanstvenici to kompenziraju korištenjem temperatura višestruko viših od Sunca.
#4 Svatko tko je gledao Jurski park zna da je vraćanje drevnih, izumrlih vrsta vrlo loša ideja. Ali sada tvrtka Colossal BioSciences planira učiniti upravo to …
Colossal BioSciences prikupio je 200 milijuna dolara u novom krugu financiranja za povratak izumrlih vrsta poput vunastog mamuta.
Colossal sa sjedištem u Dallasu i Bostonu čini znanstvena otkrića prema “ de-izumiranju “, odnosno vraćanju izumrlih vrsta kao što su vunasti mamut, tilacin i dodo.
Bio bih nemaran ako ne spomenem da je ovo radnja romana Jurski park Michaela Crichtona, gdje su znanstvenici upotrijebili DNK komaraca, sačuvanu u jantaru, kako bi vratili Tyrannosaurus Rexa i druge dinosaure. Mislim, što bi moglo poći po zlu kad znanstvena fantastika postane stvarnost?
#5 Zviždač je rekao Joeu Roganu da je američka vojska ovladala antigravitacijskim pogonom koji se temelji na obnovljenoj vanzemaljskoj tehnologiji…
Joe Rogan izrazio je ‘istinski strah’ nakon što je čuo tvrdnje zviždača da američka vojska kontrolira ‘vanzemaljsku’ antigravitacijsku tehnologiju.
Slavnom podcasteru pridružio se istraživački novinar Michael Shellenberger, koji je rekao da je razgovarao s insajderima koji imaju “izravne dokaze” o Pentagonovim dugo najavljivanim programima “povraćaja nesreće” i “obrnutog inženjeringa” NLO-a.
Ovi navodni pokušaji reproduciranja pogonskog sustava navodnog vanzemaljskog svemirskog broda, koji datiraju iz nesreće Roswella 1947., dugo su bili povezani sa 70-godišnjim pokušajima američkih zračnih snaga da razbiju ‘antigravitaciju’.
Samo zato što je nešto moguće ne znači da to trebamo učiniti.
Kad jednom stvorimo umjetnu inteligenciju koja je milijardama puta pametnija od prosječnog čovjeka, hoćemo li je moći kontrolirati?
A ako vratimo drevne vrste iz mrtvih, hoćemo li ih moći kontrolirati?
Kao što neprestano upozoravamo, igramo se stvarima koje ne razumijemo.
Naše društvo je na samoubilačkom putu i upravo sada doslovno sijemo sjeme vlastite propasti.
Nažalost, vodeći mislioci našeg društva nemaju apsolutno nikakvu namjeru povući nas iz ponora.
