Dolazi li nam uskoro ‘AI apokalipsa’?
Žurimo li malo prebrzo s izgradnjom superinteligentnih entiteta koji će na kraju postati toliko moćni da mogu uništiti većinu čovječanstva? Neki vodeći istraživači na području umjetne inteligencije uvjereni su da se upravo to događa.
Već smo dosegli točku u kojoj umjetna inteligencija može obavljati gotovo sve intelektualne zadatke puno brže i učinkovitije od ljudi. Ali zasad još uvijek imamo kontrolu nad svojim kreacijama. Ali što se događa kada izgubimo tu kontrolu i superinteligentni entiteti počnu širiti milijune kopija sebe diljem svijeta putem interneta?
Dopustite nam da vam postavim pitanje.
Sjećate li se kada ste zadnji put stali na nekog insekta?
Mnogi od vas možda misle da je ovo glupo pitanje, jer vjerujete da nije važno žive li insekti ili umiru.
Pa, prema istraživaču umjetne inteligencije na MIT-u, upravo tako bi nas mogao vidjeti ultra-moćni entitet umjetne inteligencije …
„Bilo je mnogo slučajeva gdje su vrste izbrisane od strane drugih, pametnijih vrsta. Mi ljudi izbrisali smo značajan dio svih vrsta na Zemlji. To je ono što biste očekivali od manje inteligentne vrste – i to je ono što ćemo vjerojatno postati, s obzirom na brzinu kojom se razvija umjetna inteligencija. Nezgodno je to što vrsta koja biva izbrisana često nema pojma zašto ili kako“, rekao je za The Guardian Max Tegmark, istraživač umjetne inteligencije na Tehnološkom institutu Massachusetts.
Dobra vijest je da još nismo u toj fazi.
Za sada, još uvijek imamo kontrolu.
Ali AI sustavi koje smo stvorili počinju pokazivati neka vrlo uznemirujuća ponašanja …
Neki od današnjih najmoćnijih modela umjetne inteligencije pokazuju ponašanje koje nalikuje volji za preživljavanjem.
Nedavna testiranja neovisnih istraživača i velikog programera umjetne inteligencije otkrila su da će nekoliko naprednih modela umjetne inteligencije djelovati kako bi osigurali svoj opstanak kada se suoče s vlastitim padom – čak i ako to znači izvršavanje sabotažnih zadataka, ucjenjivanje inženjera ili kopiranje sebe na udaljene poslužitelje bez dopuštenja.
Nalazi su izazvali veliku buru na internetu tijekom proteklog tjedna. Dok tehnološke tvrtke nastavljaju razvijati sve moćniju agentnu umjetnu inteligenciju u utrci za postizanjem opće umjetne inteligencije ili umjetne inteligencije koja može samostalno razmišljati, nedostatak transparentnosti o tome kako se tehnologija obučava izazvao je zabrinutost oko toga što napredna umjetna inteligencija zapravo može učiniti.
Neki od vas bi mogli reći da ako nam sustavi umjetne inteligencije postanu preveliki problem, jednostavno ćemo ih isključiti.
Ali što ako se ti AI sustavi jednostavno odbiju isključiti?
Zabrinjavajuće je da se nedavno dogodio incident u kojem se to doista dogodilo …
Međutim, Palisade Research je nedavno objavio izvješće kojim potvrđuje da se dogodio incident u kojem je GPT-o3 – OpenAI-jev model zaključivanja – ignorirao naredbu za gašenje, nakon što je pronašao način da zaobiđe skriptu za gašenje i spriječi gašenje. I budimo jasni, nije bilo nikakve dvosmislenosti oko toga što je naredba bila – upute su bile eksplicitne, kao i zaobilazno rješenje.
GPT-o3, čije je izdanje planirano za travanj 2025., smatra se jednim od najmoćnijih alata za zaključivanje na današnjem tržištu, značajno nadmašujući svoje prethodnike u širokom rasponu područja – od matematike, kodiranja i znanosti do vizualne percepcije i šire. Jasno je da je ovaj novi i poboljšani model zaključivanja dobar u onome što radi, ali postaje li previše pametan za vlastito dobro? Ili za naše?
Ali ako barem znamo gdje se nalazi AI sustav, možemo ga uništiti ako je potrebno.
Osobno nas puno više brine mogućnost da bi se ultra-moćni AI entiteti mogli replicirati i slati milijune svojih kopija računalima diljem svijeta.
Jeffrey Ladish, direktor Palisade Research grupe za umjetnu inteligenciju, vjeruje da smo od takvog scenarija „udaljeni samo godinu ili dvije“ …
„Mislim da smo samo godinu ili dvije udaljeni od točke u kojoj čak ni tvrtke koje pokušavaju spriječiti hakiranje i repliciranje na internetu neće moći to zaustaviti“, rekao je. „A kad dođete do te točke, imate novu invazivnu vrstu.“
Vau.
Kako bi naš svijet izgledao kada bi se veliki broj entiteta umjetne inteligencije, oslobođenih ljudske kontrole, udružio kako bi se borio protiv čovječanstva?
Zaista jurimo na nepoznato područje, a nema nikakvih ograničenja.
Jedna od najvećih briga trenutno je da će umjetna inteligencija preuzeti većinu naših poslova.
Prema Dariju Amodeiju, izvršnom direktoru tvrtke Anthropic, umjetna inteligencija mogla bi ukinuti do 50 posto svih radnih mjesta na početnoj razini u roku od pet godina …
Izvršni direktor tvrtke Anthropic, Dario Amodei, uvjeren je da će umjetna inteligencija značiti krvoproliće za fakultetska radna mjesta i upozorava da se društvo ne uspijeva suočiti s tom stvarnošću.
Umjetna inteligencija mogla bi uništiti do 50% svih radnih mjesta na početnoj razini u roku od jedne do pet godina, što bi povećalo nezaposlenost na 10-20%, kaže on. U travnju 2025. stopa nezaposlenosti u SAD-u iznosila je 4,2%.
„Mi, kao proizvođači ove tehnologije, imamo dužnost i obvezu biti iskreni o onome što dolazi“, rekao je Amodei za Axios. „Mislim da ljudi toga nisu svjesni.“
Ne volimo razmišljati o takvim stvarima.
Ali ignoriranje onoga što se događa neće učiniti da to nestane.
Postoje čak i naznake da nedavni diplomanti sve više gube poslove zbog umjetne inteligencije upravo sada …
Ovog mjeseca milijuni mladih ljudi diplomirat će na fakultetima i tražiti posao u sektorima gdje su njihove vještine slabo tražene, gdje se smatraju skupima i zamjenjivima te gdje njihova radna mjesta brzo zamjenjuje umjetna inteligencija.
To je uznemirujući zaključak mojih razgovora tijekom proteklih nekoliko mjeseci s ekonomistima, poslovnim liderima i mladim tražiteljima posla, od kojih su mnogi ukazali na nadolazeću krizu za one koji u ranoj fazi ulaze na tržište rada, a koja je, čini se, barem djelomično potaknuta brzim napretkom umjetne inteligencije.
Naznake toga mogu se vidjeti u ekonomskim podacima. Stopa nezaposlenosti među nedavnim diplomcima porasla je na neobično visokih 5,8% u posljednjih nekoliko mjeseci, a Federalna rezervna banka New Yorka nedavno je upozorila da se situacija sa zapošljavanjem tih radnika „znatno pogoršala“. Oxford Economics, istraživačka tvrtka koja proučava tržište rada, otkrila je da je nezaposlenost među nedavnim diplomcima bila uvelike koncentrirana u tehnološkim sektorima poput financija i računalnih znanosti, gdje je umjetna inteligencija brže stekla zamah.
Može li vas zamijeniti umjetna inteligencija?
Možda bi bilo dobro razmisliti o tome.
U ovoj fazi čak i kriminalce zamjenjuje umjetna inteligencija …
Zamislite da vam zvoni telefon, a glas s druge strane zvuči točno kao glas vašeg šefa, bliskog prijatelja ili čak državnog dužnosnika. Hitno traže osjetljive informacije, ali to zapravo nisu oni. To je deepfake, pokretan umjetnom inteligencijom, a vi ste meta sofisticirane prijevare. Napadi poput ovog događaju se upravo sada i svakim danom postaju sve uvjerljiviji.
To je upozorenje iz Izvješća o sigurnosti umjetne inteligencije za 2025. godinu, predstavljenog na konferenciji RSA (RSAC), jednom od najvećih svjetskih okupljanja stručnjaka za kibernetičku sigurnost, tvrtki i agencija za provedbu zakona. Izvješće detaljno opisuje kako kriminalci koriste umjetnu inteligenciju za lažno predstavljanje drugih ljudi, automatizaciju prijevara i ugrožavanje sigurnosnih sustava u velikim razmjerima.
U nadolazećim godinama bit će izuzetno teško odrediti što je stvarno, a što lažno.
Prema CBN Newsu, kriminalitet uzrokovan umjetnom inteligencijom „već se povećao za 456% od prošle godine“…
Zločini povezani s umjetnom inteligencijom već su se povećali za 456% od prošle godine.
Krađa identiteta putem e-pošte, krađa identiteta, napadi ransomwareom, financijske prijevare i lažna dječja pornografija postaju sve sofisticiraniji i rasprostranjeniji.
Umjetna inteligencija postala je omiljeni alat online kriminalaca jer briše granice između stvarnog i lažnog. Nedavno najavljeni Googleov generator videa uskoro će preplaviti internet isječcima generiranim umjetnom inteligencijom koji izgledaju kao skupi filmovi.
Umjetna inteligencija može uzeti bilo koji video nekoga i pretvoriti ga u vrlo realističan deepfake koji govori ili radi bilo što što ga autor programira.
Naš svijet se pred našim očima pretvara u znanstvenofantastični roman.
A kako umjetna inteligencija postaje sveprisutna u gotovo svim domenama, većina nas jednostavno više neće biti potrebna.
Profesor računalnih znanosti čak predviđa da će ukupna svjetska populacija pasti na oko 100 milijuna do 2300. godine…
Profesor informatike čak predviđa da će do 2300. godine ukupna svjetska populacija …
Stručnjak upozorava da će Zemlja do 2300. godine imati distopijsku populaciju od samo 100 milijuna ljudi jer umjetna inteligencija uništava radna mjesta i pretvara velike gradove u gradove duhova.
Profesor informatike Subhash Kak predviđa nemoguće troškove odrastanja djece koja neće odrastati s poslom.
To znači da će najveći svjetski gradovi, poput New Yorka i Londona, postati napušteni gradovi duhova, dodao je.
Prof. Kak kao krivca ističe umjetnu inteligenciju, koja će, kako kaže, zamijeniti „sve“.
Slažemo se da umjetna inteligencija zaista predstavlja egzistencijalnu prijetnju čovječanstvu.
S dovoljno vremena, čini se vrlo vjerojatnim da ćemo izgubiti kontrolu nad onim što stvaramo i da će se to okrenuti protiv nas.
Ali s obzirom na put kojim se trenutno nalazimo , hoćemo li uništiti sami sebe prije nego što dođemo do te točke?
Dugo smo donosili samodestruktivne odluke, a sada nas te odluke brzo sustižu.
