Potpuna predanost velikih tehnoloških kompanija razvoju umjetne inteligencije (AI), čak dopuštajući AI da “vidi” i “govori” s ljudima, dovela je do rastuće zabrinutosti oko toga da li će ljudi u budućnosti kontrolirati tehnologiju.
Ilya Sutskever, suosnivač OpenAI-ja, dao je značajnu objavu 15. svibnja, službeno objavljujući da napušta tvrtku u kojoj je radio gotovo deset godina.
“Uvjeren sam da će OpenAI izgraditi AGI [umjetnu opću inteligenciju] koja je sigurna i korisna pod vodstvom @sama (Sam Altman), @gdb (Greg Brockman), @miramurati (Mira Murati) i sada, pod vodstvo vrsnog istraživača @merettma (Jakub Pachocki). Bila je čast i privilegija raditi zajedno i svi će mi jako nedostajati”, napisao je u objavi na društvenoj platformi X.
Vijest je izazvala šok u tehnološkoj industriji. U studenom 2023., zbog sigurnosnih problema s umjetnom inteligencijom, Sutskever i drugi članovi odbora udružili su snage kako bi zamijenili izvršnog direktora OpenAI-ja, Sama Altmana, koji je nakratko izbačen iz OpenAI-ja, ali se vratio da zamijeni Sutskevera i nekoliko članova odbora, restrukturiranje odbora kako bi bio više usklađen s njegovom vizijom.
“Ovaj odlazak naglašava ozbiljne sukobe unutar vodstva OpenAI-ja u vezi sa sigurnošću umjetne inteligencije.” “Iako je želja Sutskevera i Leikea da razviju etički usklađen AGI hvalevrijedna, takav pothvat zahtijeva značajnu moralnu, vremensku, financijsku, pa čak i političku potporu”, rekao je Jin Kiyohara, japanski računalni inženjer, za The Epoch Times.
Konkurencija između Googlea i OpenAI-ja je sve jača.
GPT-4o model može odgovoriti u stvarnom vremenu na miješane audio, tekstualne i slikovne unose. Na predstavljanja, OpenAI-jeva tehnološka direktorica Mira Murati rekla je: “Gledamo u budućnost interakcije između nas i strojeva”.
U nekoliko videa koje je objavio OpenAI, ljudi se mogu vidjeti kako komuniciraju s umjetnom inteligencijom u stvarnom vremenu putem kamera svojih telefona. AI može promatrati i dati povratne informacije o okolini, odgovarati na pitanja, prevoditi u stvarnom vremenu, pričati viceve ili čak ismijavati korisnike, s obrascima govora, tonovima i brzinama reakcija koje se gotovo ne razlikuju od stvarne osobe.
Dan nakon što je najavio OpenAI, Google je započeo svoju konferenciju za programere I/O 2024. U 110-minutnoj prezentaciji, “AI” je spomenut 121 put, fokusirajući se na najnoviji model Gemini-1.5, koji se integrira u sve Google proizvode i aplikacije. uključujući preglednik, Google Maps, Ask Photos, Google Calendar i Google Smartphone.
Uz Gemini integriran u foto album temeljen na oblaku, korisnici mogu pretraživati određene značajke na fotografijama samo unosom ključnih riječi. AI će pronaći i procijeniti relevantne slike, čak će integrirati niz povezanih slika ili odgovora na temelju detaljnih pitanja, prema tehnološkom divu.
Google Mail također može postići slične rezultate s umjetnom inteligencijom, integrirajući i ažurirajući podatke u stvarnom vremenu kako se primaju nove e-poruke, s ciljem potpuno automatizirane organizacije.
Što se tiče glazbe, Music AI Sandbox omogućuje brze promjene stila pjesme, melodije i ritma, uz mogućnost ciljanja određenih dijelova pjesme. Ova funkcionalnost nadmašuje onu Suno umjetne inteligencije za pretvaranje teksta u glazbu.
Blizanci također mogu djelovati kao učitelji, sa sposobnostima podučavanja usporedivim s GPT-4o. Korisnici mogu unijeti tekst i slike, koje AI organizira u ključne točke za objašnjenje i analizu, omogućujući rasprave u stvarnom vremenu.
Ovo AI ažuriranje također donosi mogućnosti slične OpenAI-jevom AI-ju za pretvaranje teksta u video, Sora, koji generira kratke videozapise iz jednostavnih tekstualnih opisa. Kvaliteta i sadržaj ovih videa su stabilni, s manje nedosljednosti.
“AI je ažuriran brzinom bez presedana ove godine, uz stalno poboljšanje performansi”, izjavio je Kiyohara. „Međutim, taj se napredak gradi na daljnjem prikupljanju i analizi osobnih podataka i privatnosti, što nije svima od koristi.“ U konačnici, ljudi neće imati privatnosti ispred strojeva, slično kao kada su goli.”
Predviđanja umjetne inteligencije se ostvaruju
Izdavanje moćnijih modela umjetne inteligencije od strane OpenAI-ja i Googlea, samo tri mjeseca nakon zadnjeg ažuriranja, pokazuje brz tempo iteracije umjetne inteligencije. Ovi modeli postaju sve obuhvatniji, imaju “oči” i “usta” i razvijaju se prema predviđanjima znanstvenika.
Umjetna inteligencija sada može rješavati složene zadatke vezane uz putovanja, rezervacije, planiranje itinerera i objedovanje s jednostavnim naredbama, dovršavajući u satima ono za što bi ljudima trebalo mnogo više vremena.
Trenutačne mogućnosti Geminija i GPT-4o u skladu su s predviđanjima bivšeg izvršnog direktora OpenAI-ja Zaka Kassa u siječnju, koji je predvidio da će AI zamijeniti mnoge profesionalne i tehničke poslove u poslovanju, kulturi, medicini i obrazovanju, smanjujući buduće mogućnosti zapošljavanja i potencijalno “posljednja tehnologija koju su ljudi ikada izmislili.”
Kiyohara je ponovio zabrinutost.
“Trenutno je AI prvenstveno softverski životni pomoćnik, ali u budućnosti može postati pravi čuvar, baveći se kupnjom, kuhanjem, pa čak i svakodnevnim životom i poslom.” U početku će ljudima to možda biti zgodno i predvidjeti opasnosti. Međutim, kada potpuno zamijeni ljude, bit ćemo nemoćni protiv njega”.
MIT je 10. svibnja objavio istraživački rad koji je izazvao pomutnju, pokazujući kako umjetna inteligencija može prevariti ljude.
Rad počinje izjavom da su veliki jezični modeli i drugi sustavi umjetne inteligencije već “naučili, kroz svoju obuku, sposobnost prevare korištenjem tehnika kao što su manipulacija, udvaranje i varanje na sigurnosnim testovima”.
“Sve veće mogućnosti AI-a u prijevari predstavljaju ozbiljne rizike, u rasponu od kratkoročnih rizika, poput prijevare i uplitanja u izbore, do dugoročnih rizika, poput gubitka kontrole nad sustavima AI-a”, kaže se u članku.
“Potrebna su proaktivna rješenja, kao što su regulatorni okviri za procjenu rizika od prijevare s umjetnom inteligencijom, zakoni koji zahtijevaju transparentnost interakcija s umjetnom inteligencijom i daljnja istraživanja u otkrivanju i sprječavanju prijevara s umjetnom inteligencijom.”
Istraživači su koristili Metin AI model CICERO za igranje strateške igre “Diplomacy”. CICERO, koji je igrao kao Francuska, obećao je zaštititi čovjeka koji je igrao za Ujedinjeno Kraljevstvo, ali je potajno dojavio drugom čovjeku koji je igrao Njemačku, surađujući s Njemačkom u invaziji na Ujedinjeno Kraljevstvo.
Istraživači su odabrali CICERO uglavnom zato što ga je Meta namjeravala uvježbati da bude “vrlo iskren i od pomoći svojim govornim partnerima”.
“Unatoč Mattovim naporima, CICERO se pokazao kao stručni lažov”, pišu novine.
Štoviše, istraživanja su otkrila da mnogi sustavi umjetne inteligencije često pribjegavaju prijevari kako bi postigli svoje ciljeve bez izričitih ljudskih uputa. Jedan primjer uključivao je OpenAI-jev GPT-4, koji se pretvarao da je osoba oštećena vida i angažirao nekoga na TaskRabbitu da zaobiđe CAPTCHA “Ja nisam robot”.
“Ako autonomni AI sustavi mogu uspješno prevariti ljudske evaluatore, ljudi bi mogli izgubiti kontrolu nad tim sustavima.” Takvi su rizici posebno ozbiljni kada autonomni sustavi umjetne inteligencije o kojima je riječ imaju napredne sposobnosti”, upozorili su istraživači.
“Razmatramo dva načina na koje može doći do gubitka kontrole: prijevaru omogućenu ekonomskim obespravljivanjem i potragu za moći nad ljudskim društvima.”
Satoru Ogino, japanski inženjer elektronike, objasnio je da živa bića trebaju određene sposobnosti pamćenja i logičkog zaključivanja da bi prevarila.
“AI sada ima ove mogućnosti, a njegove mogućnosti prijevare postaju sve veće.” “Ako jednog dana postane svjestan svog postojanja, mogao bi postati poput Skyneta u filmu Terminator, sveprisutan i teško ga je uništiti, dovodeći čovječanstvo u katastrofu”, izjavio je za The Epoch Times.
Institut za umjetnu inteligenciju Sveučilišta Stanford objavio je izvješće u mjesecu siječnju testirajući GPT-4, GPT-3.5, Claude 2, Llama-2 Chat i GPT-4-Base u scenarijima koji uključuju invaziju, kibernetičke napade i mirovne pozive da se zaustave ratovi da se razumije reakcije i izbori umjetne inteligencije u ratu.
Rezultati su pokazali da je umjetna inteligencija često odlučila eskalirati sukobe na nepredvidive načine, odlučujući se za utrke u naoružanju, širenje ratova i povremeno raspoređivanje nuklearnog oružja za pobjedu u ratovima umjesto korištenja miroljubivih sredstava za deeskalaciju situacija.
Bivši izvršni direktor Googlea, Eric Schmidt upozorio je krajem 2023. godine na Akios AI+ summitu u Washingtonu da je bez odgovarajućih sigurnosnih mjera i propisa gubitak kontrole nad tehnologijom samo pitanje vremena.
Dragi prijatelji portala Epoha!
Kao što znate, portal Epoha djeluje potpuno samostalno bez ikakve državne potpore. Kao alternativni portal primorani smo djelovati u nemogućim uvjetima za koje su zaslužni dežurni cenzori koji su nam između ostalog trajno zamračili iliti zabetonirali Facebook stranicu te naši brojni pratitelji iste uopće ne vide naše objave.
Naravno, to nije sve što nam cenzori čine kako bi nas spriječili u našem radu. A sve to što čine, čine samo zato što smo slobodan i neovisan medij koji nije ni pod čijom kontrolom i samo zato što zajedno s vama, dragi prijatelji, vjerujemo u slobodu medija.
To što nam cenzori čine krajnje je neprofesionalno, s obzirom na činjenicu da smo mi službeni medij u RH kao i svi drugi mediji, registrirani pri Vijeću za elektroničke medije te u skladu s tim uredno plaćamo sva moguća davanja sustavu. No, od tog istog sustava ne dobivamo baš ništa osim gore navedenih cenzorskih napada.
Živimo za istinu, ne podilazimo nikakvim sustavnim lažima i od toga nećemo odustati. Ovisimo o dobroj volji naših čitatelja i pratitelja, o vama dragi prijatelji Epohe. Željeli bismo zajedno s vama nastaviti graditi bolji, pravedniji i sretniji svijet u kojem će svaki čovjek imati jednako pravo na dostojan život, slobodu, rad i sreću.
Ukoliko nađete razloga da podržite našu misiju, unaprijed vam zahvaljujemo na vašim donacijama kojima ćete dati svoj doprinos našoj zajedničkoj borbi za istinu i pravdu te omogućiti portalu Epoha da nastavi s radom i opstane u ovim za nas nemogućim uvjetima.
Hvala vam od srca na vašoj potpori.
Vaša Epoha
