Ranije ovog mjeseca, OpenAI koji podržava Microsoft predstavio je četvrtu iteraciju svog GPT (Generative Pre-trained Transformer) programa umjetne inteligencije, koji je oduševio korisnike svojim širokim rasponom aplikacija, od uključivanja korisnika u ljudski razgovor do skladanja pjesama i sažimanja dugih obrazaca dokumenata.

Pismo, koje je izdao neprofitni institut Future of Life i koje je potpisalo više od 1000 ljudi, uključujući Muska, poziva na pauzu u razvoju napredne umjetne inteligencije dok se zajednički sigurnosni protokoli za takve dizajne ne razviju, implementiraju i pregledaju neovisni stručnjaci.

“Snažne sustave umjetne inteligencije treba razvijati tek kada smo uvjereni da će njihovi učinci biti pozitivni i da se njihovim rizicima može upravljati”, stoji u pismu.

OpenAI nije odmah odgovorio na zahtjev za komentar.

Pismo je detaljno opisalo potencijalne rizike za društvo i civilizaciju od sustava umjetne inteligencije koji su konkurenti ljudima u obliku ekonomskih i političkih poremećaja i pozvalo programere da surađuju s kreatorima politike na upravljanju i regulatornim tijelima.

Među potpisnicima su bili izvršni direktor tvrtke Stability AI Emad Mostakue, istraživači DeepMinda u vlasništvu Alphabeta i AI teškaša Joshua Bengio, kojeg se često naziva jednim od “kumova umjetne inteligencije”, te Stuart Russell, pionir istraživanja na tom području.

Prema Registru transparentnosti Europske unije, Future of Life Institute prvenstveno financira Musk Foundation, kao i londonska grupa za učinkovit altruizam Founders Pledge i Silicon Valley Community Foundation.

Zabrinutost dolazi nakon što su se policijske snage EU-a Europol u ponedjeljak pridružile zboru etičkih i pravnih zabrinutosti u vezi s naprednom umjetnom inteligencijom poput ChatGPT-a, upozoravajući na potencijalnu zlouporabu sustava u pokušajima krađe identiteta, dezinformacijama i kibernetičkom kriminalu.

U međuvremenu, britanska vlada predstavila je prijedloge za “fleksibilni” regulatorni okvir oko umjetne inteligencije.

Vladin pristup, naveden u političkom dokumentu objavljenom u srijedu, podijelio bi odgovornost za upravljanje umjetnom inteligencijom (AI) između regulatora ljudskih prava, zdravlja i sigurnosti i tržišnog natjecanja, umjesto stvaranja novog tijela posvećenog tehnologiji.

Musk, čiji proizvođač automobila Tesla koristi umjetnu inteligenciju za svoj sustav autopilota, glasno je izrazio svoju zabrinutost oko umjetne inteligencije.

Od svojeg izdanja prošle godine, OpenAI ChatGPT je potaknuo konkurente da ubrzaju razvoj sličnih velikih jezičnih modela i tvrtke da integriraju generativne AI modele u svoje proizvode.

Prošlog je tjedna OpenAI objavio da se udružio s desetak tvrtki kako bi svoje usluge ugradio u svoj chatbot, omogućujući ChatGPT korisnicima da naručuju namirnice putem Instacarta ili rezerviraju letove putem Expedije.

Sam Altman, izvršni direktor OpenAI-ja, nije potpisao pismo, rekao je Reutersu glasnogovornik Future of Life.

“Pismo nije savršeno, ali duh je ispravan: Moramo usporiti dok bolje ne shvatimo posljedice”, rekao je Gary Marcus, profesor na Sveučilištu New York koji je potpisao pismo. “Veliki igrači postaju tajnovitiji o tome što rade, što otežava obranu društva od bilo kakve štete koja bi se mogla materijalizirati.”

Kritičari su optužili potpisnike pisma za promicanje “napretka umjetne inteligencije”, rekavši da su tvrdnje o trenutnom potencijalu tehnologije uvelike pretjerane.

“Ovakve izjave imaju za cilj podići uzbuđenje. Svrha je da zabrine ljude,” Johana Bjorklund, istraživačica umjetne inteligencije i izvanredna profesorica na Sveučilištu Umeo. – Mislim da nema potrebe povlačiti ručnu kočnicu.

Umjesto pauziranja istraživanja, rekla je, istraživači umjetne inteligencije trebali bi podlijegati većim zahtjevima transparentnosti. “Ako radite istraživanje umjetne inteligencije, trebali biste biti vrlo transparentni o tome kako to radite.”

Izvor: USNews