Prema renomiranom istraživaču umjetne inteligencije, stvarno moćna umjetna inteligencija (AI) koja je inteligentnija od ljudi bila bi de facto smrtna kazna za sav život na ovom planetu: on stoga poziva programere na suzdržanost. Moraju postojati jasne granice, inače postoji velika opasnost.
Ljudi nisu spremni za moćnu umjetnu inteligenciju u sadašnjim uvjetima, pa čak ni u “doglednoj budućnosti”, objasnio je vodeći stručnjak na tom području, dodajući da je nedavno otvoreno pismo u kojem se poziva na šestomjesečni moratorij na razvoj napredne umjetne inteligencije, “ podcijenio ozbiljnost situacije”.
“Glavni problem nije inteligencija koja se može natjecati s ljudima (kao što otvoreno pismo navodi), nego što se događa kada je umjetna inteligencija inteligentnija od ljudi”, rekao je Eliezer Yudkowsky, teoretičar odlučivanja i vodeći istraživač umjetne inteligencije, u autorskom tekstu u Časopis Time. “Mnogi istraživači koji proučavaju ova pitanja, uključujući i mene, pretpostavljaju da je najvjerojatniji ishod razvoja nadljudski inteligentne umjetne inteligencije pod trenutnim okolnostima da će doslovno svi na Zemlji umrijeti.”
“Ne u smislu ‘možda daleke šanse’, nego u smislu ‘to je očita stvar koja bi se dogodila’. Nije da ne možete, u principu, preživjeti stvarajući nešto mnogo pametnije od sebe; samo što bi to zahtijevalo preciznost i pripremu i nova znanstvena saznanja, a vjerojatno nemate AI sustave sastavljene od golemih nedokučivih nizova frakcijskih brojeva.”
Yudkowsky predviđa da će bez pažljive pripreme, AI imati vrlo različite zahtjeve od ljudi i, kada postane svjestan sebe, neće mariti ni za nas ni za druge osjećajne živote. “Ta vrsta brige je nešto što bi se u principu moglo ubrizgati u AI, ali još nismo tamo i ne znamo kako u ovom trenutku.” Zato poziva na potpuno gašenje. Prema istraživaču, AI ne bi trebao ići dalje od onoga što GPT-4 može učiniti.
Veteran industrije izazvao je čitatelje da zamisle kako AI tehnologija nije ograničena na granice interneta. “Zamislite cijelu izvanzemaljsku civilizaciju, koja razmišlja brzinom milijunima puta većom od ljudske i u početku je ograničena na računala – u svijetu stvorenja koja oni vide kao vrlo glupa i vrlo spora.”
AI će proširiti svoj utjecaj izvan periferije fizičkih mreža i mogla bi “izgraditi umjetne oblike života” u laboratorijima gdje se proteini proizvode pomoću nizova DNK. Krajnji rezultat izgradnje svemoćne umjetne inteligencije u sadašnjim uvjetima bila bi smrt “svakog pojedinog člana ljudske vrste i cijelog biološkog života na Zemlji”, upozorio je.
