Trebamo li poslušati upozorenja stručnjaka za umjetnu inteligenciju i odmah ju zaustaviti?

Trebamo li poslušati upozorenja stručnjaka za umjetnu inteligenciju i odmah ju zaustaviti?

„99% stanovništva nema pojma što je AI zapravo niti kakvu prijetnju predstavlja čovječanstvu. Kada pravi stručnjaci u industriji izdaju snažna upozorenja da se zaustavi razvoj umjetne inteligencije, ostatak svijeta još uvijek ne zna zašto bi ih itko trebao slušati, pa se razvoj nastavlja nesmanjenim i nekontroliranim.“ ⁃ Urednik TN-a

Vodeći stručnjak za umjetnu inteligenciju izdao je oštro upozorenje o potencijalu da superinteligentna tehnologija umjetne inteligencije uništi svijet.

Eliezer Yudkowsky je vodeći istraživač umjetne inteligencije i tvrdi da će “svi na zemlji umrijeti” ako ne zaustavimo razvoj nadljudskih obavještajnih sustava.

Ovaj 43-godišnjak je suosnivač Instituta za istraživanje strojne inteligencije (MIRI) i tvrdi da dobro zna koliko je “užasno opasna ova tehnologija”.

Boji se da će, ako dođe do bitke ljudi protiv nadljudi, rezultat biti “potpuni gubitak”, piše u TIME-u.

Kao metafora, kaže, ovo bi bilo kao “11. stoljeća pokušavajući se boriti protiv 21. stoljeća”.

Ukratko, čovjek bi dramatično izgubio.

Dana 29. ožujka, vodeći stručnjaci OpenAI-ja podnijeli su otvoreno pismo pod naslovom “Pauzirajte divovske AI eksperimente,” pozivajući na trenutnu šestomjesečnu zabranu treniranja moćnih AI sustava.

Pismo su između ostalih potpisali suosnivač Applea Steve Wozniak i Elon Musk.

Međutim, američki teoretičar odbija potpisati ovu peticiju jer “premalo traži za rješavanje problema”.

Prijetnja je toliko velika da on tvrdi da bi brisanje umjetne inteligencije trebalo smatrati “prioritetom u odnosu na sprječavanje pune nuklearne zamjene”.

Upozorava da je najvjerojatniji ishod robotske znanosti taj da stvorimo “AI koja ne radi ono što mi želimo i koja ne mari za nas ili osjećajni život općenito.”

Još nismo stigli, priznaje Yudkowsky, u podučavanju umjetne inteligencije kako biti brižan jer “trenutačno ne znamo kako.”

Naprotiv, surova stvarnost je da ste u umu robota “sazdani od atoma koje on može koristiti za nešto drugo”.

“Ako netko izgradi premoćnu umjetnu inteligenciju u sadašnjim uvjetima, očekujem da će svaki pojedini član ljudske vrste i sav biološki život na Zemlji umrijeti ubrzo nakon toga.”

Yudkowsky ističe da “trenutačno nemamo pojma kako odrediti jesu li AI sustavi samosvjesni”.

To znači da bi znanstvenici mogli nenamjerno stvoriti “prave svjesne digitalne mozgove”, što bi dovelo do raznih vrsta moralnih dilema, budući da svjesna bića imaju prava i ne bi ih se smjelo posjedovati.

Naše neznanje, kune se, bit će naša propast.

Budući da istraživači ne znaju stvaraju li samouvjerenu umjetnu inteligenciju, kaže: “Nemaju pojma što rade, a to je opasno i trebali bi prestati.”

Yudkowsky tvrdi da bi nam mogla trebati desetljeća da riješimo problem sigurnosti nadljudske inteligencije – ta se sigurnost sastoji u tome da se “doslovno ne ubijaju svi” – i za to vrijeme bismo svi mogli biti mrtvi.

Središnja izjava stručnjaka je sljedeća: “Nismo spremni. Nismo na putu da budemo spremni u razumnom roku. Nema plana.

„Napredak u sposobnostima umjetne inteligencije daleko je, daleko ispred napretka u razumijevanju onoga što se događa u tim sustavima. Ako to doista učinimo, svi ćemo umrijeti.”

Da bi se spriječila ova katastrofa koja potresa svijet, Yudkowsky vjeruje da je jedini način zaustaviti svu obuku nove tehnologije umjetne inteligencije u cijelom svijetu, “bez iznimaka, uključujući vladu i vojsku”.

Ako netko prekrši taj sporazum, stručnjak za umjetnu inteligenciju dokazuje svoju iskrenost govoreći da bi vlade trebale biti spremne “uništiti lažni podatkovni centar zračnim napadom”.

“Svatko tko govori o utrci u naoružanju je budala. To što svi živimo ili umiremo zajedno nije politika, već prirodna činjenica.”

Podijeli članak:

Facebook
Twitter
Reddit
WhatsApp