Prijetnja umjetne inteligencije, predviđena u znanstvenofantastičnim pričama već je pred nama.
Znanstvena fantastika dugo je nagovještavala prijetnje i izazove koje predstavlja umjetna inteligencija. U svemiru “Zvjezdanih staza”, posebno u originalnoj seriji, 2. sezoni, 24. epizodi, “Vrhunsko računalo”, dr. Leonard McCoy izgovara ovu dirljivu rečenicu: “Suosjećanje: To je jedina stvar koju nijedan stroj nikada nije imao. Možda je to jedina stvar koja ljudima daje prednost nad njima.” Ova rečenica dolazi nakon što revolucionarno novo AI računalo, M5, koristi svoju bezdušnu AI logiku kako bi vježbu pretvorilo u smrtonosni masakr. U drugoj epizodi “Zvjezdanih staza” susrećemo Nomada, genocidnu umjetnu inteligenciju koja čisti svemir od bioloških nesavršenosti.
Kao nagovještaj uspona umjetne inteligencije s ogromnim mogućnostima hakiranja, poput Anthropicovog “Mythos”, Cylonci kojima upravlja umjetna inteligencija u reimaginaciji “Battlestar Galactica” (2003. – 2009.) koriste svoju sposobnost hakiranja bilo kojeg računala spojenog na mrežu kako bi se pobunili i gotovo uništili svoje stvoritelje. U seriji “Terminator”, Skynet je postao “pametan” (stekao je svijest) i odlučio o sudbini čovječanstva – “uništenju” – u “mikrosekundi”, čime je pokrenuo nuklearni Armagedon nad čovječanstvom. Ove naracije upozoravaju da umjetna inteligencija, bez robusnih zaštitnih mjera, može dovesti do katastrofe. Kako se mogućnosti umjetne inteligencije nastavljaju ubrzavati 2026. godine, fikcija i stvarnost se brzo spajaju. Softverske zaštitne mjere, industrijski standardi i nepotpuni propisi nisu dovoljni. Čvršći temelj – neupravljivi dizajni hardvera i promjene u nacionalnom i međunarodnom pravu – ključni su.
Tri zakona robotike Isaaca Asimova
Kako je opisano u časopisu “Spectrum” Instituta inženjera elektrotehnike i elektronike, Tri zakona robotike poznatog znanstvenika i autora znanstvene fantastike Isaaca Asimova, koje je predstavio u svojim pričama “Ja, robot”, pružaju dobro osmišljen okvir za sigurnosne mjere u području umjetne inteligencije:
- Robot ne smije uzrokovati štetu pojedinom ljudskom biću ili čovječanstvu, niti svojom neaktivnošću dopustiti da se nanese šteta ljudskom biću ili čovječanstvu.
- Robot mora slušati naredbe koje mu daju ljudi, pod uvjetom da te naredbe nisu u suprotnosti s Prvim zakonom.
- Robot mora zaštititi vlastito postojanje sve dok takva zaštita nije u sukobu s Prvim ili Drugim zakonom.
Ukratko: Asimovljevi zakoni su dobra polazna točka, ali kako je detaljno opisano u Asimovljevom sljedećem remek-djelu, seriji “Zaklada”, oni su nedovoljni kada je u pitanju zaštita istinskog čovječanstva. Nadalje, bit će pravi izazov čvrsto integrirati odgovarajuće mehanizme u umjetnu inteligenciju, kao što je to učinjeno u Asimovljevom svemiru s “pozitronskim” mozgom. Međutim, prihvaćanje izazova stvaranja zaštitnih mjera koje nadilaze softverski utemeljene pristupe ključno je za osiguravanje da umjetna inteligencija služi samo u korist čovječanstva.
Neadekvatnost mjera zaštite softvera, enkripcije i same regulacije
Mehanizmi zaštite temeljeni na softveru su promjenjivi i ranjivi na hakerske napade i iskorištavanja.
I povijest pokazuje ranjivost samoregulacije: kršenje podataka Equifaxa (2017.), napad na lanac opskrbe SolarWindsa (2020.), sigurnosna ranjivost MOVEita (2023.) i kontinuirana kršenja sigurnosti pokazuju da korporativna obećanja o „robusnim zaštitnim mjerama“ često ne uspiju.
Nalazimo se na „Divljem zapadu“ umjetne inteligencije, bez dovoljno obvezujućih globalnih ili nacionalnih okvira.
Prava zaštita kroz nepromjenjive hardverske čuvare
Povijest pokazuje da softverske zaštitne mjere trenutno ne mogu, i nikada neće, pružiti potrebnu razinu zaštite. Inspirirane Asimovljevim pozitronskim mozgom, zaštitne mjere implementirane u ASIC-ove (integrirane krugove specifične za aplikacije) pružit će ključni sloj zaštite, povećavajući šanse da će umjetna inteligencija koristiti čovječanstvu, a ne naštetiti mu. Ovi specijalizirani čipovi sadrže milijune redaka složene softverske logike ili pravila, fizički ugraviranih izravno na sam silicijski hardver. Nakon što se čip proizvede i implementira, ta pravila postaju nepromjenjiva: ne mogu se mijenjati, ažurirati ili zaobići promjenama softvera, zakrpama ili pokušajima hakiranja. Jedini način za modificiranje ugrađene logike jest dizajniranje i fizička proizvodnja potpuno novog ASIC čipa – proces koji je skup, dugotrajan i vrlo uočljiv. To stvara “hardverski vatrozid” koji je daleko pouzdaniji od bilo koje softverske zaštitne mjere i osigurava da kritična sigurnosna ograničenja ostanu nepromijenjena, bez obzira koliko pametni ili agresivni budući AI sustavi mogu postati.
ASIC-ovi funkcioniraju kao fizički fiksni, integrirani čuvari ulaza. U budućnosti bi i procesori specifični za umjetnu inteligenciju i procesori opće namjene mogli integrirati ove sitne ASIC-ove izravno u CPU – kao hardverski sloj za inspekciju umjetne inteligencije koji je standardna, neizostavna komponenta CPU-a.
Neki predloženi osnovni principi dizajna:
- Budući da hardverski sloj djeluje kao sučelje za vanjske interakcije – kao što je slučaj s nekim modernim pametnim telefonima – umjetna inteligencija u softveru može slobodno razmišljati, planirati i simulirati bez usporavanja od strane ASIC-a. Tek kada se rezultati priopćuju izvana, ASIC intervenira kao čuvar vrata kako bi osigurao da radnje koje predlaže umjetna inteligencija ispunjavaju zahtjeve u vezi sa sigurnošću i drugim ograničenjima.
- Poticaji za obuku: Algoritmi temeljeni na troškovima ili gubicima itd. nagradit će umjetnu inteligenciju za usmjeravanje radnji kroz hardverski filter i ozbiljno će je kazniti za pokušaj zaobilaženja sloja hardverskog čuvara vrata. To će potaknuti umjetnu inteligenciju da ne pokušava zaobići njegova ograničenja.
Međutim, tako važna razina funkcionirat će samo ako njezina upotreba postane univerzalna.
Bez sile zakona koja nalaže takve sigurnosne mjere umjetne inteligencije, oni neće moći zaštititi čovječanstvo.
Danas, posebno u ratu između Ukrajine i Rusije, obje strane ulažu napore kako bi dronovima, odvojenim od ljudskih operatera, omogućile autonomni nastavak misije ubijanja neprijateljskih boraca. To se ne može tolerirati. Baš kao što je međunarodna zajednica zabranila upotrebu kemijskog, biološkog i plinovitog oružja, umjetnoj inteligenciji mora se zabraniti donošenje konačnih odluka koje štete ljudima. To bi se moglo postići eksplicitnim amandmanom na Ženevske konvencije kojim bi se zabranile autonomne, smrtonosne odluke sustava umjetne inteligencije.
No, umjetna inteligencija može uzrokovati štetu i izvan bojnog polja. Stoga, uz ažuriranje Ženevskih konvencija, moraju se donijeti zakoni koji se bave nevojnom upotrebom umjetne inteligencije. Kako bi se spriječila zlouporaba umjetne inteligencije u takozvanim civilnim primjenama, moraju postojati vrlo ozbiljne posljedice, uključujući kazne dovoljno visoke da ugroze održivost tvrtki i neprofitnih organizacija, zatvorske kazne za pojedince te ekonomske sankcije ili čak vojne akcije protiv vlada koje upravljaju sustavima umjetne inteligencije bez potrebnog nepromjenjivog sigurnosnog sloja hardvera i drugih zaštitnih mjera.
Gore navedeno je samo prvi nacrt onoga što bi okvir trebao obuhvatiti, ali bez obzira na oblik koji poprimio, trebao bi utjeloviti duh Asimovljevih triju zakona, dopunjen jamstvom da se poštuje ljudska jedinstvenost. Trenutna mješavina zakona, standarda i tehnologija potpuno je neadekvatna. Potreban nam je sveobuhvatan, koherentan okvir, potkrijepljen punom snagom nacionalnih i međunarodnih zakona koji postavljaju ograničenja za umjetnu inteligenciju.
Konačno, moramo se oduprijeti pjesmi sirena o praktičnosti i učinkovitosti kada su u pitanju odluke koje mogu naštetiti ljudima i osigurati da moralni agenti odgovorni čovječanstvu i njegovom Stvoritelju – to jest, ljudi – donose takve odluke, a ne bezdušne umjetne inteligencije.
