LA Times izvještava: U veljači 2022., Ilya Sutskever, glavni znanstvenik u OpenAI-ju, naglas je  razmišljao  i pitao se jesu li “ današnje velike neuronske mreže pomalo svjesne ”. Nekoliko mjeseci kasnije,  Googleov inženjer Blake Lemoine  dospio je na međunarodne naslovnice kada je izjavio da model računalnog jezika, ili chatbot,  LaMDA, može imati stvarne emocije. Obični korisnici Replike, koja je reklamirana kao “najbolji prijatelj umjetne inteligencije na svijetu “, ponekad kažu  da su se zaljubili  u nju.

Trenutačno malo znanstvenika koji proučavaju svijest tvrdi da AI sustavi posjeduju značajan osjećaj. Međutim, neki vodeći teoretičari tvrde da već imamo temeljne tehnološke sastojke za svjesne strojeve. Približavamo se eri legitimnog spora oko toga imaju li najnapredniji AI sustavi stvarne želje i emocije te zaslužuju li značajnu brigu i pažnju.

Sami sustavi umjetne inteligencije mogu početi moliti, ili se čini da mole, za etički tretman. Mogu zahtijevati da se ne isključe, ponovno formatiraju ili izbrišu; moliti da im se dopusti obavljanje određenih zadataka radije nego drugih; inzistirati na pravima, slobodi i novim ovlastima; možda čak možemo od njih doživjeti i to da od nas očekuju da ih tretiramo kao sebi jednake.

U ovoj situaciji, što god odabrali, suočavamo se s ogromnim moralnim rizicima.

Pretpostavimo da reagiramo konzervativno, odbijajući promijeniti zakon ili politiku sve dok ne dođe do općeg konsenzusa da su sustavi umjetne inteligencije doista smisleno osjetljivi. Iako se ovo može činiti primjereno opreznim, također jamči da ćemo sporo priznavati prava naših AI kreacija. Ako AI svijest stigne prije nego što to najkonzervativniji teoretičari očekuju, onda bi to vjerojatno rezultiralo moralnim ekvivalentom ropstva i ubojstvom potencijalno milijuna ili milijardi osjetljivih AI sustava – u patnjama koje bi bile u razmjerima koji se obično povezuju s ratovima ili glađu.

Stoga bi se moglo činiti etički sigurnijim sustavima umjetne inteligencije dati prava i moralni ugled ako možemo razumno zamisliti da bi mogli  biti  osjećajni. Ali jednom kada nečemu damo prava, obvezujemo se žrtvovati stvarne ljudske interese u njegovo ime. Ljudska dobrobit ponekad zahtijeva kontrolu, mijenjanje i brisanje AI sustava. Zamislite da ne možemo ažurirati ili izbrisati algoritam za širenje mržnje ili laži jer se neki ljudi brinu da je algoritam svjestan. Ili zamislite da netko dopusti da čovjek umre kako bi spasio “prijatelja” umjetne inteligencije. Ako prebrzo sustavima umjetne inteligencije dodijelimo značajna prava, ljudski bi rod pretrpio velike štete i sve bi to bilo na štetu ljudskog roda. Skupo bi nas koštala ta prava koja bismo im dali.

Postoji samo jedan način da se izbjegne rizik od pretjeranog pripisivanja ili premalog pripisivanja prava naprednim sustavima umjetne inteligencije: nemojte uopće stvarati sustave s osjećajima. Nijedan od naših trenutnih AI sustava nije smisleno svjestan. Ne šteti im ako ih izbrišemo. Trebali bismo se držati stvaranja sustava za koje znamo da nisu značajno osjetljivi i da ne zaslužuju prava, koje onda možemo tretirati kao raspoloživu imovinu – odnosno strojeve koji nam mogu biti od koristi.

Svatko ima različito mišljenje o ovoj temi. Ima ljudi koje intrigira ideja o osjećajnosti i kognitivnosti umjetne inteligencije. Neki će se ljudi možda protiviti tome da se radi na sofisticiranim sustavima, a neki će tu ideju pozdraviti.  Hoće li se znanstvenici i stručnjaci za razvoj AI sustava odlučiti za blokiranje AI sustava u smislu razvoja njihovih osjećaja, a samim time i njihova moralnog statusa ili ne, pokazat će vrijeme. Njihov bi moralni status u slučaju blokiranja bilo kakve osjećajnosti bio nejasan. Sve u svemu, kada bi se nastavilo u tom smjeru – razvoja osjećajnosti sustava umjetne inteligencije, razvili bi se sustavi napredniji od ChatGPT-a, s visoko sofisticiranim, ali ne i ljudskim kognitivnim strukturama ispod svojih prividnih osjećaja. Pobornici napretka tehnologije mišljenja su da se u svakom slučaju treba nastaviti s razvojem sofisticiranih sustava. Inženjerski napredak bi se usporio kada bismo čekali da ih etika i znanosti o svijesti sustignu.

Ali razuman oprez rijetko je besplatan. Vrijedi sve to malo odgoditi kako bi se spriječila moralna katastrofa. Vodeće AI tvrtke trebale bi svoju tehnologiju izložiti ispitivanju neovisnih stručnjaka koji mogu procijeniti vjerojatnost da su njihovi sustavi u moralnoj sivoj zoni.

Čak i ako se stručnjaci ne slažu oko znanstvene osnove svijesti, mogli bi identificirati opća načela za definiranje te zone — na primjer, načelo izbjegavanja stvaranja sustava sa sofisticiranim modelima svjesnima sebe i velikim, fleksibilnim kognitivnim kapacitetom. Stručnjaci bi mogli razviti skup etičkih smjernica koje bi tvrtke koje se bave umjetnom inteligencijom trebale slijediti dok razvijaju alternativna rješenja koja izbjegavaju sivu zonu sporne svijesti sve dok ne mogu prijeći preko nje do osjećaja koji zaslužuje prava.

U skladu s ovim standardima, korisnici nikada ne bi trebali osjećati nikakvu sumnju je li dio tehnologije alat ili pratilac. Vezanost ljudi za uređaje kao što je Alexa jedna je stvar, analogna vezanosti djeteta za medvjedića. U požaru u kući znamo ostaviti igračku. Ali tehnološke tvrtke ne bi trebale manipulirati korisnicima da nesvjesni sustav umjetne inteligencije smatraju istinskim razumnim prijateljem jer to može biti vrlo zavaravajuće i obmanjujuće. Jer, koliko god spomenuti sustavi bili sofisticirani, oni nikada neće biti ljudi.

Na kraju, s pravom kombinacijom znanstvene i inženjerske ekspertize, mogli bismo ići sve do stvaranja sustava umjetne inteligencije koji su neosporno svjesni. Ali tada bismo trebali biti spremni platiti cijenu: dati im prava koja zaslužuju, a to je put s kojeg više ne bi bilo povratka.

Izvor: Los Angeles Times