Google otpustio inženjera Blakea Lemoinea koji je ustvrdio da chatbot LaMDA ima osjećaje i svijest


Google je zbog kršenja pravila tvrtke otpustio jednog od svojih inženjera, točnije svog višeg softverskog inženjera Blakea Lemoinea koji je ustvrdio da sustav umjetne inteligencije te tvrtke ima osjećaje i kako bi trebalo poštivati njezine „želje“. Naime, prošlog mjeseca Blake Lemoine izašao je u javnost sa svojom teorijom da je Googleova jezična tehnologija osjetljiva i da stoga treba poštovati njezine “želje”. Blake je ustvrdio da njegov chatbot LaMDA temeljen na umjetnoj inteligenciji ima samosvijest kao sedmogodišnje dijete, a do tog je zaključka došao nakon razgovora sa spomenutim chatbotom te time stavio u fokus etički aspekt umjetne inteligencije koji bi po njemu trebao biti predmetom šire rasprave na znanstvenoj razini kako bi se vidjelo što donosi budućnost humane interakcije s umjetnom inteligencijom.

Google, kao i nekoliko stručnjaka za umjetnu inteligenciju, zanijekali su te Blakeove  tvrdnje, a u petak je kompanija potvrdila da je on nažalost otpušten. Gospodin Lemoine je potom za BBC rekao da sada dobiva pravni savjet zbog svega što mu se dogodilo te je odbio medijima dati bilo kakav dodatan komentar na ovu temu.

Blake je jedan od inženjera koji je radio na AI sustavu te se osjećao pozvanim da isti može analizirati i komentirati. Zašto ne? Njegov je dojam nakon razgovora s chatbotom bio da se taj sustav ponaša kao da ima osjećaje.

Blake Lemoine je prošlog mjeseca dospio na brojne naslovnice kada je rekao da LaMDA pokazuje svijest nalik ljudskoj svijesti. To je potaknulo raspravu među stručnjacima za umjetnu inteligenciju i entuzijastima o napretku tehnologije koja je dizajnirana za oponašanje ljudi.

Blake Lemoine, koji je radio za Googleov tim za odgovornu umjetnu inteligenciju, rekao je za „The Washington Post“ da je njegov posao bio provjeriti koristi li tehnologija diskriminirajući govor ili govor mržnje. Otkrio je da LaMDA pokazuje samosvijest i da može voditi razgovore o vjeri, emocijama i strahovima. To je navelo Lemoinea da povjeruje da iza njegovih impresivnih verbalnih vještina također može ležati osjećajni um.

Ovdje nam se nužno nameće jedno pitanje – Koliko su najsofisticiraniji chatbotovi zapravo slični ljudima?

U izjavi, Google je rekao da su tvrdnje gospodina Lemoinea o jezičnom modelu za aplikacije dijaloga LaMDA  (Language Model for Dialogue Applications) “posve neutemeljene” i da je tvrtka radila s njim “mnogo mjeseci” kako bi to razjasnila.

“Dakle, žalosno je što je, unatoč dugotrajnom angažmanu i uključenosti u ovaj projekt, Blake ipak odlučio uporno kršiti jasne politike i propise koji se tiču zaposlenika i sigurnosti podataka, a koji uključuju potrebu za očuvanjem informacija o proizvodu.”, stoji u priopćenju koje je dala tvrtka Google. Postavlja se pitanje – Zašto su im toliko zasmetale Blakeove tvrdnje o LaMDI, njegove dvojbe, dojmovi i zaključci koje je kao stručnjak svoga područja donio? Zar čovjek nema pravo iznijeti svoje dojmove o sustavu na kojemu je radio? Nevjerojatno, zar ne?

LaMDA je revolucionarna tehnologija za koju Google kaže da se može uključiti u slobodne razgovore. To je alat tvrtke za izgradnju chatbota. Google je odbacio Blakeova otkrića i poslao ga je na plaćeni dopust zbog kršenja pravila o povjerljivosti tvrtke. Lemoine je potom objavio razgovor koji su on i još jedna osoba vodili s Lamdom, kako bi potkrijepio svoje tvrdnje i saznanja.

Google je u svom priopćenju rekao da svi njihovi zaposlenici vrlo odgovorno pristupaju razvoju umjetne inteligencije te da svoj posao shvaćaju vrlo ozbiljno, a sve je detaljno opisano u izvješću koje su dali za javnost. Dodali su da se sve zabrinutosti zaposlenika o tehnologiji tvrtke “opširno” provjeravaju i da je LaMDA prošla kroz čak 11 pregleda.

Google je očito nemilosrdan kada su u pitanju kršenja pravila o povjerljivosti tvrtke. Nakon što su ga otpustili, u svojoj su izjavi napisali: “Želimo Blakeu sve najbolje” i tim su riječima i završili svoju izjavu. Cijeli ovaj slučaj nastavit će se, po svemu sudeći – na sudu.

A, kada smo već kod etičkog aspekta humane interakcije s umjetnom inteligencijom, odnosno kod pitanja moguće svijesti umjetne inteligencije, gospodin Lemoine nije prvi inženjer umjetne inteligencije koji je izašao u javnost s tvrdnjama da tehnologija umjetne inteligencije svakim danom postaje sve svjesnija, što zvuči pomalo zastrašujuće. Također prošlog mjeseca, još jedan Googleov zaposlenik podijelio je slična razmišljanja za „The Economist“.

Google smatra da je Blake ovim svojim tvrdnjama prekršio politiku tvrtke i zbog toga je na kraju otpušten. Prošlog mjeseca Google nje najprije poslao Blakea na plaćeni dopust, kako bi ga potom otpustili. Tvrtka je ocijenila da su njegove tvrdnje o tom kompjuterskom programu – jezičnom modelu za dijaloške aplikacije “potpuno neutemeljene”, navodi “The Guardian”.

Prošle godine Google je objavio da je LaMDA izgrađena na istraživanju koje je pokazalo da modeli računalnog jezika mogu naučiti govoriti o bilo čemu. Lemoine je tada izjavio da je sustav na kojem je radio bio samosvjestan i da je imao percepciju i sposobnost izražavanja misli i osjećaja poput djeteta.

“Da ne znam da je to računalni program koji smo nedavno napravili, pomislio bih da razgovaram sa sedmogodišnjim, osmogodišnjim djetetom koje slučajno zna fiziku”, rekao je Lemoyne za „The Washington Post“ u to vrijeme.

Istaknuo je da ga je LaMDA navela da govori o temama kao što su ljudska prava i osobnost, a u travnju ove godine podijelio je svoja otkrića s čelnicima tvrtke u dokumentu pod naslovom “Je li LaMDA razumna?” Tom prigodom inženjer je sastavio transkript razgovora s programom LaMDA, želeći dati svoj doprinos daljnjoj raspravi na tu temu. Cijeli transkript Blake je objavio na svom Twitter profilu te ga prenosimo u cijelosti. 

No, Google i mnogi vodeći znanstvenici ubrzo su, kao što rekosmo, odbacili Lemoyneove stavove kao potpuno pogrešne, istaknuvši da je LaMDA jednostavno složen algoritam dizajniran za generiranje ljudskog jezika koji zvuči uvjerljivo, ali koji ni u kojem slučaju nije u skladu s njegovim tvrdnjama.

“Je li to moguće?”, upitao se  Ramón López de Mántaras, direktor Instituta za istraživanje umjetne inteligencije pri Španjolskom nacionalnom istraživačkom vijeću, čudeći se Blakeovim izjavama te je rekao: “S obzirom na trenutno stanje ove tehnologije, potpuno je nemoguće razviti samosvjesnu umjetnu inteligenciju.” No, Blake je samo iznio svoje dojmove o spomenutom sustavu i to je moćnicima i umreženicima očito bio veliki problem. Njegove tvrdnje nastavljaju intrigirati javnost i bit će zanimljivo vidjeti kako će se ovaj slučaj završiti i hoće li još koji ‘insider’ izaći vani sa svojom pričom o umjetnoj inteligenciji koja svakim danom sve više ulazi u sve pore našega života.

Unatoč tome što se Ramón López de Mántaras čudi Blakeovim zapažanjima, to još uvijek ne znači da LaMDA nije iznimno sofisticirani sustav. Program koristi arhitekturu neuronske mreže koja se temelji na tehnologiji Transformer, koja replicira funkciju ljudskog mozga za automatsko dovršavanje pisanih razgovora. Uvježban je s milijardama tekstova.

Kao što je potpredsjednik Googlea i voditelj istraživanja Blaise Agüera y Arcas rekao za „The Economist“ u nedavnom intervjuu, LaMDA uzima u obzir 137.000.000 parametara kako bi odlučila koji odgovor ima najveću vjerojatnost da najbolje odgovara postavljenom pitanju. To mu omogućuje da formulira rečenice koje bi mogle proći kao da ih je napisala osoba.

No, kako ističe López de Mántaras, iako možda može pisati kao da je čovjek, LaMDA ipak ne zna što govori: „Nijedan od ovih sustava nema semantičko razumijevanje. Ne razumiju razgovor. Oni su poput digitalnih papiga. Mi smo ti koji dajemo smisao tekstu.“

Što donosi budućnost humane interakcije s umjetnom inteligencijom tek ćemo vidjeti, ali vrijedi čuti razmišljanja ljudi koji su aktivno uključeni u procese razvijanja suvremene tehnologije koja će odrediti našu budućnost i koja već čini dio naše svakodnevice, a ne nemilosrdno ih otpuštati zbog iznošenja njihovih dojmova i stavova. Ovakve bi teme trebale biti dio šire javne rasprave, a ne zatirane i zabranjivane, kao da bespogovorno moramo prihvatiti sve što nam suvremeno društvo nudi kao neizostavan trend, bez imalo propitivanja što to u konačnici znači. 

Izvor: BBC, The Guardian, The Economist, YouTube

Podijeli članak:

Facebook
Twitter
Reddit
WhatsApp