Prof. Yuval Noah Harrari – O pretvaranju ljudi u robote


Prof. Yuval Noah Harrari, profesor na Odsjeku povijesti (Hebrew University of Jerusalem) 2020. godine na Svjetskom ekononskom forumu u Davosu postavio je vrlo intrigantno pitanje: Donosi li nam budućnost digitalnu diktaturu? Tom se pitanju danas s pravom vraćamo, prisjećajući se dijela njegova izlaganja u kojemu je govorio o hakiranju ljudi.

“Uz nejednakost, druga velika opasnost s kojom se suočavamo je uspon digitalnih diktatura.
Ova se opasnost može izraziti u obliku jednostavne jednadžbe, za koju mislim da bi mogla biti definirajuća jednadžba života u dvadeset prvom stoljeću:


B x C x D = AHH!

Što to znači? (B-biological knowledge) Biološko znanje pomnoženo s (C-computing power) računalnom snagom pomnoženo s (D-data) podacima jednako je sposobnosti hakiranja ljudi, (ability to hack humans) – AHH.

Ako znate dovoljno biologije i imate dovoljno računalne snage i podataka, možete hakirati moje tijelo i moj mozak i moj život, i možete me razumjeti bolje nego što ja razumijem samoga sebe. Možete znati moj tip ličnosti, moje političke stavove, moje seksualne sklonosti, moje mentalne slabosti, moje najdublje strahove i nade. Možete znati više o meni nego što ja znam o sebi. I to možete učiniti ne samo meni, već svima.”

Sustav koji nas razumije bolje nego što mi razumijemo sami sebe može predvidjeti naše osjećaje i odluke, može manipulirati našim osjećajima i odlukama i u konačnici donositi odluke umjesto nas te upravljati nama i našim ponašanjem, što je uistinu više nego zastrašujuće. Suočeni s početkom čipiranja ljudi i globalnim nadzorom koji se upravo provodi pod egidom provjere procijepljenosti ljudi diljem svijeta, danas se s punim pravom prisjećamo vehementnog izlaganja povjesničara Harrarija i njegova vizionarskog govora.

“U prošlosti, mnoge su vlade i tirani htjeli to učiniti, ali nitko nije dovoljno dobro razumio biologiju i nitko nije imao dovoljno računalne snage i podataka da hakira milijune ljudi. Ni Gestapo ni KGB to nisu mogli učiniti. Ali uskoro će barem neke korporacije i vlade moći sustavno hakirati sve ljude. Mi bismo se kao ljudi trebali naviknuti na ideju da više nismo tajanstvene duše – sada smo životinje koje se mogu hakirati. To smo mi.

Moć hakiranja ljudi može se koristiti u dobre svrhe – poput pružanja mnogo bolje zdravstvene skrbi. Ali, ako ova moć padne u ruke Staljina iz dvadeset i prvog stoljeća, rezultat će biti najgori totalitarni režim u ljudskoj povijesti, upozorio je profesor Harrari. A, iz priloženog vidimo da već sada imamo niz kandidata za posao Staljina iz dvadeset prvog stoljeća.

Zamislite samo Sjevernu Koreju za dvadeset godina, kada će svi morati nositi biometrijsku narukvicu koja neprestano prati vaš krvni tlak, otkucaje srca, aktivnost mozga 24 sata dnevno. Slušate govor velikog vođe na radiju i oni znaju što zapravo osjećate dok slušate taj govor. Možete pljeskati rukama i smiješiti se, ali ako ste ljuti, znaju oni to i sutra ćete biti u gulagu.

A ako dopustimo pojavu takvih totalnih režima nadzora, nemojte misliti da će bogati i moćni na mjestima poput Davosa biti sigurni, samo pitajte Jeffa Bezosa. U Staljinovom SSSR-u država je nadzirala pripadnike komunističke elite više nego bilo tko drugi. Isto će vrijediti i za buduće režime potpunog nadzora. Što se nalazite više u hijerarhiji – pomnije će vas pratiti.”

Želimo li doista da naš izvršni direktor ili predsjednik znaju što stvarno mislimo o njima?
Pitamo se – nije li stoga u interesu svih ljudi, uključujući elite, spriječiti uspon takvih digitalnih diktatura? Jer, nitko neće biti izuzet.

Ako ne spriječimo uspostavu digitalnih diktatura, sposobnost hakiranja ljudi mogla bi potkopati samo značenje ljudske slobode kakvu smo još do jučer poznavali. Sustav potpune kontrole čovječanstva već je u tijeku, iako toga neki ljudi ne žele biti svjesni.

Ljudi se već danas uvelike oslanjaju na umjetnu inteligenciju za donošenje sve više i više odluka umjesto nas, što je zabrinjavajuće, istaknuo je Harrari, jer će se s vremenom autoritet u potpunosti prebaciti s ljudi na algoritme.

“Već danas milijarde ljudi vjeruju Facebookovom algoritmu da nam kaže što je novo, Google algoritam nam govori što je istina, Netflix nam govori što da gledamo, a algoritmi Amazon i Alibaba govore nam što kupiti.

U ne tako dalekoj budućnosti, slični algoritmi bi nam mogli reći gdje raditi i s kim se vjenčati, a i odlučiti hoćemo li se zaposliti, da li će nam bankq dati kredit i treba li središnja banka podići kamatnu stopu.

A ako se kojim slučajem budemo pitali zašto nismo dobili kredit i zašto nam banka nije podigla kamatu, odgovor će uvijek biti isti – jer računalo kaže ne. A budući da ograničenom ljudskom mozgu nedostaje dovoljno biološkog znanja, računalne snage i podataka – ljudi jednostavno neće moći razumjeti odluke računala.

Dakle, čak i u navodno slobodnim zemljama, ljudi će vjerojatno izgubiti kontrolu nad vlastitim životima i također izgubiti sposobnost razumijevanja javne politike.”,
upozorio je Harrari te istaknuo kako vrlo mali broj ljudi razumije financijski sustav. Po njemu – možda tek jedan posto ljudi, dok će, smatra on, za nekoliko desetljeća razumijevanje financijskog sustava biti nula.

“Mi ljudi navikli smo razmišljati o životu kao o drami odlučivanja. Na svakom koraku donosimo neke za nas važne odluke. Što će biti smisao ljudskog života, kada većinu odluka umjesto nas budu donosili algoritmi?”

Profesor Harrari rekao je kako mi nemamo čak ni filozofske modele za razumijevanje takvog postojanja. Uobičajena pogodba između filozofa i političara je da filozofi imaju puno maštovitih ideja, a političari u osnovi objašnjavaju da im nedostaju sredstva za provedbu tih ideja. Sada smo u potpuno suprotnoj situaciji. Pred filozofskim smo bankrotom, upozorio je.

Dvostruke revolucije “infotech” i “biotech” sada daju političarima sredstva da stvore raj ili pakao, ali filozofi imaju problema s konceptualizacijom, jer ne znaju kako će izgledati taj novi raj i novi pakao. A to je po njemu vrlo opasna situacija.

Sve u svemu, ako se ne saberemo i ne otvorimo oči te ako ne uspijemo dovoljno brzo konceptualizirati novi raj, lako bi nas mogle zavesti naivne utopije. A ako ne uspijemo dovoljno brzo konceptualizirati novi pakao, mogli bismo se naći zarobljeni tamo bez izlaza, upozorio je Harrari. Danas njegov govor dobiva na još većem značaju i s pravom se pitamo – što nam to donosi budućnost? 

Podijeli članak:

Facebook
Twitter
Reddit
WhatsApp