Izvršni direktor Walmarta, dr. McMillon, izjavio je da umjetna inteligencija (AI) remeti svaku funkciju u tvrtki na svim razinama i utječe na svaku industriju. Mnoga će radna mjesta biti ukinuta, neka će biti stvorena, a većina će biti prenamijenjena na neki način. Sve se to upravo sada događa i to vrlo velikom brzinom.
Svakako postoji razlog za radost. Ali iskustva proteklih desetljeća itekako bi nas trebala učiniti opreznima u vezi s ovim skokom u nepoznato. Mudro je pitati se o cijeni. Što bismo pritom mogli izgubiti?
Veliki problem s umjetnom inteligencijom nije njezina funkcionalnost, učinkovitost ili upotrebljivost. Briljantna je u svim tim aspektima. Opasnost leži u onome što čini ljudskom mozgu. Cijeli njezin etos je pružiti odgovore na sva pitanja. Ali pronalaženje odgovora nije izvor ljudskog napretka.
Napredak dolazi iz učenja. Jedini način učenja je kroz nelagodu potrebnu za dobivanje odgovora. Prvo naučiš metodu. Zatim je primijeniš. Ali radiš to krivo. I opet to radiš krivo. Otkriješ svoje pogreške. Ispraviš ih i dalje to radiš krivo. Otkriješ još više pogrešaka. Konačno, dođeš do odgovora.
Tada se osjećate zadovoljavajuće. Osjećate kako vam mozak radi. Poboljšali ste svoj um. Osjećate osjećaj postignuća.
Samo kroz ovaj proces išta naučite. To proizlazi iz boli neuspjeha i primjene ljudskog mozga u rješavanju problema. Student ili zaposlenik koji se oslanja na umjetnu inteligenciju za generiranje svih odgovora nikada neće razviti intuiciju, prosudbu, pa čak ni inteligenciju. Takva će osoba ostati neupućena. Praznine u znanju ostat će neotkrivene i nepopunjene.
Ovo je ogromna opasnost s kojom se suočavamo.
Ovu tvrdnju iznosi profesor Retsef Levi sa Sveučilišta Massachusetts (MIT), koji je prošli tjedan govorio na događaju u Brownstone institutu. Bio je to izvrstan govor, a iznio je još mnogo toga. Njegovo ozbiljno upozorenje: izgradnja sustava koji se u osnovi oslanjaju na umjetnu inteligenciju mogla bi biti katastrofalna za slobodu, demokraciju i civilizaciju.
Čak i iz individualne perspektive, postoji opasnost da će umjetna inteligencija izbrisati sposobnost razmišljanja, jednostavno zato što nam više nije potrebna. Nedavno gotovo svaki dokument koji otvorim nudi alat umjetne inteligencije s kratkim sažetkom, tako da zapravo više ne moram ništa čitati. To je apsurdno i volio bih da te tvrtke prestanu s ovim glupostima.
Neće. Sve je počelo s frazom koju mrzim: “sažetak”. Ne znam odakle dolazi taj izraz. Je li to ideja da se zauzeti, otmjeni direktor s pagerom i brzim automobilom ne može usredotočiti na detalje i priču jer mora odgovarati na pozive i donositi velike odluke? Ne znam, ali sada je “sažetak” postao sveprisutan.
Sada želimo da svi prijeđu na stvar, da odmah prijeđu na pitanje “tko je to učinio” umjesto da čitaju dramu, da čuju kratki uvod, jer jednostavno nemamo vremena puno razmišljati. Uostalom, uvijek imamo bolje načine da provedemo svoje vrijeme. Što onda? Čitanje više “izvršnih sažetaka”, pretpostavljam.
Sve je to apsurdna iluzija i posljedica uvjerenja da smo toliko napredni da zapravo više ništa ne trebamo znati. Sustav se za to brine umjesto nas.
U kojem trenutku ćemo odvojiti vrijeme za razmišljanje i učenje? Sa svim tim alatima za zaobilaženje stvarne kontemplacije, kako znamo da su odgovori koje nam sustav daje ispravni?
Moglo bi se reći da se to odnosi i na elektroničke kalkulatore i internet. I to je istina. Oboje nosi tu opasnost.
Vjerojatno sam dio posljednje generacije studenata koji su studirali na sveučilištu s kartotekama i fizičkim policama za knjige kao jedinim dostupnim resursima. Kad nisam bio na nastavi, bio sam u knjižnici, obično sjedeći na podu, okružen knjigama sa svih strana.
Ovo je bila avantura. Ovo je bio posao. Postojala je nagrada. Pregledavanje polica s knjigama bilo je zadovoljstvo i tijekom dvije godine postupno sam se probijao kroz cijelu zgradu. Ovo je moja baza znanja danas.
Zaljubio sam se u učenje. Ne samo u poznavanje odgovora, već i u otkrivanje kako do njih doći.
Čak je i pronalazak periodičnih publikacija zahtijevao podizanje teških knjiga i njihovo pažljivo čitanje. Nakon što biste nešto otkrili, mogli ste otići do polica i uzeti uvezanu literaturu iz proteklih 150 godina. Fizički ste opipali stranice i doživjeli ih kao što su to činile prethodne generacije.
Često se pitam hoće li se ovo ikada više dogoditi studentima. Pitam se što smo izgubili. Nema sumnje da je pristup brži. Informacijsko doba ima divne kvalitete. Nažalost, međutim, cijeli sustav je organiziran oko ideje generiranja odgovora na svako pitanje. Što više zaobilazimo proces otkrivanja i borbe, to više vjerujemo da sustav funkcionira. Nisam baš siguran u to.
Kad sam bio u srednjoj školi, u knjižari sam pronašao Cliffove bilješke. Sadržavale su kratke sažetke sve literature koju su mi učitelji zadali. Kupio sam ih nekoliko. Otkrio sam da umjesto da devet sati čitam knjigu, mogu shvatiti njezinu bit za pola sata. To mi je omogućilo da dobijem peticu na ispitima, a ponekad i četvorku.
Ali onda sam primijetio problem. Nisam mogao razgovarati o knjizi s drugima. Oni su stekli emocionalna iskustva i senzacije čitajući je. Ja nisam imao ništa od toga. Tko je ovdje gubitnik? Uskratio sam sebi divno iskustvo: stvarno čitanje knjige.
Poznavanje likova, radnje i zaključka su samo činjenice. Ono što nisam doživio bilo je transformativno iskustvo ulaska u drugi svijet, koji je stvorio autor. Nisam iz njega ponio ništa nezaboravno.
Dakle, svojom voljom, prestao sam to raditi. Shvatio sam da se ne radi o dobivanju točnih odgovora na ispitu. Radilo se o učenju, prolasku kroz korake, stjecanju iskustva otkrića, treniranju uma. Studenti koji su to radili postali su inteligentni, pa čak i mudri. Oni koji nisu, ostali su na mjestu.
Na kraju, svi studenti shvate kako manipulirati sustavom. To se posebno odnosi na sveučilište. Profesori žele biti polaskani, a studenti shvate kako to učiniti bez čitanja gradiva. To su cinici. Poznavao sam ih mnogo. Nikad nisam razumio zašto su se uopće trudili.
Da, uspjeli su, ali s kojim ciljem?
Nažalost, cijeli naš obrazovni sustav vrti se oko testova. Ti testovi imaju za cilj utvrditi daju li učenici točne odgovore. Takav sustav će uvijek biti manipuliran. Radi se o polaganju testova točno/netočno i pitanja s višestrukim izborom. S računalima je još gore. To je navika koja traje 18 godina.
Ovo nije razmišljanje. Ovo je trening robota.
Umjetna inteligencija samo pogoršava problem uklanjanjem borbe i procesa iz svega. Borba za dolazak odavde do tamo jedini je način za izgradnju intelektualne snage.
Ponekad se osvrnem i pomislim koliko sam vremena proveo vježbajući glazbu, učeći svirati trombon, klavir i gitaru, zapisujući glazbu koju sam čuo na pločama, sjedeći u sobama za probe i sudjelujući na natjecanjima.
Je li sve to bio gubitak truda jer od toga nisam napravio karijeru? Nikako. Naučio sam kako vježbati da bih postao bolji.
Godinama kasnije, skakao sam s jedne intelektualne strasti na drugu. Neko vrijeme bio sam opsjednut onim što se zove eshatologija, teološka teorija o tome kako će svijet skončati. Pročitao sam 60 do 100 knjiga na tu temu. Sada me više ne zanima toliko, pa jesam li uzalud trošio vrijeme? Nimalo. Istrenirao sam svoj mozak da radi.
Zato roditelji ne bi trebali žaliti ako njihova djeca postanu opsjednuta knjigama o Harryju Potteru i pročitaju ih sve pet puta. Ovo je fantastičan način za jačanje njihovih mentalnih sposobnosti. Sve što se radi sa strašću i predanošću bori se protiv intelektualne lijenosti.
Upravo je to problem. Umjetna inteligencija je tehnologija lijenosti. Sviđa nam se. Previše nam se sviđa. Trenutno se čini magičnom jer je povezana s mislećim ljudima. (Ovo je još jedna točka koju sam posudio od dr. Levija.)
Što se događa kada promišljeni ljudi postupno nestanu i zamijene ih bolesni, lijeni, nepromišljeni ljudi koji nisu u stanju sami pronaći odgovore?
To će biti kraj svijeta. Možda će moje knjige o eshatologiji pomoći više nego što mislim.
Trenutno su veliki jezični modeli koje sam koristio često pogrešni, čak vrlo često pogrešni. Obično mogu otkriti pogreške za koje AI mehanizam ne snosi odgovornost. Obično o takvim halucinacijama govorimo kao o problemu. Možda i ne.
Jedina stvar gora od sustava umjetne inteligencije koji povremeno griješi jest sustav koji je uvijek u pravu. Upravo ovaj potonji najvjerojatnije potiče lijenost i glupost.
Savjet Walmartu: nemojte u svoje lance opskrbe ugrađivati sustave čija funkcionalnost u potpunosti ovisi o tehnologiji koja je tek nedavno implementirana i koju nitko zapravo ne razumije. Ako to učinite, otkrit ćete da je vaša otpornost kao vodećeg svjetskog trgovca ranjiva na konkurenciju tvrtki koje daju prednost ljudima, rasuđivanju i mudrosti nad bezdušnim strojevima koji izbacuju gluposti bez savjesti.
