Kao što je komentirao Yuval Noah Harari, izraelski povjesničar i autor knjige “ Sapiens ”, “po prvi put smo izmislili nešto što nas obeshrabruje”. Harari je dodao da ne zna hoće li ljudi moći preživjeti umjetnu inteligenciju. Yuvalu Harariju, izraelskom povjesničaru i filozofu, priče su uvijek bile od vitalnog značaja.
Jedinstvena sposobnost naše vrste da bude povezana i ujedinjena nematerijalnim narativima, čak i preko oceana, bila je ključna za Sapiens, njegovu zapanjujuće popularnu kroniku uspona naše vrste, koja ga je katapultirala u status vidovnjaka nakon objavljivanja na engleskom jeziku. gotovo desetljeće prije.
Možda je zato danas toliko zabrinut zbog uspona izazivača naše dominacije u pripovijedanju: umjetne inteligencije (AI).
Umjetna inteligencija sposobna stvarati priče
Harari, 47, iz svog doma na periferiji Tel Aviva kaže: “To je prva tehnologija u povijesti koja stvara priče.”
Za njega ništa ne može biti veće pokazivanje moći. Po njegovom mišljenju, naše kolektivno vjerovanje u “priče” – između ostalog o vjeri, financijama i naciji – potaknulo je dominaciju čovječanstva nad Zemljom. Novac nam je, na primjer, omogućio napredak, ali koja je vrijednost novčanice od pet funti u našem džepu ako je trgovac odbaci kao običan komad plavog papira?
AI sada također može tkati takve čarolije, dokazujući da je potencijal tehnologije za dobro i zlo, koji se nekada smatrao dalekim i teorijskim, sada neposredan i stvaran. Zato se Harari prošlog mjeseca pridružio pismu koje su potpisale tisuće stručnjaka, uključujući Elona Muska, pozivajući na moratorij na istraživanje softvera kao što je Chat GPT, AI modela koji može komunicirati s ljudima u tekstu.kreativan s gotovo uznemirujućim nijansama.
Drugi programi mogu učiniti isto sa slikama i zvukovima. Harri je rekao: “Nova generacija umjetne inteligencije nije ograničena na širenje sadržaja koji ljudi proizvode. Sadržaj možete proizvesti sami. Pokušajte zamisliti što znači živjeti u svijetu u kojem većinu tekstova i melodija, a kasnije TV serija i slika, stvara neljudska inteligencija. Samo ne razumijemo što to znači. Koje bi mogle biti posljedice AI preuzimanja kulture?
Zbogom istini?
Trivijalni primjeri već postoje. Prošlog tjedna jedan njemački časopis našao se na udaru kritika zbog objavljivanja nečega što je izgledalo kao ekskluzivni intervju s Michaelom Schumacherom, dok je u stvarnosti tekst generirala umjetna inteligencija oponašajući paraliziranog bivšeg vozaća.
Harari sugerira da će umjetna inteligencija uskoro ići mnogo dalje, evocirajući svijet u kojem “idete na internet i razgovarate s nekim o nekom političkom pitanju. Možda vam čak pošalju video snimku razgovora. Ali nema osobe iza. Sve je AI.
“Harri je rekao: “Ovo je posebno prijetnja demokracijama nego autoritarnim režimima, jer demokracije ovise o javnom razgovoru. Demokracija je u osnovi razgovor. Ljudi razgovaraju jedni s drugima. Ako AI preuzme razgovor, demokraciji je kraj.”
Ali kakav bi učinak tehnologija mogla imati ako bi je totalitarni režimi zlonamjerno pustili na bojno polje? Googleov AI sustav, na primjer, sam je naučio bengalski bez da je za to bio obučen. Harri je rekao: “Nacistički režim temeljio se na tehnologijama poput vlakova, struje i radija. Nisu imali alate poput umjetne inteligencije.
Novi režim u 21. stoljeću imat će mnogo moćnije alate. Dakle, posljedice bi mogle biti mnogo pogubnije. To je nešto što ne znam može li čovječanstvo preživjeti.” Čak i banalnije posljedice imaju potencijal biti revolucionarne, kaže.
Harri je rekao: “Još jedna opasnost je da je puno ljudi potpuno bez posla, ne samo privremeno, nego bez osnovnih kvalifikacija za buduće tržište rada. Mogli bismo doći do točke u kojoj ekonomski sustav milijune ljudi smatra potpuno bezvrijednima. Ovo ima strašne psihološke i političke posljedice. “Autonomija AI je ono što ga čini toliko drugačijim. Pa ipak, čak i Harari, koji se proslavio rješavanjem složenih pitanja, čini se frustriran svojom nesposobnošću da nas ostale natjera da to uvidimo tako duboko kao on.
Harari je rekao: “Moramo shvatiti da je AI prva tehnologija u povijesti koja može sama donositi odluke. Možete donositi odluke o vlastitoj upotrebi. Također može donositi odluke o vama i meni. Ovo nije predviđanje budućnosti. Ovo se već događa.”
Regulacija AI
Kao i drugi, Harari sada zagovara regulaciju za upravljanje snagom umjetne inteligencije, nadograđujući svoja obećanja i izbjegavajući katastrofe. Po Hararijevom mišljenju, ti bi standardi oponašali medicinsku zaštitu.
Harri je rekao: “Farmaceutska tvrtka ne može iznijeti novi lijek na tržište bez prethodnog prolaska kroz dugotrajan regulatorni proces. Zaista je čudno i zastrašujuće da korporacije mogu pustiti iznimno moćne AI alate u javnu sferu bez ikakvih sličnih sigurnosnih mjera.” Te bi mjere morala nametnuti vlada, inzistira. Čekanje da se tehnološka industrija samoregulira je za ptice.
U svom pokušaju da skrene pozornost na potrebu reguliranja AI tehnologije, Harari je rekao da bi prva regulacija trebala biti prisiljavanje AI da otkrije da je AI. Rekao je da je važno zaustaviti “neodgovornu implementaciju” AI alata u javnoj domeni i regulirati je prije nego što ona regulira nas.
Autor je također osvijetlio činjenicu da su trenutni društveni i politički sustavi nesposobni nositi se s izazovima koje postavlja AI. Harari je naglasio potrebu za etičkim okvirom za odgovor na izazove koje postavlja AI.
