Piše James Rickards.
Kao što znate, umjetna inteligencija (AI) ovih je dana svima na usnama. Iz tržišne perspektive, sigurno je poprimilo dinamiku balona.
I vjerujem da je vodeći proizvođač čipova za umjetnu inteligenciju Nvidia na rubu propasti, što bi moglo izazvati mnogo širi krah tržišta koji počinje sutra poslijepodne, nešto iza 16 sati.
Ali iz šire perspektive umjetne inteligencije, vijesti su pune izvješća o tome kako će strojevi s enormnom računalnom snagom i brzinom obrade koja oduzima dah, s pristupom milijardama knjiga i dokumenata i sposobnošću da sami uče, preuzeti svijet.
Je li to točno? Godinama radim na umjetnoj inteligenciji i njezinom potencijalu i stoga imam dublje razumijevanje umjetne inteligencije od prosječnog voditelja talk showa.
Čak sam proveo neko vrijeme s trećim najbržim nevladinim superračunalom na svijetu (HiPerGator AI Computer na Sveučilištu u Floridi) u sklopu projekta primjene opće superinteligencije i AI na zadatke nacionalne sigurnosti.
Dakle, koliko je AI napredovala? Koliko je to blizu ljudskoj inteligenciji? I kakve to opasnosti predstavlja za čovječanstvo?
Možemo samo povući utikač – barem za sada
Eksperimentatori sada zamišljaju da će strojevi razviti vlastiti život i napasti ljude i civilizaciju. Ali važno je upamtiti da ako stroj poludi, možete ga jednostavno isključiti iz struje.
Zagovornici AI mogućnosti tvrde da isključivanje neće uspjeti jer će AI predvidjeti ovu strategiju i “izvesti” se na drugi stroj, u scenariju uhvati me ako možeš, gdje uklanjanje jedne lokacije neće spriječiti kod i algoritme da se pojave negdje drugdje i nastave napadati.
To može biti tako. No, postoje razni logistički problemi, npr. B. dostupnost dovoljnog broja računala s potrebnom računalnom snagom, činjenica da će alternativna računala vjerojatno biti okružena vatrozidima i digitalnim jarcima, te niz problema s konfiguracijom i interoperabilnošću.
Dakle, za sada ga možete samo isključiti. Zapravo, postoji niz mjera zaštite koje se predlažu kako bi se ograničila potencijalna šteta od umjetne inteligencije, a da se pritom iskoriste njezine goleme koristi.
Ovo nije tehnički članak, ali te zaštite uključuju transparentnost (tako da treće strane mogu uočiti pogreške), nadzor, oslabljeni oblik kontradiktorne obuke (tako da stroj može riješiti probleme bez urote protiv nas u svoje vrijeme), pristanak- temeljen na promjenama (stroj mora “tražiti dopuštenje” prije nego što aktivira autonomno strojno učenje), rekurzivno modeliranje nagrađivanja (stroj se kreće samo u određenim smjerovima kada dobije “potapšanje po glavi” od ljudi) i druge slične alate.
Naravno, nijedna od ovih zaštita ne radi ako je moć iza AI zlonamjerna i zapravo želi uništiti čovječanstvo. To bi bilo kao da očajnom Adolfu Hitleru date nuklearno oružje. Znamo što bi se tada dogodilo.
James Bond s AI
Rješenje bi u ovom slučaju bilo više političko, forenzičko i obrambeno orijentirano. Prikupljanje obavještajnih podataka igralo bi veliku ulogu. Naravno, to se brzo pretvara u obavještajni rat između stroja i čovjeka, sve o prikupljanju i prijevari.
Zamislite Jamesa Bonda s hiperračunalom umjesto Walther PPK-a. Neposrednija prijetnja umjetne inteligencije manje je ozbiljna, ali ipak zabrinjavajuća, posebno za ulagače.
Ulagači moraju biti oprezni kada se oslanjaju na GPT sustave za financijske savjete, unatoč njihovoj golemoj računalnoj snazi. Izlazi nikad nisu bolji od ulaza, a tržišni ulazi prožeti su lošim modelima, lažnim pretpostavkama, lošim prognozama i pristranostima.
Smeće unutra, smeće van.
Umjetna inteligencija, na primjer, već se programira s ljutom ideologijom. Možda se sjećate Googleovog smiješnog generatora slika Blizanaca, koji je prikazivao crne Vikinge, ženske pape i druge apsurdne slike. Možete zamisliti distopijsku budućnost koju bi budna superinteligencija mogla stvoriti.
Svijetla 1984
Vjerojatno ste upoznati s klasičnim distopijskim romanom Georgea Orwella 1984. (često objavljen 1984. ) . Napisana je 1948. godine; naslov dolazi od obrnutih dviju znamenki iz 1948.
Orwell je stvorio originalan rječnik za svoju knjigu, od kojeg se većina koristi i danas, iako na podrugljiv način. Pojmovi kao što su Misaona policija, Big Brother, Doublethink, Novogovor i Amnezija dolaze iz Tisuće devetsto osamdeset četvrte .
Orwell je ovom knjigom želio upozoriti na to kako bi se pojedine zemlje mogle razvijati nakon Drugog svjetskog rata i na početku Hladnog rata. Zasigurno je bio zabrinut zbog staljinizma, ali njegova su se upozorenja odnosila i na zapadne demokracije.
Kako je kalendarska 1984. godina prolazila, mnogi su odahnuli što se Orwellovo proročanstvo nije obistinilo. Ali ovaj uzdah olakšanja bio je preuranjen. Orwellovo društvo iz noćne more danas je ovdje u obliku komunističke Kine.
1984 dolazi u Kinu
Kina ima većinu totalitarnih društava opisanih u Orwellovoj knjizi. Kina naporno radi na umjetnoj inteligenciji, koristeći softver za prepoznavanje lica i sveopći digitalni nadzor kako bi pratila svoje građane. Internet je cenzuriran i nadgledan. Policija misli će vas uhititi ako izrazite svoje mišljenje protiv vlade ili njezine politike.
Iako se najgori kineski ekscesi neće dogoditi u Sjedinjenim Državama ili onome što se danas smatra Zapadom, manje ekstremni aspekti kineske države nadzora bi se mogli dogoditi.
I dok možda nećete biti uhićeni zbog izražavanja nepopularnih mišljenja ili osporavanja prevladavajućih dogmi (barem ne još), mogli biste se suočiti s drugim sankcijama. Mogli biste čak izgubiti posao i biti u problemu pronaći novi. Razmislite o ukidanju kulture.
Ali to se ne odnosi samo na Kinu. Osnivač aplikacije za razmjenu poruka Telegram, Pavel Durov, nedavno je uhićen u zračnoj luci u Francuskoj. Vrlo je moguće da je američka vlada, zajedno s EU, imala ulogu u uhićenju.
Vlasti tvrde da je Telegram promovirao dječju pornografiju i druge podle radnje. U stvarnosti, međutim, Durov je uhićen jer nije udovoljio zahtjevima zapadne vlade da cenzurira određene informacije i stavove. I zato što vlastima nije želio dati nikakve informacije o proizvođačima ovog sadržaja (Telegram proizvođačima nudi opcije šifriranja).
To je pravi razlog Durovljevog uhićenja. Je li Elon Musk sljedeći?
“Pokaži mi čovjeka i pokazat ću ti zločin”
Ovdje u Sjedinjenim Državama, mnogim konzervativnim sudionicima društvenih medija zatvoreni su ili suspendirani računi, ne zbog prijetnji, vulgarnosti ili promicanja dječje pornografije, već zbog kritike “progresivnih” pogleda (iako kritike s nekim oštrim rubovima).
U međuvremenu, ljudi progresivnih stavova mogu reći gotovo sve na društvenim mrežama, uključujući implicitno podržavanje nasilja. Ali ništa se ne događa.
Problem je što se trend jako brzo kreće u tom smjeru i teško ga je zaustaviti. A sofisticirana tehnologija nadzora za nadzor građana već je postavljena…
Na primjer, kamere s najnovijom tehnologijom nadzora mogu otkriti i spojiti milijune lica u stvarnom vremenu s više od 99% točnosti. Reklamiraju se kao način borbe protiv terorizma i kriminala, što oni svakako jesu.
Ali kao što je Staljinov nemilosrdni šef tajne policije Lavrentiy Beria rekao: “Pokažite mi čovjeka i pokazat ću vam zločin.” Lako je vidjeti kako se ta moć zlorabi za obične građane.
(Kao usporednu bilješku, Beria se opravdao, jer je kasnije uhićen i pogubljen zbog izdaje).
Vraćajući se na umjetnu inteligenciju, problem je u tome što kada loši glumci ispune literaturu pogrešnim informacijama i kada se pristranost programera infiltrira u kod, umjetna inteligencija može postati oruđe tiranije.
Sve u svemu, AI je definitivno nešto na što treba obratiti pozornost i trebali bismo postavljati važna pitanja. Ali ne bismo se trebali brinuti da će uskoro zavladati svijetom.
Umjesto toga, trebali bismo biti zabrinuti da ne postanemo poput komunističke Kine.
