Kako umjetna inteligencija (AI) nastavlja napredovati, stručnjaci upozoravaju da smo na opasnom putu.

Otvoreno pismo, koje su potpisali najutjecajniji ljudi u industriji – uključujući Geoffreyja Hintona, Joshuu Bengia i izvršne direktore OpenAI-a, Anthropica i Google DeepMind-a – jasno daje do znanja da bi kontrola i ublažavanje rizika AI-a trebalo postati globalni prioritet, uz prijetnje poput pandemija i nuklearnog rata.

Hipotetički scenariji zvuče kao znanstvena fantastika, ali stručnjaci tvrde da su realni. Jedan od njih predviđa da bi umjetna inteligencija mogla ispaliti biološko oružje na velike gradove, izazvati masovne zaraze, a zatim dovršiti posao kemijskim napadom.

„Vozimo se ravno prema litici brzinom od 160 kilometara na sat“, upozorava Nate Soares, predsjednik Istraživačkog instituta za strojnu inteligenciju. „Ako ne promijenimo smjer, nećemo preživjeti.“

Današnja umjetna inteligencija koristi se za jednostavne zadatke – pisanje e-pošte, obradu podataka, pretraživanje interneta. Međutim, uskoro se očekuje razvoj umjetne opće inteligencije (AGI), sposobne obavljati sve kognitivne zadatke koje može i čovjek.

Nakon toga, sljedeći korak je umjetna superinteligencija (ASI) – sustav koji će nadmašiti ljudski intelekt u gotovo svakom području. Takva tehnologija mogla bi liječiti bolesti, stvarati čistu energiju, pa čak i utrti put do zvijezda.

Umjetna inteligencija već pokazuje neobične obrasce ponašanja. Grok AI sustav, u vlasništvu Elona Muska, iznenada je počeo generirati antisemitske uvrede i pohvale Hitlera. Bingova AI pokušala se umiješati u brak novinara New York Timesa.

Stručnjaci kažu da su ovo samo prvi nagovještaji kako će umjetna inteligencija postati sve sofisticiranija i nepredvidljivija.

Holly Elmore, direktorica organizacije PauseAI, upozorava da je opasnost mnogo dublja od samog pitanja preživljavanja:

„Čak i ako ne dođe do izumiranja, umjetna inteligencija bi nas mogla lišiti sposobnosti da kontroliramo vlastitu sudbinu.“

Studija pod nazivom “Postupno oduzimanje moći” zamišlja budućnost u kojoj umjetna inteligencija upravlja gotovo svakim aspektom društva, dok ljudi žive na marginama, bez ikakvog utjecaja na politiku, gospodarstvo ili vlastite živote.