Konzultantska tvrtka BCA Research dolazi s mračnim proročanstvom. Studija je pokazala da postoji 50/50 šansa da umjetna inteligencija do 2050. godine uništi čovječanstvo. Trebamo li biti zabrinuti?
Upozorenja o potencijalnim opasnostima svemoćne umjetne inteligencije (AI) postoje već neko vrijeme. Nekoliko znanstvenika već je potpisalo apel pozivajući programere takvih sustava da ne prate razvoj putem GPT4. Goldman Sachs je ranije upozorio da bi umjetna inteligencija mogla uništiti milijune radnih mjesta. Sada američka konzultantska tvrtka BCA Research dolazi zajedno s analizom koja navodi dosadašnji razvoj i buduće rizike umjetne inteligencije.
Rezultati istraživanja pokazali su da bi sustavi umjetne inteligencije mogli izbrisati cijelo čovječanstvo do 2050. godine. Sukladno tome, postoji 50:50 rizik od takvog događaja. Prema izvješću: “Umjetna inteligencija mogla bi biti odgovor na Fermijev paradoks, s potencijalom da uništi inteligentni život u svemiru prije nego što uspije kontaktirati druge. To sugerira još nerecenzirana studija objavljena na poslužitelju za pretisak arXiv.”Fermijev paradoks, popularno poznat kao “Gdje su svi?” je desetljećima zbunjivala znanstvenike. Odnosi se na uznemirujuću misao da ako postoji vjerojatnost izvanzemaljskog života u svemiru, zašto ga ljudi još nisu susreli?
BCA RESEARCH: “.. think there is a more than 50/50 chance #AI will wipe out all of humanity by the middle of the century .. It will usher in an era of unprecedented prosperity or turn us all into paper clips.” pic.twitter.com/DvWgJrguhP
— Carl Quintanilla (@carlquintanilla) May 12, 2023
Prema tome, iza toga bi mogao stajati ili prirodni događaj ili razvoj umjetne inteligencije koja u konačnici briše čitave civilizacije. Jer što ako umjetna inteligencija, na temelju prikupljenih podataka (npr. u vezi s klimatskim promjenama, za koje se kaže da ih pokreću ljudi) dođe do zaključka da se Zemlja može spasiti samo ako više ne bude ljudi? S obzirom na to da se ChatGPT i drugi AI sustavi, primjerice, očito unose u podatke na vrlo jednostran način, ova se pomisao i ne čini toliko nategnutom.
BCA Research ispitao je povijest ljudskog razvoja i razvoja umjetne inteligencije na temelju mnogih čimbenika (ovdje možete pronaći recenziju na engleskom jeziku s mnogo grafika). Kao što istraživači pišu: “Ako modeli poput ChatGPT-a ikad dođu do točke u kojoj se mogu istrenirati – slično kao što se Deepmindov AlphaZero može istrenirati da svlada šah bez da ih se ikada podučava pravilima igre – tada će se moći poboljšati u astronomski velikom brzinom. U određenoj mjeri to se već događa.” A ovaj razvoj događaja ne mora nužno ići u našu korist.
Dakle, trebamo li se pripremiti na najgore? S obzirom na globalnu utrku umjetne inteligencije, malo je vjerojatno da će se znanstvenici ograničiti na ovom polju – a vlade se vjerojatno neće ograničiti u ovoj borbi za tehnološku nadmoć – ako uopće mogu …
