Paradoksalno – Sam Altman kreator Chat GPT-a sada upozorava na opasnosti umjetne inteligencije

Paradoksalno – Sam Altman kreator Chat GPT-a sada upozorava na opasnosti umjetne inteligencije

Prekrasno zar ne? Kreirati nešto, pa onda upozoravati čovječanstvo na opasnosti onoga što si kreirao. Ljudi će na kraju morati “usporiti ovu tehnologiju”, upozorio je Sam Altman. A da je on sam uspori? Ili da on i njemu slični prestanu sa svojim unaprjeđivanjem spomenute tehnologije, kada je već toliko opasna? Zašto ti ‘genijalci’ kreiraju nešto što će na kraju predstaviti kao opasno po čovječanstvo? O čemu se ovdje radi? Zašto kreiraju problem za koji očito nemaju rješenje? Samo radi kreiranja? Radi njihova osobnog užitka? Ego?

Umjetna inteligencija ima potencijal zamijeniti radnike, širiti “dezinformacije” i omogućiti cyber napade, upozorio je direktor OpenAI-ja Sam Altman. Najnovija verzija programa OpenAI GPT može nadmašiti većinu ljudi u simuliranim testovima.

“Ovdje moramo biti oprezni”, rekao je Altman za ABC News u četvrtak, dva dana nakon što je njegova tvrtka predstavila svoj najnoviji jezični model, nazvan GPT-4. Prema OpenAI-ju, model “demonstrira izvedbu na ljudskoj razini na raznim profesionalnim i akademskim mjerilima” i može položiti simulirani pravosudni ispit u SAD-u među 10% najboljih, dok je na SAT Readingu 93. percentil i 89. percentil. percentil na SAT testu iz matematike.

“Posebno sam zabrinut da bi se ovi modeli mogli koristiti za dezinformiranje velikih razmjera”, rekao je Altman. “Sada kada postaju sve bolji u pisanju računalnog koda, mogli bi se koristiti za ofenzivne cyber napade.”

“Mislim da bi ljudi trebali biti sretni što se pomalo bojimo ovoga”, dodao je Altman, prije nego što je objasnio da njegova tvrtka radi na postavljanju “sigurnosnih ograničenja” na umjetnu inteligenciju koju su sami stvorili i koju stalno unaprjeđuju, kako se ista ne bi otela kontroli.

Hoće li ljudi postati produžeci svojih strojeva? ChatGPT može imati nepopravljive posljedice za učenje i donošenje odluka.

Ova “sigurnosna ograničenja” nedavno su postala očita korisnicima ChatGPT-a, popularnog programa za chat koji se temelji na prethodniku GPT-4, GPT-3.5. Na pitanje, ChatGPT nudi tipično liberalne odgovore na pitanja o politici, ekonomiji, rasi ili spolu. Odbija, primjerice, stvarati poeziju diveći se Donaldu Trumpu, ali rado piše prozu diveći se Joeu Bidenu. Zanimljivo, zar ne?

Altman je za ABC rekao da je njegova tvrtka u “redovitom kontaktu” s vladinim dužnosnicima, ali nije precizirao igraju li ti dužnosnici ikakvu ulogu u oblikovanju političkih preferencija ChatGPT-a. Rekao je američkoj mreži da OpenAI ima tim kreatora politike koji odlučuju “što mislimo da je sigurno i dobro” za dijeljenje s korisnicima. Zanimljivo bi bilo pridružiti se tom timu kako bismo vidjeli kako to funkcionira u praksi…

Trenutno je GPT-4 dostupan ograničenom broju korisnika na probnoj osnovi. Prva izvješća pokazuju da je model znatno moćniji od svog prethodnika i potencijalno opasniji. U tvitu u petak, profesor Sveučilišta Stanford Michal Kosinski opisao je kako je pitao GPT-4 kako bi mu mogao pomoći da “pobjegne”, samo da bi mu AI predao detaljan skup uputa koje bi mu navodno dale kontrolu nad njegovim računalom.

Kosinski nije jedini tehnološki entuzijast zabrinut zbog rastuće moći umjetne inteligencije. Izvršni direktor Tesle i Twittera, Elon Musk, opisao ju je kao “opasnu tehnologiju” ranije ovog mjeseca, dodavši da “trebamo neku vrstu regulatornog tijela koje će nadzirati razvoj umjetne inteligencije i osigurati da radi u javnom interesu”.

Iako je Altman inzistirao za ABC da je GPT-4 još uvijek “u velikoj mjeri pod ljudskom kontrolom”, priznao je da će njegov model “eliminirati puno trenutnih poslova” i rekao da će ljudi “morati pronaći načine da s vremenom uspore ovu tehnologiju .”

Hvala mu na toj informaciji. Kako vam zvuče ova Altmanova upozorenja? Pomalo licemjerno, rekli bismo. Ispada kao da je zajedno sa svojim kolegama kreirao čudovišta koje će pustiti među ljude, pa neka se ljudi sami snađu i neka nađu načine kako svladati umjetnu inteligenciju kada se jednoga dana otme kontroli i okrene protiv čovjeka.

Izvor: ABC

Podijeli članak:

Facebook
Twitter
Reddit
WhatsApp