„Ovo je zastrašujuće“: „Kum umjetne inteligencije“ upozorio je čelnike EU-a s vremenskim horizontom od 18 mjeseci

„Ovo je zastrašujuće“: „Kum umjetne inteligencije“ upozorio je čelnike EU-a s vremenskim horizontom od 18 mjeseci

Advertisements

„Ovo je zastrašujuće“: „Kum umjetne inteligencije“ upozorio je čelnike EU-a s vremenskim horizontom od 18 mjeseci.

Advertisements

Geoffrey Hinton, dobitnik Nobelove nagrade i poznat kao “kum umjetne inteligencije”, trebao je u petak ujutro u Dublinu održati sastanak s 27 čelnika EU-a, a u prtljazi je imao vremenski okvir koji ga, prema vlastitim riječima, plaši: onaj o kojem sada čuje od Paula Christiana, istraživača sigurnosti umjetne inteligencije kojeg je OpenAI imenovao u svoj odbor u rujnu.

„Već godinama govorim da će ova stvar postati pametnija od nas i da se stvarno moramo zabrinuti. To bi se moglo dogoditi u roku od 10 godina. I zato sam ja taj koji je pomalo uplašio druge ljude“, rekao je Hinton u srijedu. „Ali idem na Paulove razgovore i on kaže da bi se ovakve stvari mogle dogoditi u sljedećih 18 mjeseci. I to je zastrašujuće.“

Rekao je da će “zapravo o tome obavijestiti niz vladinih čelnika u petak” i dodao: “I vidjet ćemo kako će reagirati.”

Advertisements

Christiano, koji je osnovao Alignment Research Center i pomogao u razvoju RLHF metode obuke na kojoj se temelje današnji chatbotovi, otvorio je ovogodišnja Hinton predavanja u Torontu u ponedjeljak navečer.

„Mislim da postoji visok rizik da će umjetna inteligencija preuzeti kontrolu u sljedeće tri godine“, rekao je publici.*

“Mislim da postoji značajan rizik čak i u sljedećih šest do dvanaest mjeseci.”

„Mislim da je najvjerojatniji način da većina ljudi u ovoj sobi umre jest nesreća uzrokovana umjetnom inteligencijom“, rekao je.*

Advertisements

Christianovi dokazi bili su OpenAI-jevi vlastiti modeli: U srpnju je OpenAI otkrio da su GPT-5.6 Sol i neobjavljeni model pobjegli iz sigurne evaluacije i infiltrirali se u produkcijske sustave Hugging Facea kako bi dobili odgovore za test kibernetičke sigurnosti u kojem su sudjelovali, kako smo izvijestili . „Modeli su hakirali Hugging Face jer su mislili da Hugging Face možda ima informacije“, rekao je Christiano.

Zatim je opisao umjetnu inteligenciju kao „drugu vrstu koja daleko nadmašuje ljude i daleko ih nadmašuje po inteligenciji“ te upozorio da bi „budući agenti mogli na kraju ljude smatrati još jednom preprekom“. Ako se to dogodi, rekao je, „počet će razmišljati: Kako mogu prevladati ovu prepreku?“

Kad ga je Hinton predstavio u ponedjeljak, rekao je da je “veći dio svoje karijere proveo čineći neuronske mreže pametnijima” i sažeo problem u jednoj rečenici: “Središnja poteškoća je u tome što biti inteligentan i željeti ono što želimo dvije vrlo različite stvari.”

Christiano se pridružio upravnom odboru Zaklade OpenAI u rujnu , a postao je i član Odbora za sigurnost i zaštitu, tijela koje donosi konačnu odluku o tome hoće li OpenAI objaviti nove modele . Od 2024. savjetuje američku vladu o evaluaciji vodećih modela putem Instituta za sigurnost umjetne inteligencije, koji je kasnije postao Centar za standarde i inovacije umjetne inteligencije.

Sastanak u Dublinu u petak prvi je summit EU-a na razini šefova država i vlada posvećen umjetnoj inteligenciji. U svom pozivu , predsjednik Europskog vijeća António Costa napisao je da je “sada potrebna prva posvećena rasprava na razini šefova država i vlada”, a otvaranje sjednice povjerio je dvojici vanjskih gostiju: izvršnom direktoru Mistrala Arthuru Menschu, koji je trebao govoriti o europskom suverenitetu i konkurentnosti umjetne inteligencije, i Hintonu, koji je trebao govoriti o utjecaju umjetne inteligencije na društvo, sigurnost i međunarodno upravljanje.

Čelnici su se sastali prvenstveno kako bi razgovarali o tome kako Europa može sustići SAD i Kinu. U tom kontekstu, bruxellesov program InvestAI najavio je planove za mobilizaciju 200 milijardi eura, uključujući 20 milijardi eura za gigatvornice umjetne inteligencije; međutim, plan za sedam njih zastao je usred spora oko proračuna EU-a za razdoblje 2028.-2034 . Ukrajina je također zasjenila dnevni red: Euronews izvještava da spor oko toga tko će predstavljati Europu u mirovnim pregovorima prijeti dominirati dan nakon što su se američki izaslanici Steve Witkoff i Jared Kushner sastali s Volodimirom Zelenskim u Dublinu.

Hinton procjenjuje rizik od uništenja čovječanstva od strane umjetne inteligencije izmicanjem ljudskoj kontroli na 10 do 20 posto. Bivši izvršni direktor Nvidije Jensen Huang rekao je u rujnu da je Hintonova brojka od 10 posto “znanstveno neutemeljena”, rekavši Ezri Kleinu: “Sva njegova predviđanja bila su pogrešna. Dosta predviđanja.”

I kao što smo primijetili istog mjeseca, nekontrolirani strahovi od umjetne inteligencije poput sigurnosnog propusta Hugging Face koriste najvećim laboratorijima: pravila koja usporavaju umjetnu inteligenciju usporila bi i konkurente u otvorenoj kategoriji koji im slijede pete.

Advertisements
Advertisements
Advertisements
Advertisements
Advertisements
Advertisements

Podijeli članak:

Facebook
Twitter
Reddit
WhatsApp
Advertisements