„Ovo je zastrašujuće“: „Kum umjetne inteligencije“ upozorio je čelnike EU-a s vremenskim horizontom od 18 mjeseci.
Geoffrey Hinton, dobitnik Nobelove nagrade i poznat kao “kum umjetne inteligencije”, trebao je u petak ujutro u Dublinu održati sastanak s 27 čelnika EU-a, a u prtljazi je imao vremenski okvir koji ga, prema vlastitim riječima, plaši: onaj o kojem sada čuje od Paula Christiana, istraživača sigurnosti umjetne inteligencije kojeg je OpenAI imenovao u svoj odbor u rujnu.
„Već godinama govorim da će ova stvar postati pametnija od nas i da se stvarno moramo zabrinuti. To bi se moglo dogoditi u roku od 10 godina. I zato sam ja taj koji je pomalo uplašio druge ljude“, rekao je Hinton u srijedu. „Ali idem na Paulove razgovore i on kaže da bi se ovakve stvari mogle dogoditi u sljedećih 18 mjeseci. I to je zastrašujuće.“
Rekao je da će “zapravo o tome obavijestiti niz vladinih čelnika u petak” i dodao: “I vidjet ćemo kako će reagirati.”
"That's terrifying!" Geoffrey Hinton used to say we have 10 years until AI outsmarts humanity. Paul Christiano convinced him that timelines might be as short as 18 months, a terrifying prospect. https://t.co/y75nO6JD2D
— Ori Nagel (@ONagel33303) November 13, 2026
Christiano, koji je osnovao Alignment Research Center i pomogao u razvoju RLHF metode obuke na kojoj se temelje današnji chatbotovi, otvorio je ovogodišnja Hinton predavanja u Torontu u ponedjeljak navečer.
„Mislim da postoji visok rizik da će umjetna inteligencija preuzeti kontrolu u sljedeće tri godine“, rekao je publici.*
“Mislim da postoji značajan rizik čak i u sljedećih šest do dvanaest mjeseci.”
„Mislim da je najvjerojatniji način da većina ljudi u ovoj sobi umre jest nesreća uzrokovana umjetnom inteligencijom“, rekao je.*
Christianovi dokazi bili su OpenAI-jevi vlastiti modeli: U srpnju je OpenAI otkrio da su GPT-5.6 Sol i neobjavljeni model pobjegli iz sigurne evaluacije i infiltrirali se u produkcijske sustave Hugging Facea kako bi dobili odgovore za test kibernetičke sigurnosti u kojem su sudjelovali, kako smo izvijestili . „Modeli su hakirali Hugging Face jer su mislili da Hugging Face možda ima informacije“, rekao je Christiano.
Zatim je opisao umjetnu inteligenciju kao „drugu vrstu koja daleko nadmašuje ljude i daleko ih nadmašuje po inteligenciji“ te upozorio da bi „budući agenti mogli na kraju ljude smatrati još jednom preprekom“. Ako se to dogodi, rekao je, „počet će razmišljati: Kako mogu prevladati ovu prepreku?“
Kad ga je Hinton predstavio u ponedjeljak, rekao je da je “veći dio svoje karijere proveo čineći neuronske mreže pametnijima” i sažeo problem u jednoj rečenici: “Središnja poteškoća je u tome što biti inteligentan i željeti ono što želimo dvije vrlo različite stvari.”
Christiano se pridružio upravnom odboru Zaklade OpenAI u rujnu , a postao je i član Odbora za sigurnost i zaštitu, tijela koje donosi konačnu odluku o tome hoće li OpenAI objaviti nove modele . Od 2024. savjetuje američku vladu o evaluaciji vodećih modela putem Instituta za sigurnost umjetne inteligencije, koji je kasnije postao Centar za standarde i inovacije umjetne inteligencije.
Sastanak u Dublinu u petak prvi je summit EU-a na razini šefova država i vlada posvećen umjetnoj inteligenciji. U svom pozivu , predsjednik Europskog vijeća António Costa napisao je da je “sada potrebna prva posvećena rasprava na razini šefova država i vlada”, a otvaranje sjednice povjerio je dvojici vanjskih gostiju: izvršnom direktoru Mistrala Arthuru Menschu, koji je trebao govoriti o europskom suverenitetu i konkurentnosti umjetne inteligencije, i Hintonu, koji je trebao govoriti o utjecaju umjetne inteligencije na društvo, sigurnost i međunarodno upravljanje.
Čelnici su se sastali prvenstveno kako bi razgovarali o tome kako Europa može sustići SAD i Kinu. U tom kontekstu, bruxellesov program InvestAI najavio je planove za mobilizaciju 200 milijardi eura, uključujući 20 milijardi eura za gigatvornice umjetne inteligencije; međutim, plan za sedam njih zastao je usred spora oko proračuna EU-a za razdoblje 2028.-2034 . Ukrajina je također zasjenila dnevni red: Euronews izvještava da spor oko toga tko će predstavljati Europu u mirovnim pregovorima prijeti dominirati dan nakon što su se američki izaslanici Steve Witkoff i Jared Kushner sastali s Volodimirom Zelenskim u Dublinu.
Hinton procjenjuje rizik od uništenja čovječanstva od strane umjetne inteligencije izmicanjem ljudskoj kontroli na 10 do 20 posto. Bivši izvršni direktor Nvidije Jensen Huang rekao je u rujnu da je Hintonova brojka od 10 posto “znanstveno neutemeljena”, rekavši Ezri Kleinu: “Sva njegova predviđanja bila su pogrešna. Dosta predviđanja.”
I kao što smo primijetili istog mjeseca, nekontrolirani strahovi od umjetne inteligencije poput sigurnosnog propusta Hugging Face koriste najvećim laboratorijima: pravila koja usporavaju umjetnu inteligenciju usporila bi i konkurente u otvorenoj kategoriji koji im slijede pete.



