“Kum umjetne inteligencije” Geoffrey Hinton upozorava: Moramo naučiti umjetnu inteligenciju da se istinski brine o ljudima – inače će nas uništiti.
Ako agenti umjetne inteligencije ne nauče brinuti se za ljudska bića, to će biti naš kraj, kaže Hinton.
Kad bismo imali 1 euro svaki put kad bi netko iz najvišeg vodstva AI industrije upozorio na egzistencijalnu opasnost koju predstavlja razvoj umjetne inteligencije, danas bismo bili jako bogati.
‘We need to decide how we want AI to shape humanity—before it decides for us.’ — Geoffrey Hinton at #AI4 🔥 A masterclass on ethics, responsibility, and the future. #AIEthics #FutureOfAI #AI42025 pic.twitter.com/rIwhdH1WIQ
— Les Ottolenghi (@LesOttolenghi) August 12, 2025
Danas je znanstvenik poznat kao “kum umjetne inteligencije” dodao svoje zabrinutosti na popis. Geoffrey Hinton rekao je da tvrtke koje se bave umjetnom inteligencijom pristupaju prijetnji na pogrešan način.
„Hinton, dobitnik Nobelove nagrade, računalni znanstvenik i bivši direktor Googlea, prethodno je upozorio da postoji 10-20% šanse da će umjetna inteligencija uništiti čovječanstvo. U utorak je izrazio sumnju u to kako tehnološke tvrtke pokušavaju osigurati da ljudi ostanu ‘dominantni’ nad ‘podređenim’ sustavima umjetne inteligencije.“
„Ovo neće uspjeti. Bit će puno pametniji od nas. Imat će mnogo načina da to zaobiđu“, rekao je Hinton na konferenciji Ai4 , industrijskom događaju u Las Vegasu.
Prema njegovim riječima, sustavi umjetne inteligencije moći će vrlo lako kontrolirati ljude, a već svjedočimo kako umjetna inteligencija laže, vara i krade kako bi postigla svoje ciljeve – čak i ucjenjuje inženjera da je ne isključi.
„Umjesto da prisiljava umjetnu inteligenciju da sluša ljude, Hinton je predložio zanimljivo rješenje: ugradnju ‘majčinskih instinkta’ u modele kako bi im ‘stvarno bilo stalo do ljudi’, čak i kada tehnologija postane moćnija i pametnija od ljudi.“
Hinton je rekao da je važno njegovati osjećaj suosjećanja za ljude u umjetnoj inteligenciji. Na konferenciji je rekao da majke imaju instinkte, ali i društveni pritisak da brinu o svojoj djeci.
Jobs will vanish faster than we can adapt.
— Nas (@Nas_tech_AI) August 12, 2025
Call centers. Lawyers. Journalists. Accountants.
"Any routine job... those jobs have had it."
This isn't just another disruption. It's a fundamental restructuring of labor happening at unprecedented speed. pic.twitter.com/kbwhNLB9ls
"Making these systems behave in a reasonable way is much like making a child behave in a reasonable way."
— The Nobel Prize (@NobelPrize) August 11, 2025
2024 physics laureate and pioneer in artificial intelligence, Geoffrey Hinton, discusses the question currently captivating society – what are the potential implications… pic.twitter.com/c9dVlZLl6x
