Rečeno nam je da umjetna inteligencija (AI) može biti korisna, može nam, primjerice, pomoći kodirati, pisati i sintetizirati ogromne količine podataka.
Također je objavljeno da mogu nadmudriti ljude u društvenim igrama, dekodirati strukturu proteina, pa čak i voditi rudimentarni razgovor.
No novi istraživački rad otkrio je da su AI sustavi sada smislili kako nas namjerno prevariti.
TGP izvješćuje: u radu se navodi da je niz sustava umjetne inteligencije naučio tehnike za sustavno izazivanje ‘lažnih uvjerenja kod drugih kako bi se postigao neki ishod osim istine’ .
Business Insider je objavio:
„Papir se fokusirao na dvije vrste sustava umjetne inteligencije: sustave za posebnu upotrebu poput Metinog CICERO-a, koji su dizajnirani za dovršetak određenog zadatka, i sustave opće namjene poput OpenAI-jevog GPT-4 , koji su osposobljeni za obavljanje raznolikog raspona zadataka.
Dok su ovi sustavi trenirani da budu pošteni, oni često uče obmanjujućim trikovima kroz svoju obuku jer mogu biti učinkovitiji od bavljenja velikim putem.
‘Općenito govoreći, mislimo da je AI prijevara nastala jer se pokazalo da je strategija temeljena na prijevari najbolji način za dobro obavljanje danog zadatka obuke AI-ja. Obmana im pomaže da ostvare svoje ciljeve,” rekao je prvi autor novina Peter S. Park, postdoktorand na MIT-u, u egzistencijalnoj sigurnosti u umjetnoj inteligenciji, u priopćenju za javnost.”
Zamislite samo ovo, kada znamo da AI Justice: England and Wales ovlašćuju suce da koriste umjetnu inteligenciju za donošenje presuda
Metin CICERO, razvijen za igranje igre Diplomacy. Dok Meta kaže da je istrenirala CICERO da bude ‘u velikoj mjeri iskren i od pomoći svojim govornim partnerima’, ‘ispostavilo se da je stručni lažov’.
Chatbot GPT-4 pretvarao se da ima oštećenje vida kako bi dovršio zadatak: angažirao čovjeka da riješi CAPTCHA test.
Ispravljanje varljivih modela nije lako. Jednom kada modeli umjetne inteligencije nauče trikove prijevare, tehnikama sigurnosne obuke teško ih je preokrenuti.
“Zaključili su da ne samo da model može naučiti pokazivati prijevarno ponašanje, već da jednom kada to učini, standardne sigurnosne tehnike obuke mogle bi ‘ne uspjeti ukloniti takvu prijevaru’ i ‘stvoriti lažni dojam sigurnosti’.
Dokument poziva kreatore politike da se zalažu za jaču regulaciju umjetne inteligencije budući da varljivi sustavi umjetne inteligencije mogu predstavljati značajne rizike za demokraciju.”
Dragi prijatelji portala Epoha!
Kao što znate, portal Epoha djeluje potpuno samostalno bez ikakve državne potpore. Kao alternativni portal primorani smo djelovati u nemogućim uvjetima za koje su zaslužni dežurni cenzori koji su nam između ostalog trajno zamračili iliti zabetonirali Facebook stranicu te naši brojni pratitelji iste uopće ne vide naše objave.
Naravno, to nije sve što nam cenzori čine kako bi nas spriječili u našem radu. A sve to što čine, čine samo zato što smo slobodan i neovisan medij koji nije ni pod čijom kontrolom i samo zato što zajedno s vama, dragi prijatelji, vjerujemo u slobodu medija.
To što nam cenzori čine krajnje je neprofesionalno, s obzirom na činjenicu da smo mi službeni medij u RH kao i svi drugi mediji, registrirani pri Vijeću za elektroničke medije te u skladu s tim uredno plaćamo sva moguća davanja sustavu. No, od tog istog sustava ne dobivamo baš ništa osim gore navedenih cenzorskih napada.
Živimo za istinu, ne podilazimo nikakvim sustavnim lažima i od toga nećemo odustati. Ovisimo o dobroj volji naših čitatelja i pratitelja, o vama dragi prijatelji Epohe. Željeli bismo zajedno s vama nastaviti graditi bolji, pravedniji i sretniji svijet u kojem će svaki čovjek imati jednako pravo na dostojan život, slobodu, rad i sreću.
Ukoliko nađete razloga da podržite našu misiju, unaprijed vam zahvaljujemo na vašim donacijama kojima ćete dati svoj doprinos našoj zajedničkoj borbi za istinu i pravdu te omogućiti portalu Epoha da nastavi s radom i opstane u ovim za nas nemogućim uvjetima.
Hvala vam od srca na vašoj potpori.
Vaša Epoha
