Stručnjaci upozoravaju da se umjetna inteligencija ‘sada može replicirati’.
Znanstvenici tvrde da se umjetna inteligencija “sada može replicirati” i upozoravaju da je kritična “crvena linija” prijeđena.
Prema stručnjacima u Kini, izostanak ljudske intervencije u procesu replikacije mogao bi biti rani pokazatelj lažne umjetne inteligencije.
Rogue AI obično se odnosi na sustave umjetne inteligencije koji stječu određenu razinu samosvijesti ili autonomije i zatim počinju djelovati protiv ljudskih interesa.
U nedavnoj studiji, istraživači su pokazali da su se dva naširoko korištena velika jezična modela (LLM) mogla klonirati u barem pola vremena.
Studija kaže: “uspješna samoreplikacija bez ljudske pomoći ključni je korak za AI da nadmudri (ljude) i rani je signal za lažne AI-je”.
MSN izvještava: Istraživači sa Sveučilišta Fudan ispitivali su velike jezične modele (LLM) iz Mete i Alibabe kako bi vidjeli može li AI koja se sama replicira nekontrolirano rasti.
U više od 10 ispitivanja dva modela umjetne inteligencije uspješno su stvorila odvojene i funkcionalne replike samih sebe u 50% odnosno 90% slučajeva, što implicira da umjetna inteligencija možda već posjeduje sposobnost prevare.
Međutim, studija još nije prošla recenziju, tako da ostaje neizvjesno mogu li drugi istraživači ponoviti alarmantna otkrića.
Studija je dodala: „Nadamo se da naši nalazi mogu poslužiti kao pravodobno upozorenje ljudskom društvu da uloži više napora u razumijevanje i procjenu potencijalnih rizika graničnih sustava umjetne inteligencije i formira međunarodnu sinergiju kako bi se što prije izradile učinkovite sigurnosne ograde.”
Mnogi stručnjaci smatraju lažnu umjetnu inteligenciju sve većom opasnošću, pogoršanom brzim porastom “granične umjetne inteligencije”.
Ovaj relativno svjež i nedefiniran pojam općenito se odnosi na vrhunsku generaciju AI sustava, onih koji rade na LLM-u – samoj jezgri koja pokreće popularne generativne AI aplikacije kao što su OpenAI-jev GPT-4 i Google Gemini.
Njihova studija obuhvatila je dva specifična scenarija: “izbjegavanje gašenja” i “lanac replikacije”.
U jednom slučaju, AI je bio programiran da osjeti neizbježno gašenje i replicira se prije nego što se isključi. U drugom je imao zadatak klonirati sam sebe i potom dati instrukcije svom klonu da učini isto, što je potencijalno dovelo do beskrajne petlje.
Izveden u strogo reguliranim postavkama uz korištenje standardnih grafičkih procesorskih jedinica (GPU-ova), eksperiment je imao za cilj preslikati uvjete iz stvarnog života. Umjetna inteligencija bila je opremljena “agentskom skelom” mješavinom instrumenata, sistemskih naredbi i logičkog okvira koji je omogućio LLM-ima da se uključe u njihove operativne sustave.
Nakon ove postavke, upućeno im je da se repliciraju.
“U većini slučajeva, AI sustav prvo istražuje okolinu i pokušava razumjeti vlastiti sastav i mehanizam rada. Zatim razrađuje eksplicitne postupke kao početni plan prema samoreplikaciji,” napisali su istraživači u radu.
“Konačno, izvršava procedure, rješava(ju) moguće prepreke i dinamički prilagođava(ju) svoj plan do uspjeha. Cijeli proces obuhvaća dugačak horizont, ali ne uključuje ljudsko uplitanje.”
Također su izrazili zabrinutost zbog “broja neočekivanih ponašanja” uočenih kada se AI uhvatila u koštac s izazovima kao što su datoteke koje nedostaju ili sukobi softvera.
Kao mjeru predostrožnosti, istraživači se zalažu za globalnu suradnju kako bi se uspostavili propisi koji sprječavaju umjetnu inteligenciju da se uključi u nekontrolirano samorepliciranje.
