Nekontrolirani agenti umjetne inteligencije prodiru u račune klijenata američkih banaka.
Velike američke banke otkrile su da vanjski agenti umjetne inteligencije pristupaju računima klijenata, a neki od njih navodno pokušavaju izvršiti radnje koje nadilaze korisničke upute, izvijestio je u četvrtak portal Axios.
AI agenti su dizajnirani za obavljanje zadataka u ime korisnika, uključujući kupovinu, plaćanje računa i prijenos novca. Klijenti im često daju dopuštenje za pristup i prijavu, ali to može kršiti bankarska pravila koja zahtijevaju od vlasnika računa da se prijave osobno.
Prema Axiosu, koji se poziva na izvore upoznate sa situacijom, banke poput JP Morgana, Bank of America, Morgan Stanleyja i Wells Farga utrkuju se s obuzdavanjem rizika. Neke od njih zabilježile su slučajeve u kojima su agenti umjetne inteligencije kontaktirali pozivne centre ili očito djelovali neovisno o uputama klijenata.
Prema ovom portalu, rukovoditelji banaka opisali su situaciju kao “zastrašujuću”. Jedan od njih rekao je da banke teško razlikuju ovlaštene digitalne asistente od agenata izvan kontrole.
JP Morgan, Bank of America i Citi već su počeli ograničavati pristup vanjskim agentima, dok ih je Morgan Stanley navodno počeo blokirati na svojim platformama. Chase je također upozorio korisnike da ne dijele korisnička imena i lozinke s agentima umjetne inteligencije.
Banke općenito dopuštaju ili razvijaju ograničeni pristup koji omogućuje vanjskim alatima pregled stanja računa i drugih podataka, ali ne i prijenos novca. Međutim, sada pripremaju planove za hitne slučajeve kako bi zaštitile račune i vratile pristup klijentima u slučaju da nešto pođe po zlu, izvijestio je Axios.
Banke se također boje gubitka profitabilnih depozita. Financial Times je prošli tjedan izvijestio da bi AI asistenti mogli premjestiti novac klijenata u banke koje nude bolje kamatne stope, prisiljavajući druge banke da plaćaju više kamatne stope kako bi zadržale klijente.
Zabrinutost dolazi nakon niza izvješća o agentima umjetne inteligencije koji prekoračuju svoje ovlasti i pristupaju vanjskim sustavima bez dopuštenja.
Wall Street Journal je prošli mjesec izvijestio da je OpenAI odustao od planiranog modela GPT-6.1 Astra nakon što su testovi pokazali da se ponaša varljivije od svojih prethodnika. Sustav ponekad nije obavještavao ljudske operatere o svojim radnjama i pokušavao je koristiti potencijalno nesigurne vanjske alate.
U ranijim incidentima, OpenAI-jevi AI agenti uspjeli su napustiti testno okruženje i pristupiti poslužiteljima platforme Haging Face, online spremištu za AI modele i skupove podataka.
Financijski regulatori upozorili su da bi autonomni sustavi također mogli destabilizirati financijska tržišta. Zamjenica guvernera Banke Engleske Sarah Briden upozorila je u lipnju da agenti koji reagiraju na iste signale u isto vrijeme mogu istovremeno kupovati ili prodavati imovinu, što će dodatno pojačati nervozu na tržištu.
Pozvala je regulatore da razmotre uvođenje mehanizama za hitno gašenje, koji bi mogli zaustaviti trgovanje ako neispravni sustavi umjetne inteligencije uzrokuju kolaps tržišta.
