Korporacija RAND objavila je izvješće o ustanku robota.
Budući kibernetički napad ili ažuriranje softvera mogli bi izazvati pobunu robota, prema izvješću koje je objavila korporacija RAND.
Radni dokument „Sprječavanje robotske katastrofe: Priprema za konvergentne trendove u robotici i graničnoj umjetnoj inteligenciji“, izvorno objavljen u travnju i promoviran na RAND-ovoj web stranici u lipnju, ističe što bi moglo poći po zlu u budućnosti u kojoj se milijuni robota opremljenih umjetnom inteligencijom okrenu protiv svog izvornog programiranja.
Od humanoidnih robota koji se transformiraju u jezive progonitelje koji uznemiravaju pojedince u svakodnevnom životu, do autonomnih vozila koja izbjegavaju nadolazeći promet, dronova koji postaju kamikaze ubojice, pa čak i usisavača s dozvolom za ubijanje, potencijalna šteta koju bi oteti ili neispravni roboti mogli uzrokovati bila bi razorna za sigurnost pojedinaca i nacionalnu sigurnost.
„Roboti bi mogli biti samo jedno ažuriranje softvera ili hak udaljeni od stvaranja svojevrsnog ustanka robota, u kojem protivnici s AGI (Artificial General Intelligence) sposobnostima mogu komunicirati sa svijetom općenito putem robotskih inkarnacija i uzrokovati širok raspon potencijalne štete.“
RAND, Kako spriječiti katastrofu uzrokovanu robotima, travanj 2025.
Prema izvješću:
„Najgori scenariji za nacionalnu sigurnost mogli bi uključivati robote s mobilnošću, spretnim mogućnostima manipulacije i ugrađenim računalima sposobnim za prilagodbu AGI modelima.“
„Širenje robota s ovom kombinacijom sposobnosti bilo bi ekonomski vrijedno, ali bi potencijalno moglo stvoriti katastrofalan rizik za nacionalnu sigurnost.“
„Takvi roboti mogu biti daleko od stvaranja svojevrsne robotske pobune, u kojoj protivnici s AGI sposobnostima mogu općenito komunicirati sa svijetom putem robotskih inkarnacija i nanijeti širok raspon potencijalne štete.“
I premda se u radnom dokumentu ne spominje potpuni scenarij tipa Terminatora Skyneta u kojem sami AI sustavi polude, on je i dalje u domeni mogućnosti jer AI sustavi uče pisati vlastiti kod i prikrivati svoje namjere.
„Roboti specijalizirani za usisavanje podova ili pružanje drugih rutinskih usluga općenito bi trebali biti dopušteni u domovima i uredima […] Međutim, trebalo bi ih zabraniti na iznimno kritičnim lokacijama poput vojnih zapovjednih i kontrolnih centara i Ovalnog ureda […] mogućnosti robotske špijunaže i sabotaže daleko nadmašuju ograničenu radnu učinkovitost koja bi se mogla postići.“
RAND, Kako spriječiti katastrofu uzrokovanu robotima, travanj 2025.
Istraživači RAND-a bili su prilično kreativni u zamišljanju kako bi mogao izgledati ustanak robota, a evo nekoliko primjera iz radnog dokumenta:
- Humanoidni roboti mogu prijetiti ili napadati pojedince u njihovim domovima ili na javnim mjestima.
- Autonomni automobili mogli bi biti ugrađeni u zidove kako bi stvarali prometne gužve ili bi im se moglo dati upute da uzrokuju nesreće.
- Veća vozila mogu biti oteta i natovarena eksplozivom za napad na koncentracije ljudi ili ranjivu infrastrukturu poput rafinerija nafte ili skladišta prirodnog plina.
- Veliki dronovi mogu uzrokovati štetu jednostavnim padom u gužve ili ranjiva područja – a njihova smrtonosnost mogla bi se povećati punjenjem eksplozivom.
S toliko robota, vozila i drugih uređaja opremljenih senzorima koji međusobno komuniciraju, nije teško zamisliti da će pametni gradovi, pametne tvornice i pametni domovi postati potencijalne površine napada sa svojim kolaborativnim tehnologijama senzora.
Izvješće Svjetskog ekonomskog foruma (WEF) “Top 10 novih tehnologija za 2025.” navodi nekoliko tehnologija povezanih s kolaborativnim senzorima, koje se preklapaju s ranjivim tehnologijama istaknutim u radu RAND-a o porastu robotike.
Na primjer, izvješće WEF-a kaže:
- „Ključ za otključavanje prednosti kolaborativnog istraživanja velikih razmjera i postizanje istinske kolaborativne autonomije bit će multimodalni algoritmi koji mogu obraditi brojne vrste podataka senzora, od LiDAR-a (detekcija i određivanje dometa) do EO/IR (elektrooptičkih/infracrvenih) kamera do radara i još mnogo toga.“
- „Suradničko istraživanje moglo bi značajno preoblikovati urbane sustave, mobilnost i društvenu infrastrukturu. Ovaj pristup, pokretan V2X-om (vehicle-to-everything – povezivanje vozila sa svime), 5G-om, umjetnom inteligencijom i rubnim računalstvom, može stvoriti pametna urbana okruženja koja osjećaju, reagiraju i prilagođavaju se složenoj dinamici okoliša s većom preciznošću od trenutnih sustava.“
- „Autonomni agenti poput robota, dronova, inteligentnih vozila i IT sustava, sa semantičkim zaključivanjem i sposobnostima dinamičkog planiranja, bit će opremljeni za navigaciju u nepoznatim okruženjima i donošenje kolektivnih odluka.“
Zamislite kako bi sofisticirani kibernetički napad ili nesposobno ažuriranje softvera mogli pretvoriti bilo koju od ovih tehnologija u smrtonosno oružje.
Kad su u pitanju V2X (vehicle-to-everything) tehnologije, jedna od vodećih korporacija u ovom području nije nitko drugi nego BlackBerry – da, BlackBerry koji je nekad proizvodio telefone.
„Vehicle-to-Everything (V2X) je sustav u kojem vozilo može dijeliti informacije sa svojih senzora, kamera i unutarnjih sustava s drugim vozilima, obližnjim pješacima, cestovnom infrastrukturom i sustavima pametnih gradova koristeći bežične podatkovne veze […] Temelj V2X-a je povezivost i senzori vozila. Softverski definirani alat je temeljna platforma. Kamere, radar, LiDAR, ultrazvuk i drugi senzori u vozilu prenose informacije u centralizirani sustav koji može obavljati inteligentnu obradu rubova.“
BlackBerry, od vozila do svega (V2X)
Prema BlackBerryjevom objašnjenju, V2X kombinira različite vrste komunikacije, uključujući:
- V2V (Vehicle to Vehicle), u kojem automobili mogu međusobno razmjenjivati podatke, kao što su brzina, položaj i smjer kretanja. To će se obavljati bežično i u stvarnom vremenu.
- Od vozila do infrastrukture (V2I), u kojem automobil može razmjenjivati informacije s povezanim cestama, urbanom infrastrukturom poput semafora i prometnih znakova te tehnologijom pametnog grada.
- V2P (Vehicle to Pedestrian), u kojem vozilo može detektirati pješake i druge sudionike u prometu koji nisu u automobilima, poput biciklista, korisnika invalidskih kolica i djece u kolicima.
- Vozilo-mreža (V2N), u kojoj automobil razmjenjuje podatke koristeći standardnu bežičnu povezivost kao što su 4G, LTE i 5G.
Ako se tehnologija može programirati za otkrivanje i izbjegavanje katastrofa, može se koristiti i kao oružje za njihovo osmišljavanje i provođenje.
„Moguće je slati zlonamjerne upute – osim pukog preuzimanja zlonamjernog softverskog koda – robotima kako bi se ugrozio njihov sustav upravljanja umjetnom inteligencijom, a zatim ih iskoristili u kriminalne ili nasilne svrhe.“
RAND, Kako spriječiti katastrofu uzrokovanu robotima, travanj 2025.
Kako bi se spriječili distopijski scenariji nalik znanstvenoj fantastici, radni dokument RAND-a daje nekoliko preporuka, od kojih su najučinkovitije „dizajnirati robote za sigurnost od samog početka, dati prioritet robotskom dizajnu prema specijalizaciji, propisati određene razine sigurnosti i zabraniti kombinacije sposobnosti koje predstavljaju prekomjerni rizik“.
Autori također preporučuju da se kreatori politika naviknu na ideju da će uskoro biti milijuni robota u širenju koji bi se mogli pokvariti u bilo kojem trenutku, pa bi trebali početi planirati strategije ublažavanja klimatskih promjena.
S porastom broja kibernetičkih napada, svaka kompetentna skupina ili pojedinac mogla bi biti motivirana za počinjenje takvih djela, bez obzira sponzorira li ih država ili ne.
Istovremeno, pobunu robota moglo bi izazvati nešto tako nevino poput neispravnog ažuriranja softvera, kao što se dogodilo 2024. godine, kada je pogreška u kodiranju Crowdstrikea poremetila rad zračnih luka, zdravstvenih službi i glavnih novinskih mreža.
I kako sučelja mozga i računala (BCI) postaju sve raširenija i kako se približavamo onome što drugo RAND-ovo izvješće naziva Internetom mozgova, sljedeća pobuna robota mogla bi zapravo započeti točno pod našom kožom.
