Kad umjetna inteligencija odlučuje tko umire: Prvi dronovi ubojice očito su već ubili ljude.
Ono što se godinama smatralo distopijskom vizijom, već bi moglo biti stvarnost. Prema izvješćima New Scientista i Tom’s Hardwarea , ukrajinske oružane snage možda su već 2024. godine rasporedile potpuno autonomne dronove, ubijajući ruske vojnike bez ljudske kontrole ili intervencije. Ako se to potvrdi, prijeđena bi bila crvena linija, ona na koju znanstvenici, etičari i Ujedinjeni narodi upozoravaju već godinama. ( Tom’s Hardware )
Prema izvješćima, uključeni dronovi bili su u takozvanom “Terminator modu”. Deset kvadkoptera kontroliranih umjetnom inteligencijom navodno je poslano nekoliko kilometara iza neprijateljskih linija. Nakon lansiranja, nije bilo daljnje veze s uređajima, nije bilo video prijenosa, nije bilo operatera niti načina za prekid napada. Strojevi su autonomno tražili svoje ciljeve i sami donosili odluke o životu ili smrti. Ukrajinski programer objasnio je: “Sve što su vidjeli bilo je uništeno.”
Posljednja ljudska odluka nestaje
Do sada je većina modernih sustava naoružanja bila vođena jednim načelom: ljudi u konačnici odlučuju o upotrebi smrtonosne sile. Čak i kod naoružanih dronova, operater sjedi ispred ekrana i daje naredbu za paljbu.
Ovdje opisani sustavi funkcioniraju drugačije. Ljudi samo definiraju misiju. Nakon toga, stroj preuzima kontrolu. On identificira ciljeve, procjenjuje situacije i samostalno izvršava napade. Stručnjaci to nazivaju “čovjek izvan kruga” – ljudi više nisu uključeni u proces donošenja odluka.
To postavlja pitanje na koje nitko još nije uspio odgovoriti: Tko snosi odgovornost ako stroj ubije ljudsko biće?
Programer? Zapovjednik? Proizvođač? Država?
Kraj ljudskog rata
Pravi šok nije to što dronovi ubijaju ljude. To se događa godinama. Novo je to što su, očito prvi put, strojevi sami odlučili koga će ubiti.
Ono što se danas opisuje kao izolirani test sutra bi moglo postati standardna praksa. Ukrajinske tvrtke već razvijaju veće autonomne rojeve, dok SAD, Kina, Rusija i druge zemlje ulažu velika sredstva u sustave umjetne inteligencije. Američko ratno zrakoplovstvo trenutno nabavlja nove autonomne borbene dronove, a brojne zapadne vojske rade na sličnim programima. ( Wall Street Journal )
Sama Ukrajina sada planira desetke tisuća bespilotnih sustava i sve više zamjenjuje vojnike robotima na bojnom polju.
Prag se drastično smanjuje
Kombinacija umjetne inteligencije i jeftine masovne proizvodnje posebno je opasna.
Prije je moderno oružje bilo skupo i ograničeno na nekoliko država. Autonomne dronove, s druge strane, često koštaju samo nekoliko tisuća dolara. Mogu se proizvoditi u velikim količinama i koristiti u rojevima.
Kritičari stoga upozoravaju da bi autonomno oružje moglo postati svojevrsno “nuklearno oružje za siromašne”. Država, milicija ili čak teroristička skupina u budućnosti bi mogle imati pristup tisućama strojeva za ubijanje kojima upravlja umjetna inteligencija.
Politika dolazi prekasno
Dok tehnologija napreduje sve brže, zakoni i međunarodni propisi zaostaju. Do danas ne postoji obvezujuća međunarodna zabrana autonomnih sustava ubijanja.
Ujedinjeni narodi godinama pozivaju na regulaciju. Brojni znanstvenici upozoravaju na takozvane robote ubojice. No, na bojnim poljima, čini se da je razvoj daleko odmakao od političkih rasprava. ( smallwarsjournal.com )
Što to znači za građanina
Prava prekretnica nije to što dron autonomno napada vojnika. Veće pitanje je: Gdje ova tehnologija završava?
Sustavi koji prepoznaju ciljeve, analiziraju obrasce kretanja i donose neovisne odluke mogli bi se u budućnosti koristiti i za nadzor granica, unutarnju sigurnost ili masovni nadzor. Prepoznavanje lica, analiza ponašanja i autonomni sustavi sada se razvijaju paralelno.
Ono što se danas testira na bojnom polju često završi u civilnom sektoru godinama kasnije.
Prava poruka ovih izvješća, dakle, nije da su neki vojnici ubijeni dronovima. Riječ je o tome da je čovječanstvo možda upravo prešlo prag na kojem strojevi, po prvi put, sami odlučuju tko će živjeti, a tko umrijeti.
I kad se taj prag prijeđe, možda više nema povratka.
