DARPA pokreće kontroverzni program ‘Teorija uma’.
DARPA-in program Theory of Mind pokušava predvidjeti, kontrolirati i promijeniti ponašanje.
Član novog tima Agencije za napredne istraživačke projekte (DARPA) američkog Ministarstva obrane (DoD), Eric Davis, predstavio je novi program pod nazivom “Teorija uma.”
Ovaj projekt ima za cilj razviti algoritamske sposobnosti za predviđanje, praćenje i čak modificiranje budućeg ponašanja ljudi.
Najava programa, koja je sada postala javna u obliku “posebne obavijesti”, ima za cilj poboljšati sposobnosti donošenja odluka unutar američkog sigurnosnog aparata, fokusirajući se na “protivnike” i nastojeći ih odvratiti ili “motivirati” u određeni način.
Međutim, ovo postavlja ozbiljna pitanja u vezi s privatnošću, prikupljanjem podataka i etičkim implikacijama kontrole ponašanja.
Sigurno je da ovaj program zahtijeva prikupljanje ogromne količine osobnih podataka. Ali veće je pitanje: što točno znači “protivnik” u očima vojnog aparata? Glosar vojnih i srodnih izraza Ministarstva obrane SAD-a iz 2017. opisuje “protivnika” kao “stranu prepoznatu kao potencijalno neprijateljsku prema prijateljskoj strani”, ali ne precizira točno što “strana” znači.
Program Theory of Mind predstavlja novu iteraciju već postojećih DARPA-inih projekata, kao što je kontroverzni program Total Information Awareness (TIA) iz 2002., koji su kritizirale skupine civilnog društva jer je “najbliži stvarnom Big Brotheru u SAD.”
Eric Davis, AI znanstvenik s iskustvom u Galoisu , koji radi s DARPA-om, NASA-om i američkom obavještajnom zajednicom, pomiče granice onoga što je moguće u strojnom učenju. No, kao i svaki sličan program, postoji ozbiljna zabrinutost zbog mogućnosti zlouporabe i privatnosti pojedinaca diljem svijeta.
Kako se program Theory of Mind razvija, važno je postaviti pitanje: Koliko je previše kada se radi o predviđanju i kontroli ljudskog ponašanja? A tko osigurava da tako moćni algoritmi ostanu pod kontrolom?
