Njemački dizajner kreirao ‘najružniju’ majicu ikad kako bi prevario nadzorne kamere pokretane umjetnom inteligencijom.
Njemački dizajner osmislio je namjerno upadljivu majicu kako bi zbunio sustave nadzora pokretane umjetnom inteligencijom i učinio njezina nositelja težim za otkrivanje automatiziranim kamerama.
Simon Weckert osmislio je majicu s kaotičnom kombinacijom ružičastih, narančastih i zelenih oblika, namijenjenom narušavanju načina na koji sustavi računalnog vida prepoznaju obrise ljudskog tijela.
Rezultat više nalikuje upadljivo ružnoj havajskoj košulji nego tradicionalnoj kamuflaži.
Prema Weckertu, upravo je to svrha.
„Sustavi umjetne inteligencije sastoje se od više slojeva i nikada nisu naučili što je čovjek – naučili su kako ljudi statistički izgledaju na temelju milijuna fotografija za treniranje“, rekao je Weckert za Dezeen.
„Za stroj je ‘osoba’ skup vizualnih statistika – i upravo je to njegova slabost.“
Majica osmišljena za narušavanje ljudske siluete
Weckert je rekao da uzorak djeluje tako što narušava vizualni kontinuitet na koji se sustavi umjetne inteligencije oslanjaju pri određivanju je li objekt u vidnom polju osoba.
Neobične mrlje otisnute po tkanini trebale bi „prekinuti kontinuitet obrisa tijela“, objasnio je.
„Tako da detektor više ne može spojiti te dijelove u jednu figuru.“
„Čovjeku izgleda kao gotovo hipnotizirajuća tkanina; modelu umjetne inteligencije to je potpuna besmislica“, dodao je Weckert.
Majica odražava rastući interes za takozvanu „adverzarnu modu“, pri kojoj odjeća i uzorci nisu osmišljeni kako bi osobu učinili nevidljivom ljudskom oku, već kako bi iskoristili slabosti sustava strojnog učenja.
Umjesto da se stopi s pozadinom, odjeća pokušava zbuniti softver koji analizira snimke nadzornih kamera.
Umjetna inteligencija korištena za nadmudrivanje umjetne inteligencije
Weckert je također koristio umjetnu inteligenciju pri razvoju samog uzorka.
Proces dizajniranja uključivao je adversarijalnu petlju, pri čemu su se različiti uzorci opetovano testirali protiv sustava za detekciju umjetne inteligencije te se na temelju rezultata prilagođavali.
To dovodi do neobične tehnološke proturječnosti: umjetna inteligencija korištena je za dizajniranje odjeće čija je namjena nadmudriti umjetnu inteligenciju.
Koncept također donekle podsjeća na izmišljenu „najružniju majicu na svijetu“ koju je autor William Gibson osmislio u svom romanu „Zero History“ iz 2010. godine.
Gibson je izmišljeni odjevni predmet opisao kao „više od punka, više od umjetnosti i, u biti, na neki način, uvredu“.
Weckertova stvarna verzija jednako je teško zanemariva.
Dizajner je već ranije nasamario Google Maps
Ovaj projekt nije Weckertov prvi pokušaj otkrivanja slabosti u široko korištenim digitalnim sustavima.
Samoprozvani „moderni digitalni čarobnjak“ privukao je međunarodnu pozornost 2020. godine nakon što je prošetao Berlinom gurajući kolica puna pametnih telefona.
Zbirka uređaja navela je Google Maps da njegovo kretanje protumači kao veliku koncentraciju vozila koja se sporo kreću, čime su se na gradskim ulicama aktivirala lažna upozorenja o prometnim gužvama.
Njegov najnoviji projekt primjenjuje istu osnovnu ideju na nadzor pomoću umjetne inteligencije: razumjeti što sustav očekuje vidjeti, a zatim mu namjerno ponuditi nešto što ta očekivanja narušava.
U ovom slučaju to znači stvaranje odjeće dovoljno ružne da je ljudi primijete, ali dovoljno zbunjujuće da je algoritam previdi.
