Potpuna kontrola iz zidne utičnice? Kako bi se naši životi mogli kontrolirati u budućnosti.
Temeljna prava i slobode posljednjih su godina sve više pod napadom. Gdje će se to završiti? Kako bi se alati poput umjetne inteligencije ili pametnih brojila mogli koristiti protiv građana? Ono što se danas prodaje kao praktičnost, učinkovitost i sigurnost sutra bi moglo postati temelj društva u kojem se u svakom trenutku prikupljaju sve vrste podataka kako bi se stvorili sveobuhvatni profili svih nas. Bacimo zajedno fiktivni pogled na distopijsku budućnost. Je li sve to znanstvena fantastika – ili bliže stvarnosti nego što bismo željeli priznati?
Sigurno ste vrlo dobro upoznati s pojmovima distopija, pametno brojilo, podatkovni centri i umjetna inteligencija. Možda se ipak isplati na trenutak zadržati na distopiji.
Nudi uvid u moguće buduće događaje karakterizirane gubitkom kontrole, nadzorom ili društvenim previranjima. Distopijske vizije pružaju nam priliku da društvu držimo ogledalo, otkrivajući njegove strahove i sumnje, te da ih obradimo i promislimo u narativnom obliku. Stvaraju prostor za rasprave o etičkim, društvenim i političkim granicama i mogućnostima. Cilj im je probuditi nas i podići našu svijest pokazujući što bi se moglo dogoditi ako događaji izmaknu kontroli.
Distopijske vizije izazivaju nas na kritičko promišljanje sadašnjosti i budućnosti, na propitivanje društvenih struktura i na djelovanje protiv nepravde i ravnodušnosti. Potiču nas da preuzmemo odgovornost za vlastite postupke i za društvo kako bismo spriječili negativne događaje. Često na zastrašujući način otkrivaju nedostatke i opasnosti društvenog, političkog ili tehnološkog razvoja. Služe kao upozorenje na moguću budućnost u kojoj bi se čovječanstvo, sloboda ili temeljna prava mogli izgubiti.
Distopijska perspektiva
Zamislite tuširanje u toplo proljetno jutro kada voda odjednom postane hladna. Vaše pametno brojilo treperi. Dosegnuto je dnevno ograničenje: topla voda se isključuje radi stabilizacije mreže. Vaš telefon vas obavještava da je potrebna promjena kanala na TV-u. U međuvremenu, u pozadini, nevidljiva umjetna inteligencija zuji, prikuplja vaše podatke o električnoj energiji, povezuje ih s vašim navikama gledanja televizije, vašom aplikacijom za grijanje, Google Healthom i poviješću vašeg bankovnog računa. Sve kako biste postali ono što oni na vlasti žele i što novom društvu navodno treba: transparentan potrošač, učinkovit, usklađen i potpuno transparentan.
Komponenta praćenja 1: Pametno brojilo – mozak u kutiji brojila
Ugradnja pametnih brojila postala je gotovo univerzalna u austrijskim kućanstvima i tvrtkama. Ona više ne mjere samo potrošnju energije za godišnje izvještaje, već i izvještavaju kada vaš aparat za kavu radi ujutro, kada se svjetla gase i koliko sati je televizor ili kompjuter uključen. Podaci se prenose u vrlo kratkim intervalima, čak i u stvarnom vremenu, te se zajedno s detektorima vode, plina i pokreta unose u ogromno more podataka u oblaku. Usvajanje pametnih uređaja potiče se zakonom, a ažuriranja softvera su obavezna. Ugovor o održavanju vašeg dobavljača energije već predviđa da se pametna brojila mogu daljinski upravljati radi poboljšanja učinkovitosti.
Moduli praćenja 2 i 3: Podatkovni centri i umjetna inteligencija – novo srce administracije
Najveći europski podatkovni centri nalaze se u anonimnim objektima, nadzirani su, zaštićeni i klimatizirani 24 sata dnevno. Ogromne serverske dvorane kojima upravlja nekolicina korporacija. Ovdje se spajaju podaci koje privatna industrija i politika mogu prikupiti. Sustavi umjetne inteligencije, navodno racionalni i nepotkupljivi, preuzimaju uzde: Oni otkrivaju odstupanja u obrascima potrošnje, izračunavaju ih na temelju unaprijed definiranih modela evaluacije i predlažu racionalizaciju, blokiranje i/ili određivanje prioriteta.
Direktiva onih na vlasti: nema više preopterećenja mreže, već umjesto toga, snažno smanjenje opterećenja tijekom kriznih situacija koje definiraju sami moćnici; personalizirani propisi za opskrbu toplom vodom, grijanje, punjenje električnih automobila, čak i potrošnju medija – sve se odlučuje i automatski provodi uz pomoć umjetne inteligencije.
Nova arhitektura upravljanja
Ono što se prodaje kao argument za uštedu troškova i klimatska inovacija postupno se pretvara u čvrsto isprepletenu kontrolnu mrežu. Električna energija kao alat moći: oni koji prekorače granični profil dobivaju veću naknadu za vršna opterećenja ili im se prisilno isključuje struja. Oni koji previše surfaju internetom, struje “pogrešan” program ili ostavljaju svjetla upaljena noću primaju upozorenja, suočavaju se s automatskim terećenjima ili doživljavaju ograničenje svojih prava korištenja do sekunde.
Dvostruka zamka za građane
Podnošenje prigovora je komplicirano, a digitalna korisnička služba sada se sastoji isključivo od automatiziranih odgovora. Svaka pritužba bilježi se kao negativan bod u vašem osobnom korisničkom profilu. Ako prečesto podnosite prigovore, važne funkcije bit će vam privremeno blokirane.
Zdravlje, financije, način života
Pod krinkom prevencije, podaci o kretanju kombiniraju se s profilima pametnih brojila i zdravstvenim informacijama. Oni koji premalo vježbaju imaju bonus za nisku potrošnju. Banke odbijaju transfere ako nisu ispunjeni kriteriji opskrbe. Granice između privatnih usluga, javnog reda i državne kontrole algoritamski se zamagljuju.
Novi princip: Transparentnost je sigurnost
Javni diskurs je ugušen; sigurnost i održivost služe kao izgovori, građanska prava se ismijavaju kao teret. Odbijanje pametnog brojila smatra se manjim prekršajem. Neidenti su potisnuti u digitalne sjene, njihova djeca dobivaju niže plasmane u vrtićima i školama. Otvorena rasprava sada se odvija samo na nadziranim forumima koje moderira umjetna inteligencija. Iznimke potvrđuju pravilo i sustavno se kontroliraju.
Svakodnevni život u digitaliziranoj prisilnoj energiji
Prag tolerancije je nizak. Susjedi osuđuju upadljivo ponašanje, a rang-liste solidarnosti s električnom energijom kruže u grupama aplikacija. Oni koji pronađu zaobilazna rješenja koristeći stare solarne panele, domaće baterije ili analogne uređaje smatraju se revolucionarnima. Energetske tvrtke razvijaju sustave nagrađivanja za građane koji otkrivaju posebno detaljne kućanske navike umjetnoj inteligenciji. Novi poticaj temelji se na motu “Oni koji nemaju što skrivati imaju prednost”.
Otpor i nada
One postoje, te tajne podzemne mreže: hakeri, zadruge, zajednice s analognom tehnologijom, ali djeluju u tajnosti, pod stalnim nadzorom umjetne inteligencije, karakterizirane oskudnim resursima i nepovjerenjem. Jer svako odstupanje je sumnjivo, svaka neovisnost rizična.
Izgledi: Neizbježno pitanje
Čini se da je sustav pobijedio: previše učinkovit, previše praktičan i za mnoge jednostavno neodoljiv.
Ali mora li zaista biti ovako, ova distopijska verzija? Nema li bijega od ovog sustava? Naravno da jest. Jer sustav treba nas – ne nas osobno, već naše podatke. Uostalom, što bi umjetna inteligencija trebala analizirati ako nema što analizirati? Kad bismo koristili elektroničke uređaje koji ne šalju nikakve informacije o sebi na internet, kad bismo svaki dan čitali knjigu umjesto da gledamo televiziju, razgovarali sa susjedima, njegovali međuljudske odnose, šetali prirodom i ne nasjedali na primamljive ponude onih na vlasti, tada bi postojala mogućnost da već dobrovoljno dajemo velik dio svojih osobnih podataka sustavu.
Jedan aspekt koji moćnici ovoga svijeta možda podcjenjuju jest da su i oni dio istog sustava. Da se sve što vrijedi za prosječnog građanina odnosi i na njih. Jer umjetna inteligencija ne razlikuje građanina A od građanina B, već na temelju unaprijed određenih kriterija. Mnogi moćnici možda još uvijek ignoriraju ovo i nadaju se da su izuzeti, ali za umjetnu inteligenciju, ni građanin B nema nikakav poseban status. Kao što s pravom sumnjate, bilo bi naivno pretpostaviti da će barem pokušati poboljšati vlastiti položaj. Ali čak bi i to na kraju bilo razotkriveno.
Veliko pitanje ostaje
Koliko nam udobnosti, koliko sigurnosti još uvijek vrijedi individualna sloboda? I tko zapravo odlučuje koje je ponašanje “ispravno” ili “pogrešno”: umjetna inteligencija, država ili u konačnici sami ljudi, jer su jednostavno prestali biti “udobni”? Jer jednu stvar bismo uvijek trebali imati na umu: “Sva moć proizlazi iz naroda.” Jer:
Oni koji bi se odrekli slobode kako bi stekli sigurnost, na kraju će izgubiti oboje.
