Bill Gates poručuje: “Možda će biti potrebna ogromna katastrofa”

Bill Gates poručuje: “Možda će biti potrebna ogromna katastrofa”

Advertisements

Bill Gates poručuje: “Možda će biti potrebna ogromna katastrofa”.

Advertisements

Bill Gates ponovno spominje ideju da će možda morati nastati stvarna šteta prije nego što svijet prihvati vrstu kontrole umjetne inteligencije kakvu on želi.

U novom intervjuu za CBS, suosnivač Microsofta rekao je da bi veliki kibernetički napad konačno mogao uvjeriti ljude da su upozorenja opravdana i da su stroža pravila odavno trebala biti uvedena.

Ove primjedbe dolaze u vrijeme kada Gates već mjesecima zagovara snažniju vladinu intervenciju u umjetnu inteligenciju. Više je puta tvrdio da je samoregulacija industrije nedovoljna te da političari i agencije za provođenje zakona moraju intervenirati.

Kritičari to vide kao poznati obrazac: strašna predviđanja koja bi mogla opravdati prošireni nadzor i centraliziranu kontrolu nad tehnologijom koju mnogi Amerikanci smatraju alatom za inovacije, a ne razlogom za stroža globalna pravila.

U intervjuu s Tonyjem Dokoupilom, Gates je rekao: „Možda ćemo morati pretrpjeti neke od negativnih posljedica prije nego što odgovorimo sveobuhvatno koliko bismo trebali.“

Dodao je da takvi incidenti ne bi značili kraj civilizacije, ali bi ipak bili ozbiljni. Rasprava se usredotočila na mogućnost kibernetičkog napada na velike platforme za mirovinsku štednju poput Fidelityja ili Vanguarda, koje upravljaju značajnim dijelom američke štednje.

Gates je napomenuo da bi takav događaj stvorio značajnu neizvjesnost.

Advertisements

Cjeloviti ulomci mogu se pronaći u nastavku:

Te izjave podudaraju se s upozorenjima koja je Gates iznio već početkom ove jeseni. U intervjuima u listopadu za ABC i CNN izjavio je da će kibernetički napadi sljedeće godine biti područje u kojem će posljedice biti najizraženije.

„Stvarna opasnost u ovom trenutku nije u tome da umjetna inteligencija izmakne kontroli”, rekao je. „Riječ je o doista zlonamjernim ljudima koji se služe umjetnom inteligencijom, osobito u područjima umjetne inteligencije u kojima se mogu isključiti sve zaštitne mjere.”

Nastavio je: „Kada imate zlonamjerne ljude, bez zaštitnih mjera, a zatim i najnovije modele, sljedeće ćemo godine, osobito u području kibernetičke sigurnosti, doživjeti mnoga neugodna iznenađenja.”

Gates je umjetnu inteligenciju nazvao najopasnijom tehnologijom koju su ljudi ikada izumili te ustvrdio da tvrtke ne bi smjele biti jedine koje nadziru njezinu primjenu. Situaciju je usporedio s industrijama u kojima su nužni sigurnosni propisi za zrakoplove, automobile i lijekove. Tijekom jednog javnog nastupa rekao je kako je jasno da dosadašnji napori nisu dovoljni te da će zemlja morati prijeći granice samoregulacije.

Te se izjave nadovezuju na još oštrije formulacije iz rujna. U emisiji Meet the Press Gates je rekao da je umjetna inteligencija „zasigurno dovoljno moćna da izazove događaje koji bi, pa, mogli odnijeti milijardu života”.

Dodao je: „Nikada nije postojalo oružje toliko moćno kao kombinacija ljudi sa zlim namjerama i najnovijih alata umjetne inteligencije.” Naglasio je da tijela za provedbu zakona i političari moraju utvrditi potrebne zaštitne mjere i mehanizme nadzora te izjavio: „Nitko ne vjeruje da je samoregulacija dovoljna.”

Gates je uspon umjetne inteligencije prikazao i kao nešto što se približava evolucijskom događaju za čije suočavanje vlade nisu spremne. Zalagao se za međunarodnu koordinaciju po uzoru na postojeće sporazume o nuklearnim materijalima, zrakoplovstvu i drugim područjima visokog rizika.

Istodobno je njegova zaklada obećala znatna financijska sredstva za širenje primjene umjetne inteligencije u obrazovanju, zdravstvu i poljoprivredi.

Gates je više puta isticao katastrofalne scenarije kibernetičkih napada na financijske sustave i moguće biološke prijetnje, istodobno tvrdeći da se s rizicima može suočiti jedino proširenjem uloge države.

Odbacio je stajalište da bi odgovornost ili obećanja tvrtki sami po sebi bili dovoljni, usporedivši nepostojanje obvezujućih propisa sa svijetom bez američke Agencije za hranu i lijekove (FDA) ili obveze vezanja sigurnosnog pojasa. U nedavnim izjavama dao je naslutiti da politička klasa presporo reagira te da bi trebalo uvesti konkretne pristupe nadzoru.

Najnovije izjave o tome da će možda biti potrebno „podnijeti neke negativne posljedice” dolaze u vrijeme neprekidnih rasprava o tome koliko ovlasti treba pripadati nacionalnim vladama, a koliko privatnim programerima.

Zagovornici blaže regulacije tvrde da su brze inovacije donijele velik napredak te da bi preuranjeni i strogi propisi mogli usporiti korisne primjene. Gates smatra da je kratkoročna zlouporaba od strane zlonamjernih pojedinaca, omogućena modelima čije se zaštitne mjere mogu ukloniti, neposredan problem koji se ne može riješiti samokontrolom.

Govorio je i o približno 20-godišnjem razdoblju velikih promjena prije nego što se ostvare šire koristi u vidu povećanja blagostanja, pri čemu se očekuju znatne posljedice za zaposlenost. U intervjuima je naglasio da je vremenski okvir za uvođenje nadzornih mehanizama ograničen te da bi društvo, ako bude čekalo na veće incidente, moglo reagirati tek nakon što se oni dogode.

Obrazac u tim nastupima dosljedan je: ponavljana upozorenja na ozbiljne posljedice popraćena su zahtjevima upućenima političarima i tijelima za provedbu zakona da nametnu obvezujuće zaštitne mjere, čija se provedba ne može prepustiti isključivo industriji. Među onima koji prate zalaganje za uvođenje novih pravila i dalje postoje neslaganja oko toga odražavaju li ta upozorenja ozbiljnu tehničku procjenu ili sklonost snažnijoj centralizaciji moći.

Amerikanci koji umjetnu inteligenciju prvenstveno smatraju alatom za povećanje produktivnosti, a ne egzistencijalnom prijetnjom, vjerojatno će Gatesove dosadašnje prognoze velikih rizika odvagnuti u odnosu na konkretne troškove dodatnih državnih postupaka provjere i međunarodne koordinacije.

Prijedlog da bi neki štetni događaj povezan s mirovinskim računima građana možda tek mogao potaknuti reakciju za koju se Gates zalaže unosi uznemirujuću dimenziju u ovu raspravu.

Advertisements
Advertisements
Advertisements
Advertisements
Advertisements
Advertisements

Podijeli članak:

Facebook
Twitter
Reddit
WhatsApp
Advertisements