Joseph Varon, liječnik intenzivne njege, profesor medicine i predsjednik Neovisnog liječničkog udruženja, izdao je ozbiljna upozorenja o tome kako umjetna inteligencija (AI) polako mijenja samu bit medicine. Njegovo iskustvo u bolnicama omogućuje mu da razlikuje pravu inovaciju od promjena koje se čine bezopasnima, ali zapravo prebacuju odgovornost s ljudi na strojeve.

Varon jasno daje do znanja: umjetna inteligencija još nije liječnik. Nijedan algoritam nije licenciran, ne polaže Hipokratovu zakletvu i ne može se osobno smatrati odgovornim za štetu nanesenu pacijentima. Ipak, dodaje, pravi problem nije sama tehnologija, već tiha erozija ljudske odgovornosti u medicinskim odlukama.

„Medicinska prosudba zahtijeva empatiju, intuiciju i etičku prosudbu“, piše Varon. „Umjetna inteligencija može predložiti terapije ili obnoviti recepte, ali ne može preuzeti moralnu odgovornost za posljedice tih odluka.“ Upozorava da algoritmi daju rezultate s pouzdanjem, čak i kada su pogrešni, dok ljudski liječnici mogu izraziti sumnje i prilagoditi odluku određenom pacijentu.

Varon ističe da trenutna upotreba umjetne inteligencije, čak i u ograničenim pilot programima, polako mijenja osnovni etički okvir medicine. Klinike koje koriste umjetnu inteligenciju za obnovu recepata ili dijagnosticiranje, iako ubrzavaju proces, riskiraju da medicina postane tehnički napredna, ali moralno prazna, gdje pacijent više nije u stvarnom odnosu s liječnikom, već dio administrativnog tijeka rada. 

Iako Varon priznaje da umjetna inteligencija može smanjiti administrativne zadatke i pomoći u prepoznavanju obrazaca, inzistira na tome da “čovjek u petlji” mora biti više od simboličnog nadzora. Svaka odluka mora imati određenog liječnika koji preuzima odgovornost, može objasniti svoju odluku i, ako je potrebno, izmijeniti preporuke algoritma.

Joseph Varon zaključuje: „Ako se ovaj proces nastavi nekontrolirano, medicinu neće zamijeniti roboti, već protokoli – a kada se dogodi šteta, neće biti nikoga tko će odgovarati. To nije napredak. To je odricanje od odgovornosti.“