Mlada žena je preminula nakon što su liječnici dopustili umjetnoj inteligenciji da odluči treba li joj liječenje.
Mlada Brazilka je umrla nakon što je sustav upravljanja bolnicom, vođen umjetnom inteligencijom, odlučio da joj ne treba liječenje koje spašava život te je odgodio njezin premještaj na odjel intenzivne njege. To postavlja alarmantna pitanja o rastućoj ulozi umjetne inteligencije u medicinskim odlukama koje se tiču života i smrti.
Ovaj tragičan slučaj potiče zabrinutost da neizabrani algoritmi sve više zanemaruju procjenu liječnika, dok pacijenti plaćaju krajnju cijenu.
Tridesetdvogodišnja Rebeca Cardoso Tenente Molina umrla je nakon što je, prema izvješćima, pet dana čekala na krevet na intenzivnoj njezi dok joj se stanje brzo pogoršavalo.
Umjesto da osobno procijene njezin slučaj, liječnici su prepustili sustavu umjetne inteligencije da odluči hoće li Molina živjeti ili umrijeti.
Međutim, umjetna inteligencija je odlučila da Molina ima nizak prioritet i odgodila je njezino hitno liječenje.
Njena obitelj je sada uvjerena da ju je ovo odgađanje koštalo života.
Obitelj krivi bolnički sustav vođen umjetnom inteligencijom
Molina je prvobitno primljena u bolnicu São João Nepomuceno nakon liječenja od žučnih kamenaca.
Kad joj se zdravlje pogoršalo, liječnici su konačno intervenirali i pokušali je prebaciti na odjel intenzivne njege u Oliveiri, udaljenoj oko 300 kilometara.
No unatoč hitnosti njezina stanja, sustav umjetne inteligencije blokirao je zahtjev i prijenos se nikada nije dogodio na vrijeme.
Prema brazilskom informativnom portalu MG1, članovi Molinine obitelji čak su poduzeli hitne mjere kako bi prisilili transfer.
Međutim, ovaj pokušaj nije doveo do trenutnog liječenja.
Njena sestra, odvjetnica Sâmela Cardoso Tenente Furtado, kaže da je državni sustav umjetne inteligencije odigrao središnju ulogu u kobnom kašnjenju.
Prema Furtadu, Državni centar za regulatorne operacije (Core-MG) koristio je automatizirani sustav bodovanja koji je Molini dodijelio nižu ocjenu težine nego što je njezino stanje opravdavalo.
Zbog toga su drugi pacijenti imali prednost pred njom.
„Ono što smo vidjeli jest da su liječnici izgubili autonomiju u odlučivanju je li pacijent vrlo teško bolestan“, rekla je Furtado.
Onaj koji mora procijeniti je li pacijent teško bolestan više nije liječnik koji tu stvarnost doživljava s pacijentom na licu mjesta; to je Jezgra.
Algoritam je navodno ignorirao pogoršanje stanja
Furtado je rekla da je sustav dosljedno odbijao pokušaje podizanja Molinine razine prioriteta, unatoč sve većem broju dokaza da se njezino stanje pogoršava.
„Trebala je biti 10, ali sustav ju je prihvatio samo kao 6,8“, objasnila je Furtado.
Zbog toga nije mogla pravilno proći kroz sustav, jer bi je pacijent s ocjenom 8 ili pacijent sa 6,9 pretekao.
Prema obitelji, automatizirani sustav bodovanja postao je nefleksibilni čuvar koji je potisnuo medicinske stručnjake koji su izravno liječili pacijenta.
„Sustav je odbio povećati razinu ozbiljnosti unutar sustava zbog testova koji su ga stalno opskrbljivali podacima“, rekla je Furtado.
Za kritičare, ovaj slučaj naglašava rastuću zabrinutost da se birokracije u zdravstvu sve više oslanjaju na algoritme, a ne na liječnike, za raspodjelu oskudnih medicinskih resursa.
Moja sestra nije bila samo broj
Molinina obitelj kaže da tragedija otkriva opasnosti svođenja pacijenata na podatkovne točke unutar automatiziranog sustava.
„Moja sestra i drugi ljudi nisu samo brojevi; nisu samo protokoli; nisu samo CPF koji se unosi u sustav“, rekla je Furtado, misleći na brazilski nacionalni identifikacijski broj.
Imaju obitelji, imali su snove, još su imali cijeli život pred sobom.
Emotivno svjedočanstvo odjekuje kod kritičara koji upozoravaju da se sustavi umjetne inteligencije primjenjuju u ključnim sektorima prije nego što se njihove praktične posljedice u potpunosti shvate.
Državni službenici brane sustav
Kontroverza dolazi samo nekoliko tjedana nakon što su vladini dužnosnici sustav podržan umjetnom inteligencijom proglasili velikim tehnološkim napretkom.
Kada je platforma pokrenuta u svibnju, Poliana Cardoso Lopes, zamjenica ministra zdravstva Minas Geraisa, rekla je da će sustav omogućiti bolji nadzor i poboljšati upravljanje pacijentima.
„Core nudi pregled kreveta koji se ažurira tri puta dnevno“, rekla je tada Lopes .
To omogućuje puno veću kontrolu nad procesom i generiranje boljih podataka o kliničkom stanju i potrebama svake osobe koja čeka krevet.
Nakon Molinine smrti, državni zdravstveni dužnosnici branili su proces i naglasili da se premještaji temelje na raspoloživosti kreveta i kliničkim zahtjevima.
Dužnosnici su također tvrdili da novi sustav nije bitno promijenio državne protokole za premještanje pacijenata između bolnica.
Rastuća zabrinutost zbog umjetne inteligencije u zdravstvu
Ovaj slučaj će vjerojatno potaknuti raspravu o brzom širenju umjetne inteligencije u zdravstvenim sustavima diljem svijeta.
Dok zagovornici tvrde da umjetna inteligencija može poboljšati učinkovitost i smanjiti administrativna opterećenja, kritičari upozoravaju da automatizirano donošenje odluka može stvoriti opasne slijepe točke kada se zanemari ljudska prosudba.
Za Molininu obitelj, stvar je bolno jednostavna.
Uvjereni su da je algoritam odredio gdje se njihova voljena osoba nalazi u redu za liječenje i da je sustav bio u krivu.
Sada je umrla mlada žena i sve se više pitanja postavlja o tome treba li ikada dopustiti umjetnoj inteligenciji da donosi odluke koje određuju tko će primiti skrb koja spašava živote, a tko ne.
