Polom Trumpove umetne inteligence v zdravstvu

Avtomatizirano varčevanje na račun pacientov.

Uvedba pilotnega programa WISeR, s katerim je vlada predsednika Trumpa v začetku leta v šestih ameriških zveznih državah začela uporabljati umetno inteligenco za odobritev ali zavrnitev zdravstvenih storitev v okviru programa Medicare, je sprožila val ogorčenja med zdravniki in pacienti. Program, ki naj bi z avtomatiziranim predhodnim odobravanjem zmanjšal nepotrebne stroške in prevare, je v praksi povzročil resne tehnične težave, večmesečne zamude pri obravnavah ter pogosto nerazumljive zavrnitve zdravstvenih posegov, od injekcij proti bolečinam do operacij hrbtenice.

Interni dokumenti zveznih oblasti, ki jih je pridobila organizacija Electronic Frontier Foundation, razkrivajo, da je bila tehnologija ob izidu povsem nepripravljena, razvijalci pa niso ustrezno ločevali med različnimi vrstami zdravstvenega kritja. Eden izmed izvajalcev je v začetni fazi zavrnil kar 53 odstotkov vseh zahtevkov, medtem ko so se roki za odločanje namesto predvidenih 72 ur razvlekli na več tednov ali mesecev. Zdravstveno osebje v povratnih informacijah poroča o pacientih, ki v hudih bolečinah čakajo na odobritev nujnih posegov, ter o popolni odsotnosti podpore s strani podjetij, ki upravljajo sistem.

Dodatno skrb zbujajo razkritja o finančnih spodbudah za zasebna podjetja, ki izvajajo ocenjevanje zahtevkov. Dokumenti potrjujejo, da so pogodbeniki finančno nagrajeni za vsako zavrnjeno storitev, saj prejmejo 25-odstotni delež ocenjenih prihranjenih sredstev. Kljub varovalnim mehanizmom v obliki ocene kakovosti so denarne kazni za neustrezno zavrnitev oskrbe izjemno nizke, kar ustvarja neposreden interes za čim večje število zavrnitev. Kljub pozivom nekaterih poslancev k ustavitvi programa ter ugotovitvam računskega sodišča o postopkovnih nepravilnostih pri njegovi vzpostavitvi pa Trumpova vlada načrtuje razširitev uporabe umetne inteligence še na področja onkologije, napredne diagnostike ter nujnih prevozov.