ChatGPT je iz podatkov Applovega Zdravja postavil povsem napačno diagnozo
Kolumnist časnika Washington Post se je na smrt prestrašil, ko je umetni inteligenci zaupal desetletje meritev iz aplikacije Apple Health.
ChatGPT od letos omogoča neposredno povezavo s podatki iz ure Apple Watch. To je takoj izkoristil kolumnist Geoffrey A. Fowler in umetni inteligenci posredoval desetletje svojih meritev, vključno z milijoni korakov in srčnimi utripi. Rezultati so bili vse prej kot zanesljivi. Klepetalnik je njegovemu kardiovaskularnemu zdravju dodelil najnižjo možno oceno, kar je avtorja močno prestrašilo, vendar je njegov osebni zdravnik diagnozo umetne inteligence takoj zavrnil kot povsem neutemeljeno in nesmiselno.
Glavna težava je v tem, da ChatGPT napačno interpretira podatke, ki jih pametne ure zbirajo le kot okvirne ocene. Umetna inteligenca je svojo negativno sodbo utemeljila na meritvah VO2 max in variabilnosti srčnega utripa, ki po mnenju kardiologov niso primerne za klinično diagnostiko brez laboratorijske opreme. Poleg tega sistem ni prepoznal tehničnih razlik, ki so nastale ob nadgradnjah ure; naravne spremembe v delovanju novih senzorjev je ChatGPT napačno razumel kot poslabšanje zdravstvenega stanja, namesto kot natančnejše meritve nove strojne opreme.
Preiskava je razkrila tudi popolno nedoslednost delovanja, saj je klepetalnik pri ponavljanju istega vprašanja ocene zdravja spreminjal od nezadostnih do povsem dobrih. Med pogovorom je bot celo pozabljal osnovne podatke o avtorju, kot sta starost in spol, ter spregledal uradne krvne izvide, ki so mu bili na voljo. Takšna nepredvidljivost je po mnenju strokovnjakov nevarna, saj lahko pri zdravih ljudeh povzroči nepotrebno paniko, tistim z dejanskimi težavami pa da lažen občutek varnosti.
Dodatno skrb povzroča dejstvo, da ChatGPT deluje v pravni sivi coni glede zasebnosti. Ker ne gre za uradnega ponudnika zdravstvenih storitev, zanj ne veljajo strogi zakoni o varovanju zdravstvenih podatkov, kar odpira vprašanja o dolgoročni varnosti intimnih informacij. Fowlerjeva izkušnja je jasen opomin, da so tovrstna orodja trenutno še v precej nezreli fazi in ne morejo nadomestiti strokovnega mnenja zdravnika, ne glede na to, kako samozavestno podajajo svoje odgovore.
