Zakaj Microsoftova umetna inteligenca v EU (še) ne bo zdravila
Microsoft v ZDA vstopa na področje digitalnega zdravja s storitvijo Copilot Health. Vizija podjetja iz Redmonda je drzna: umetna inteligenca naj bi postala osebni zdravstveni svetovalec, ki bo bdela nad uporabnikovimi podatki 24 ur na dan. Storitev bo uporabnikom omogočila združitev podatkov iz nosljivih naprav, kot so Apple Watch, Oura in Fitbit, z uradnimi bolnišničnimi kartotekami in laboratorijskimi izvidi v enoten, varen digitalni prostor. Microsoft napoveduje dobo, ko bo umetna inteligenca analizirala te podatke in ponujala prilagojene vpoglede ter "proaktivne spodbude" za boljši življenjski slog.
Vendar se za napovedjo tovrstne bleščeče prihodnosti skriva pravna past. Microsoft se namreč trudi hoditi na robu odgovornosti; čeprav bo Copilot analiziral simptome, kar počne že vsak peti uporabnik v pogovorih z AI, podjetje poudarja, da ne gre za medicinske nasvete, temveč za spodbujanje splošnega dobrega počutja. S tem se poskušajo izogniti strogi zakonodaji, ki velja za medicinske pripomočke.
V Evropski uniji takšna strategija izogibanja odgovornosti skoraj zagotovo ne bo uspešna. Glavna ovira je novi Akt o umetni inteligenci (AI Act), ki storitve umetne inteligence na področju zdravstva uvršča med sisteme visokega tveganja. EU ne bo dopustila semantičnega razlikovanja med "nasvetom" in "vpogledom". Če sistem analizira biometrične podatke in zdravstvene kartoteke za namen diagnosticiranja ali napovedovanja zdravstvenih stanj, samodejno zapade pod stroge pogoje certifikacije.
Poleg tega Splošna uredba o varstvu podatkov (GDPR) zdravstvene podatke uvršča med posebne kategorije podatkov, pri katerih je privolitev za obdelavo s strani algoritmov umetne inteligence izjemno težko pridobiti na način, ki bi Microsoftu omogočal masovno učenje modelov.
Da bi Copilot Health sploh lahko zaživel v Evropi, bi moral Microsoft popolnoma spremeniti svoj pristop. Namesto izmikanja bi morala storitev prevzeti polno odgovornost in pridobiti certifikat medicinskega pripomočka (CE oznaka). To bi zahtevalo popolno transparentnost algoritmov, dokazano klinično natančnost in strog nadzor nad pristranskostjo podatkov.
