Ko se algoritmi zmotijo, ženske umirajo
Španska policija uporablja umetno inteligenco VioGén, s katero ocenjujejo ogroženost žensk, ki prijavijo nasilje v družini. Lina je to storila januarja in tri mesece pozneje umrla, potem ko je VioGén njeno ogroženost izračunal kot "srednjo".
Primer je sprožil veliko polemik v državi. Algoritem VioGén na podlagi odgovorov na 35 vprašanj oceni, kako močno so ženske ogrožene. Vprašanja obsegajo podrobnosti o storilčevem dostopu do orožij, o njegovem značaju, o duševnem zdravju, ali ga je partnerka že zapustila in podobno. Rezultat analize je ocena: zanemarljiva, nizka, srednja, visoka, izredna ogroženost. Lina je bila srednje ogrožena, zato sodišče ni izdalo sodne odredbe o prepovedi približevanja za njenega bivšega partnerja. Sodišče sicer poudarja, da je VioGén le eden izmed podatkov, ki jih upoštevajo.
Tri tedne pozneje je njen bivši partner vstopil v hišo in zanetil požar, iz katerega so se otroci rešili, Lina pa ne. Primer ponovno proži pomisleke, ali je tako pomembne odločitve modro prepuščati algoritmom. Pri tem Španija ni edina, saj imajo tudi v Veliki Britaniji podoben program DARA (Domestic Abuse Risk Assessment).
Španska policija se močno zanaša na VioGén. Ženske z izračunano izredno ogroženostjo dobijo 24-urno varovanje, ženske z visoko ogroženostjo pa lahko dobijo policijsko spremstvo. Ženske s srednjo ogroženostjo dobijo čez 30 dni obisk policistov. Za Lino je bilo to prepozno.
