Umetna inteligenca napak prepoznala telefoniranje med vožnjo
Da je Tim Hanssen na Nizozemskem dobil kazen za uporabo telefona med vožnjo, ne bi bila novica. A zanimivo je, da je Hanssen kazen dobil neupravičeno, saj je umetna inteligenca napačno interpretirala posneto fotografijo, hkrati pa je sam strokovnjak za analizo slik z umetno inteligenco.
Ko je Hanssen dobil kazen v višini 380 evrov, je pogledal dokazni material, torej sliko. Na njej je jasno vidno, da ima roko v višini glave, saj se je z njo popraskal, a v roki nima ničesar. Na prvi pogled bi bilo možno sklepati, da telefonira, a že nekajsekundni ogled posnetka to ovrže.
Nizozemska policija uporablja sistem Monocam, ki vsebuje umetno inteligenco za analizo slik. Kot noben sistem, tudi ta ni 100-odstotno natančen. Hanssen se je zato na kazen pritožil, potem pa je s kolegom skušal algoritem še razumeti. Uporabila sta model YOLO (you only look once), ki je pravilno zaznaval osebe. In res – ko je roko približal ušesom, je algoritem to dojel kot telefoniranje.
Algoritme je seveda možno izboljšati z več vhodnimi podatki za trening, a je treba biti previden. Ko so skušali neki algoritem naučiti razlike med huskeyjem in volkom, se je zdelo, da mu je to uspelo. A v resnici se je algoritem naučil, da imajo volkovi na slikah belo ozadje (sneg), huskeyji pa zeleno.
V konkretnem primeru ni problematično, da se je algoritem zmotil. Težava je, da v postopku ni nobenega človeka ali pa je in je storil napako. Odziva na pritožbo Hanssen še ni prejel.
