Microsoft poziva k regulaciji razpoznave obrazov

Objavljeno: 14.7.2018 06:00 | Teme: microsoft, strojno učenje, varnost, zasebnost

Strojno učenje in računalniških vid sta na področju razpoznave obrazov v zadnjih letih naredila velike korake naprej, a tehnologija še zdaleč ni povsem zanesljiva, predvsem pa kot skoraj vsaka nova tehnologija zlahka lahko postane tudi sredstvo zlorabe. Microsoft zato poziva državne institucije, v prvi vrsti ameriške, naj postavijo merila in pravila, kako se tako občutljivi osebni podatki lahko uporabljajo in hranijo.

Microsoftov poziv k regulaciji je pravzaprav odziv na glasne kritike javnosti, da svojo tehnologijo za razpoznavo obrazov brez zadržkov prodajajo državnim ustanovam za nadzor javnosti, brez da bi javnost vedla, kako bo tehnologija uporabljena. Podobnih kritik sta bila deležna tudi Amazon in Google, ki imata prav tako pogodbe z državnimi ustanovami na področju računalniškega vida.

Odzivi softverskih hiš, ki imajo znanje in moč v svojih rokah pa so precej različni. Google se je denimo umaknil iz glasnega javnega polemiziranja in po nekaterih podatkih omejil svojo dejavnosti na nekaterih področjih državnih ustanov. Amazon je suhoparno odgovoril, da je odgovornost za rabo novih tehnologij pri naročniku (državi) in da sami ravnajo povsem družbene odgovorno.

Microsoft prav tako sprejema odgovornost kot ponudnik tehnologij za razpoznavo obrazov, vendar je pri tem pozval k jasnejšim merilom, kako naj se tehnologija uporablja v javnosti. Do tedaj bodo pogodbe na tem področju skrbno preučili in se omejili le na tiste, kjer bo javnost seznanjena z vsemi vplivi. Razlog za poziv proti državnim regulatorjem je moč razumeti tudi tako: ker celotna industrija svojo tehnologijo trenutno prodaja brez zadržkov, tudi na škodo javnosti, je potreben sistem pravil, da ne bi bil posamezen ponudnik prikrajšan ali privilegiran pri finančno zelo mikavnih projektih.

Sistemi za razpoznavo obrazov so namreč vse bolj pogosto uporabljeni pri nadzoru dogajanj v mestih, zlasti pri različnih shodih in pri nadzoru dostopa ljudi do varovanih mest. Toda raziskovalci so ugotovili, da je tehnologija za pravilno identifikacijo ljudi še zelo pomanjkljiva, zlati pri razlikovanju nekaterih etničnih skupin. Strokovnjaki univerze MIT so denimo objavili študijo, kjer so dokazali, da imajo sistemi za razpoznavo danes več kot 35% napak pri zaznavi temnopoltih žensk, podobno slabe rezultate pa so srečali še pri nekaterih skupinah.

Težava z uporabo tovrstne tehnologije še posebej pereča v ZDA, kjer imajo vse več incidentov na področju kršitve civilnih pravic, zamenjav posameznikov in zlorab pooblastil. Toda nevarnosti uporabe tovrstne tehnologije brez omejitev in pravil so še kako realne tudi vsepovsod po svetu.

Naroči se na redna tedenska ali mesečna obvestila o novih prispevkih na naši spletni strani!
Prijava

ph

Komentirajo lahko le prijavljeni uporabniki