Žena Stevea Wozniaka je vredna manj kot on, pravi Applov algoritem

Applova nova kreditna kartica, ki jo izdaja banka Goldman Sachs, ženskam odobri tudi 20x nižji kredit kot moškim, poročajo nekateri znani uporabniki. Med njimi je tudi Steve Wozniak, soustanovitelj Appla.

Kot kaže, je Apple (ali Goldman Sachs) delo z uporabniškimi računi na kartici Apple Card prepustil algoritmu (»umetni inteligenci«), ta pa drugače obravnava moške in ženske. Newyorška finančna uprava (Department of Financial Services (DFS)) je zato sprožila preiskavo in opozarja, da je vsaka diskriminacija protizakonita, ne glede na to, ali je zanjo kriv človek ali algoritem.

Steve Wozniak, soustanovitelj Appla, se je na Twitterju pridružil pritožbenikom z besedami, da imata z ženo skupno premoženje in skupen račun, pa je sistem njemu vseeno odobril 10x višji kredit kot ženi.

• Applova kreditna kartica ima ostre pogoje uporabe

Iz banke Goldman Sachs so za Bloomberg komentirali, da ne gre za diskriminacijo, ampak da »sistem kredite odobrava glede na kreditno sposobnost posameznika«. Apple Card je prva kreditna kartica te banke. Apple hkrati na svoji spletni strani pravi, da je to nov tip kartice, ki jo je naredil Apple »in ne banka«.

Diskriminacija algoritmov sicer ni nova – tudi ameriški zdravstveni velikan UnitedHealth Group je trenutno v preiskavi, ker je njihov algoritem menda favoriziral belce, temnopolte stranke pa zapostavljal.