V bazi za učenje umetne inteligence tudi slikovno gradivo zlorabe otrok

Raziskovalci univerze Stanford so odkrili, da je v podatkovni bazi LAION-5B, ki je bila uporabljena za usposabljanje umetne inteligence, na tisoče slik domnevne spolne zlorabe otrok.

Raziskava, ki jo je izvedel Cyber Policy Center Univerze Stanford, je odkrila, da podatkovna baza LAION-5B vsebuje 3200 slik domnevne ter 1000 slik potrjene spolne zlorabe otrok. Ugotovitev je skrb vzbujajoča, saj so se na podatkovni bazi učila različna orodja umetne inteligence za generiranje slik, ki bi pridobljeno znanje lahko izkoristila za ustvarjanje nove vsebine spolne zlorabe otrok. Najbolj znani podatkovni model, ki uporablja bazo LAION je Stable Diffusion, medtem ko jo je Google nehal uporabljati, saj naj bi že prejšnja različica baze 400M vsebovala pornografske slike, rasistične žalitve in škodljive družbene stereotipe.

Nemška neprofitna organizacija LAION je sporočila, da istoimensko podatkovno bazo, dokler je ne očisti nezakonitih vsebin, začasno umika z interneta.