OpenAI letos zabeležil 80-krat več primerov zlorabe otrok
OpenAI mora ameriškemu Centru za pogrešane in zlorabljene otroke (NCMEC) redno poročati o incidentih, ki jih zaznajo njihovi algoritmi in sistemi za preprečevanje zlorab otrok. Podatke razkrivajo tudi javnosti; te dni so objavili statistiko prvega letošnjega polletja. Statistika je grozljiva.
Od januarja do konca junija so prijavili 75.000 primerov, medtem ko jih je bilo lani manj kot tisoč. Številki nista povsem primerljivi, saj lahko posamezno poročilo vsebuje več incidentov ali pa se en incident poroča večkrat, a groba primerjava je smiselna. Primerov je letos opazno več kot lani.
Tiskovna predstavnica podjetja Gaby Raila je pojasnila, da so konec minulega leta uvedli več sprememb, ki izboljšujejo prepoznavanje in prijavljanje zlorab. Letos so povečali tudi število izdelkov, kar omogoča več možnosti za zlorabe. Dodajmo, da so v drugi polovici leta – teh podatkov še ni – izdali tudi Soro za ustvarjanje videoposnetkov.
OpenAI prijavlja vse vrste CSAM, torej otroške pornografije. Gre tako za nalaganje nezakonitih vsebin kot tudi za generiranje besedil in slik. Vstopne točke so spletni klepetalnik in API.
NCMEC na splošno beleži porast prijav iz vseh virov, ne le iz OpenAI. Od leta 2023 do 2024 je bila rast 1300-odstotna, letos pa bo verjetno še višja.
