Grok uporabnikom omogočil razgaljanje žensk in deklet, obetajo se preiskave in kazni

Nova funkcionalnost v umetni inteligenci Grok, ki je integrirana v Muskovo omrežje X, že od začetka leta buri duhove. Konec minulega leta je pridobila možnost urejanja poljubnih slik, ne le tistih, ki jih naložijo uporabniki sami. Internet ne bi bil internet, če ne bi ljudje tega takoj uporabili za izdelavo bolj ali manj razgaljenih slik žensk in deklet. Tudi premladih deklet.

Regulatorji po celem svetu so privzdignili obrvi, ker se je Grok nenadoma začel množično uporabljati za izdelavo nekonsenzualnih globokih ponaredkov in celo otroške pornografije. Britanski regulator Ofcom je dejal, da so od X in xAI zahtevali pojasnila, kako bodo kršitve zakonodaje nemudoma ustavili. Evropska komisija je orodje označila kot nezakonito in grozljiv, napovedala je podrobno preiskavo. Tudi ameriško pravosodno ministrstvo je napovedalo podroben pregled.

• Umetna inteligenca Grok na voljo vsem uporabnikom X-a
• Grok ustvarjal posnetke razgaljene Taylor Swift

Tudi ko je bilo jasno, kako se Grok zlorablja, X ni ustavil njegovega delovanja in teden dni pozneje se še vedno uporablja za slačenje žensk in deklet. Seveda je možno sleči tudi moške, a iz zelo predvidljivih razlogov je tovrstnega početja neprimerljivo manj.

Raziskovalci in preiskovalci so odkrili več sto neprimernih slik, pojavljajo se tudi videoposnetki. Podjetje xAI sicer v pogojih uporabe prepoveduje zlorabo otrok in naj bi poskušalo uvesti varovalke, a te očitno ne delujejo. OpenAI in Google sta problem rešila tako, da njuna orodja preprosto ne dovoljujejo izdelavo erotičnih podob. X je to dovolil, rezultati pa so grozljivi.

Evropska komisija je od X že zahtevala, da ohranijo vso dokumentacijo, ki se nanaša na X, ker jo bodo preiskali. To je veljalo do konca leta 2025, sedaj pa so rok podaljšali še za leto dni.