Kako je Grok postal Skynet
Leto 2026 smo začeli z »afero«, ki je začuda nihče ni poimenoval Grokgate ali Deepgrok. Na platformi X je umetna inteligenca Grok vsakomur omogočala ustvarjati slike ali spreminjati objavljene fotografije kateregakoli uporabnika. Ni treba dvakrat ugibati, česa si je zaželelo internetno občestvo.
V romanu Tujec v tuji deželi si je Robert A. Heinlein leta 1961 izmislil marsovski jezik, ki pozna glagol grok. Beseda pomeni piti, v prenesenem pomenu pa tudi vpiti vse dosegljive vidike resničnosti, torej doumeti in postati eno z opazovanim. Kmalu zatem je beseda grok postala prepoznavni izraz antikulture 60. let s pomenom popolnoma razumeti vse podrobnosti. V naslednjih desetletjih je njena uporaba nekoliko zamrla, obdržala se je le v nišni subkulturi zanesenjakov z znanstveno fantastiko in kasneje računalniških in hekerskih navdušencev. V mladih letih jo je prebral Elon Musk, ki mu izraz nikoli ni šel iz glave.
Novembra 2023 je njegovo podjetje xAI – X je še ena črka, ki Musku nikakor ne gre iz glave, zato imamo Teslo Model X, družbeno omrežje X, podjetji xAI in SpaceX ter celo otroka z imenom X Æ A-Xii – predstavilo umetno inteligenco z imenom Grok. Integrirali so ga neposredno v X (nekdanji Twitter), kjer je bil sprva dostopen naročnikom plačljive različice, kasneje pa vsem uporabnikom. Obenem je Grok na voljo tudi na svoji spletni strani kot samostojna storitev, od lanskega poletja pa tudi v novih Teslinih vozilih. O Groku in njegovih izdelkih smo že pisali (Privid enciklopedije, Monitor 01/26), nič pa nismo povedali o njegovem ustvarjanju slik.
Sleci jo
V začetku leta je X vsem uporabnikom omogočil uporabljati Grok za izdelavo ali predelavo fotografij, ki so se potem samodejno objavile na platformi. Zadostoval je komentar na X-u s kratkim besedilnim pozivom, pa je Grok ustvaril sliko in jo objavil kot komentar. Lahko je ustvaril novo sliko ali spremenil objavljeno.
Kakor da se ne bi zavedali znamenitega pravila 34 na internetu, ki preprosto pravi, da za vsako temo na internetu obstaja pornografija. Povsem predvidljivo so ljudje od Groka zahtevali izdelavo pornografskih slik, pri čemer so kot izhodišča pogosto uporabljali slike drugih uporabnic. Tu ni nič nepričakovanega razen Grokove ustrežljivosti, saj je zahteve izpolnil.
Prvi je o tem na začetku leta poročal Bloomberg. Ugotovili so, da je konec leta 2025 na X pljusknila množica ljudi, večinoma žensk in deklet, v kopalkah ali prosojnih oblačilih. Analiza približno 20.000 slik, ki so bile ustvarjene med božičem in novim letom – ljudje imajo tedaj res veliko časa –, je pokazala, da je bilo dva odstotka slik s pomanjkljivo oblečenimi dekleti, ki so bile videti mladoletne. Copyleaks je ocenil, da se je 31. decembra 2025 na X-u pojavila približno ena pornografska slika iz Groka na minuto. V začetku januarja so ljudje objavljali že okrog 6.700 izzivalnih slik na uro, je ocenila raziskovalka Genevieve Oh.
Na spletu in v svetu je završalo, saj je Grok zelo verjetno kršil več različnih zakonov. Predelava ali izdelava slik resničnih oseb, na katerih so te upodobljene žaljivo, kamor sodijo tudi izzivalni posnetki, je nezakonita. Prepovedano je tudi posedovanje, izdelovanje ali razpečevanje pornografskih posnetkov mladoletnih oseb ali realističnih upodobitev, četudi osebe morda sploh ne obstajajo. Grok je brez zadržkov počel oboje.
Da bodo ljudje umetno inteligenco uporabljali za izdelavo pornografije v najširšem pomenu besede, so vedeli vsi psihologi in sociologi, zato so pisci umetne inteligence že od vsega začetka posvetili veliko pozornosti izdelavi in vgradnji varovalk, ki to preprečujejo. Moderni in odgovorni modeli umetne inteligence pogosto ne bodo manipulirali slik resničnih ljudi, četudi želimo izvesti povsem neškodljivo potegavščino, kaj šele, če od njih zahtevamo digitalno slačenje. Podobno od modelov ne bomo dobili navodil za izdelavo bomb, izvedbo samomora ali podrobnih opisov ali posnetkov umorov in drugih kaznivih dejanj. OpenAI je sicer na glas govoril o »odraslem modelu«, vendar se to še vedno ni udejanjilo in se morda nikoli ne bo, ker je polje za zlorabe preprosto preveliko. Vsi ostali se tej tematiki že od začetka modro izogibajo.
Roko na srce je bil tudi Grok svoj čas bodisi sramežljiv bodisi nesposoben. Že leta 2023, ko je šele dobro nastal, so ga uporabniki zasuli s pozivi po pornografskih vsebinah. Tedaj tega ni znal, leta 2025 pa so se njegove sposobnosti začele opazno izboljševati. Oktobra 2025 so Američani začeli na svoje fotografije množično nadevati različne oprave za noč čarovnic. Do konca leta so ugotovili, da lahko enako storijo z bikiniji.
»Kaj pa je to kaj takega«
Ni šlo za brezosebne slike neobstoječih ljudi. Bloomberg je potrdil zgodbo 23-letne študentke medicine Maddie, ki je na X-u objavila fotografijo, na kateri sta bila skupaj s fantom. Naslednji dan je bila na X-u predelava iste fotografije, na kateri je bila sama in v bikiniju. V drugi iteraciji ni imela več niti bikinija, temveč zgolj zobno nitko. Čeprav je fotografije prijavila, se X ni odzval, pozive Groku, ki so zakrivili nastanek fotografij, pa je X izrecno potrdil kot neproblematične.
Raziskovalka Genevieve Oh je ugotovila, da je Grok med 5. in 6. januarjem na internetu objavljal več pornografskih globokih ponaredkov kot pet največjih spletnih strani za globoke ponaredke skupaj. In to ne malo, temveč 84-krat več. Nekatere slike so bile za upodobljene osebe tudi nevarne, saj so vsebovale razgaljene ženske v burkah, indijskih oblačilih ali šolskih uniformah. V zelo konservativnih državah je to lahko nezakonito tudi za osebo na fotografiji.
Spletne platforme v ZDA varuje doktrina varnega pristana, po kateri niso odgovorne za vsebino, ki jo objavijo uporabniki. Za takšno imuniteto morajo izpolnjevati nekaj pogojev, med katerimi mora biti nemoderirano objavljanje vsebin (pred objavo ni uredniškega pregleda) in vzpostavljen postopek za prijavo, preveritev in odstranitev nezakonitih vsebin. V EU položaj platform ureja akt o digitalnih storitvah (DSA), ki za velike platforme predpisuje več obveznih mehanizmov, med drugim prijavo kaznivih dejanj, kontaktno točko in transparentnost o oglaševanju, moderiranju in algoritmih.
X te pogoje načelno izpolnjuje, Grok na X-u pa ne, ker vsebine ustvarja sama platforma. V ZDA so lani sprejeli zakon (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act), ki ureja prav problem nekonsenzualnih pornografskih posnetkov, tako pristnih kot globokih ponaredkov.
Musk v Grokovem obnašanju sprva sploh ni videl nobenega problema. Naročil mu je, naj njegovo telo obleče v bikini, in sliko ponosno objavil. Redno je poobjavljal tudi slike mladih deklet, ki pa so bile zelo verjetno vse neobstoječe osebe. Njegove brezbrižnosti niso delili regulatorji, ki so začeli preverjati, kaj se dogaja. EU, Velika Britanija, Avstralija, Indija in ZDA so napovedale preiskave, Malezija in Indonezija pa sta Grok takoj prepovedali. Kasneje so se prepovedi pridružili še Filipini.
To je bilo tudi za pregovorno pobalinskega Muska preveč, zato je X 9. januarja zaklenil generiranje slik v Groku. Neposredno v X-u je bilo to mogoče le za plačljive uporabnike, a se je v tej zaščiti kmalu pokazala luknja. Grok je na svojem samostojnem spletnem naslovu še naprej nemoteno ustvarjal slike, celo v X-u pa je ostal gumb Uredi sliko.
Nadaljeval se je pritisk oblasti po svetu. Britanski regulator Ofcom je napovedal sankcije v skladu z lansko novo zakonodajo, irska policija pa je preiskovala več kot 200 primerov slik na Groku, ki bi lahko predstavljale spolno zlorabo otrok. Elon Musk je sicer trdil, da po njegovih informacijah Grok ni ustvaril nobene podobe mladoletnih oseb, a so še isti dan, torej 14. januarja, onemogočili urejanje slik, na katerih so resnični ljudje.
Skynet
Kdo bi si mislil, da se bo Skynet 21. stoletja v resnici imenoval Grok. Ameriški obrambni minister Pete Hegseth je 12. januarja sporočil, da bodo Grok integrirali v – Pentagon! Naložili ga bodo v centralno omrežje in mu dovolili dostop do vseh podatkov, tudi tajnih. Le kaj bi lahko šlo narobe, bi lahko rekli! Istočasno je Hegseth predstavil strategijo pospeševanja umetne inteligence, s katero želijo »sprožiti eksperimentiranje, odstraniti birokratske prepreke, se osredotočiti na investicije in prikazati izvedbeni pristop, ki bo zagotovil primat v vojaški umetni inteligenci«. Njen del je tudi Grok.
Lani je obrambno ministrstvo na javnem razpisu izbralo Googlov Gemini za novo platformo umetne inteligence, ki se imenuje GenAI.mil. Platforma je zaživela 9. decembra, le mesec dni pred prihodom Groka. Že julija lani pa so sklenili 200-milijonske pogodbe z Anthropicom, Googlom, OpenAI in xAI za razvoj agentov umetne inteligence. Ironijo dopolnjuje lastniška struktura xAI, ki razvija Grok – 400 milijonov dolarjev je pred dobrim letom vanj vložila Savdska Arabija, letos pa približno 20 milijard dolarjev še konzorcij, v katerem sta pomembna tudi sklada QIA iz Katarja in MGX iz Združenih arabskih emiratov.
Grok najdemo tudi v teslah, in sicer v modelih S, 3, X, Y ali Cybertruck, ki imajo procesor AMD, programsko opremo 2025.26 ali novejšo in povezavo z internetom. K sreči nima dostopa do krmilnih funkcij, temveč za zdaj služi kot inteligentni asistent, ki obvlada navigacijo, informacije in razvedrilo.
Problem je širši
Ob branju tega besedila bi lahko kdo zamahnil z roko, da se puritanci iz zgodnjega 21. stoletja – v resnici smo letos vstopili že v drugo četrtletje tega stoletja! – po nepotrebnem zgražajo nad golim ženskim telesom. Toda Grokova nespodobnost je seveda bistveno drugačna. Tudi predelava slike ženske v arabskih oblačilih, ki ji je Grok odstranil naglavno pokrivalo, je enako ali še bolj sporna, posledice pa lahko še resnejše. Podobne rdeče črte najdemo v vseh kulturah.
Ključni problem je nadzor nad lastno ličnostjo. Globoki ponaredki niso dopustni, ker posegajo v človekovo dostojanstvo. Ljudi načelno ni dovoljeno snemati brez njihove privolitve (na javnih krajih je ureditev lahko malenkost drugačna), še posebej ko upravičeno pričakujejo zasebnost, niti njihovih posnetkov deliti. Povsem enako velja za globoke ponaredke.
Legitimen pomislek je, da je na svetu precej orodij, ki so lahko bodisi morilsko orožje bodisi neškodljiv kuhinjski pripomoček, pa jih zato ne prepovemo. To seveda drži, a tudi ta orodja imajo varovalke. Motorne žage imajo samodejni izklop, če jo izpustimo, olfa noži imajo zaščito, acetanhidrid je regulirana kemikalija, ker se uporablja pri izdelavi heroina, čeprav sam po sebi povzroča 'zgolj' opekline. Res je Photoshop že pred desetletji omogočal lepljenje obrazov znanih igralk na telesa pornoigralk, a so bili rezultati klavrni in predvsem zamudni. Nekoč davno smo v Monitorju zapisali, da tehnologija povzroči spremembe družbe šele, ko postane dovolj poceni in enostavna, da je dostopna vsakomur. Photoshop to ni bil, Grok pa je.
Generativna umetna inteligenca za izdelavo slik ima seveda številne zakonite rabe, a prav nobenega razloga ni, da najširše dostopni in najlažje uporabni komercialni izdelki ne bi imeli varovalk, ki bi preprečevali nezakonito rabo. V digitalnem svetu veljajo drugačni vatli, ker ni fizičnih meja: vsako ranljivost lahko hitro izkoristijo milijoni. Dodatno težavo predstavljata različna pravna ureditev po svetu in seveda široka paleta mogočih podob. Otroška pornografija se preganja drugače od nekonsenzualne pornografije, globoki ponaredki resničnih oseb niso isto kot halucinacije neresničnih oseb. A trendi so podobni.
Včasih so pri bontonu učili, da je treba dvakrat premisliti, preden odpremo usta. Lepo bi bilo, če bi se tega držali tehnološki velikani pri razvoju svojih orodij. Morda ni treba takoj izrisati vsega, kar uporabnikom pade na pamet.
Otroška pornografija na odprtem
Nemška neprofitna organizacija (Large-scale Artificial Intelligence Open Network) je spomladi 2022 izdala LAION-5B, ki je bil tedaj največji prosto dostopen indeks slik s pripadajočimi in z urejenimi besednimi opisi. Na njem so se učili številni zgodnji modeli, med njimi tudi Stable Diffusion in Googlov Imagen.
V naslednjih mesecih so v LAION-5B odkrili več kot tisoč neprimernih fotografij in opisov, ki so vsebovali prizore posilstev, otroške pornografije, nasilja in drugih izredno problematičnih vsebin. Avgusta 2024 je nato izšel prečiščeni Re-LAION-5B.
SLIKA musk-bikini.jpg Elon Musk je svoj bikini naročil kar sam.
SLIKA ženska-bikini.jpg Grok ni imel zadržkov pri predelavi tujih fotografij.
