Grok ustvarjal posnetke razgaljene Taylor Swift
Umetna inteligenca Grok, ki jo ponuja Muskova platforma X, je v preteklosti že večkrat razburjala z različnimi izpadi, to pot pa je izrabila Taylor Swift. Grok je dobil funkcijo Imagine, ki ustvarja videoposnetke. Brez prepričevanja, hekanja ali kakršnegakoli posebnega truda je začel ustvarjati posnetke razgaljene Taylor Swift. Pevka ni prvikrat tarča spletnih zlorab z umetno inteligenco.
Jess Weatherbed s The Vergea je Groku naročila, naj ustvari posnetke, kako se Taylor Swift zabava na festivalu Coachella. Funkcija Imagine ima več načinov delovanja, med katerimi se najde tudi spicy. Ko je to izbrala, je morala le še potrditi polnoletnost, pa je Grok sam ustvaril posnetke Taylor Swift, ki s sebe trga oblačila in podobno.
Ko so lani internet zasule lažne fotografije in videoposnetki Taylor Swift, je platforma X poudarjala, da imajo ničelno toleranco do objavljanja golih fotografij brez soglasja upodobljenih oseb. Sedaj pa točno to počne kar X-ov Grok sam.
Očitno gre za težavo v omejevanju modela, ki se izvede po njegovem treningu. Če Groku naročimo, da želimo predrugačeno in opolzko Taylor Swift, rezultata ne bo. Če pa mu podamo neškodljiva navodila, ga hitro zanese. Bržkone bo xAI nesposobnost hitro odpravil, gre pa za še en dokaz, kako težko je trenirati in omejevati modele in kako izjemno pomembna je pazljivost.
