Googlova umetna inteligenca nam svetuje naj damo lepilo na pico

Googlov iskalnik, podprt z umetno inteligenco, je z nevarnimi in napačnimi nasveti uporabnikom povzročil nekaj nepričakovanih težav.

Umetna inteligenca Search Generative Experience (SGE), ki uporabnikom Googlovega iskalnika postreže s povzetki iskalnih rezultatov, je večkrat precej brcnila v temo. Med najbolj skrb vzbujajočimi primeri so nasveti, kot je uživanje kamenja, lepilo na pici in kajenje med nosečnostjo. Kris Kashtanova, AI evangelistka pri podjetju Adobe, je poročala, da ji je SGE svetoval uživanje vsaj enega majhnega kamna na dan, kar je napačno interpretirano iz satiričnega članka The Onion. Drugi primeri vključujejo nasvete, da se na pico doda netoksično lepilo za preprečitev drsenja sira ali trditev, da je Barack Obama bil prvi muslimanski predsednik ZDA, kar ni res.

Google se brani, da so ti primeri redki in niso reprezentativni za večino uporabniških izkušenj. Podjetje trdi, da večina AI povzetkov zagotavlja kakovostne informacije s povezavami za nadaljnje raziskovanje in da so ukrepali ob najmanjših kršitvah njihove politike. Kljub temu pa so takšne napake zaskrbljujoče, saj lahko prispevajo k širjenju napačnih informacij. Primeri, kjer SGE spodbuja nevarne ali napačne prakse, kažejo na potrebo po natančnejšem preverjanju in izboljšanju sistema, da bi se izognili širjenju škodljivih nasvetov.