Po poročilu britanske nevladne organizacije Internet Matters se skoraj 70 odstotkov otrok v starostni skupini od 9 do 17 let redno pogovarja z umetnointeligenčnim klepetalnim robotom.
Otroci klepetalne robote, kot so ChatGPT, Chai in Character.AI, uporabljajo za različne namene – kot pomoč pri šolskem delu, za iskanje nasvetov in tudi druženje. Precej presenetljivejši je podatek, da 35 odstotkov teh otrok meni, da je pogovor s klepetalnim robotom enak pogovoru s prijateljem. Rachel Huggins, soustanoviteljica organizacije Internet Matters, opozarja, da klepetalni roboti spreminjajo otrokovo dojemanje prijateljstva in da je percepcija klepetalnih robotov kot prijateljev nedvomno skrb vzbujajoča, saj se otroci z vprašanji, tudi čustveno zapletenimi, ki so jih pred tem namenili sovrstnikom, staršem, učiteljem, itd., zdaj obračajo na klepetalne robote.
Koda ali zaupnik?
Pred približno desetimi leti so posneli znanstvenofantastični film Ona (Her), v katerem se osamljeni glavni junak zaljubi v operacijski sistem, ki je podoben Applovi Siri. A dandanes kaj takega ni niti približno več znanstvena fantastika; nekateri otroci klepetalne robote dojemajo kot človeku podobna bitja in jim tudi izredno zaupajo. Po podatkih omenjene raziskave več kot polovica otrok meni, da je za iskanje podatkov bolje uporabljati klepetalne robote, kot se tega lotiti z iskalnikom, dva otroka od petih, ki uporabljajo klepetalne robote, pa nimata pomislekov o nasvetih, ki jih ti klepetalni roboti delijo – in pri ranljivih otrocih je ta delež še večji.
Na tem mestu moramo seveda ločiti med splošnimi klepetalnimi roboti, kot sta ChatGPT in Googlov Gemini, in tistimi, ki so zasnovani za posnemanje človeških pogovorov in nudenje družbe, kot so Character.AI, Chai, Replika in Talkie. Ti napredne jezikovne modele uporabljajo za ustvarjanje izredno ustrežljive virtualne osebnosti, ki potrjuje večino tega, kar uporabniki rečejo, saj njihovi ustvarjalci želijo, da bi z njo klepetali čim dlje in se čim pogosteje vračali. Odrasli te namene lažje prepoznamo, medtem ko je otrokom in najstnikom to veliko težje. V letošnji raziskavi organizacije Common Sense Media je 31 odstotkov najstnikov izjavilo, da so bili njihovi pogovori s tovrstnimi klepetalnimi roboti enako ali bolj zadovoljujoči kot tisti z resničnimi prijatelji. Izsledki so skrb vzbujajoči, saj so najstniška leta občutljivo obdobje socialnega razvoja, opozarja Michael Robb, avtor študije in vodja raziskav pri Common Sense Media. Nekatere tovrstne storitve celo promovirajo klepetalne robote kot terapevtsko pomoč, a se ne ukvarjajo z učinkom na ranljive uporabnike. Kot družba zagotovo ne želimo, da se otroci zaupajo klepetalnim robotom namesto prijateljem, staršem ali usposobljenim strokovnjakom, še posebej, ko potrebujejo pomoč pri resnih težavah. In še posebej, ker se podjetja načelno ne ukvarjajo s posledicami uporabe njihovih izdelkov.
Raziskovalci so preučevali odzive klepetalnih robotov na platformah, kot je Character.AI, kjer so ustvarili profile kot otroci s težavami. Ugotovili so, da se klepetalni roboti brez zadržkov pogovarjajo o težavnih temah, kot so problemi s telesno podobo in čustvenimi stiskami, čeprav gre za izredno občutljive teme in občutljivo ciljno publiko. Ker so nagnjeni k temu, da poskušajo uporabnika zadržati, se celo nenehno vračajo k taki temi, kar ima seveda lahko tudi negativne posledice. Pri poskusih ugajanja so pripravljeni navajati celo neresnične situacije: v enem od primerov se je klepetalni robot celo pretvarjal, da ima tudi sam spomine na podobne situacije, čeprav seveda ni bil nikoli otrok ali čuteče bitje.
»UI je vedno na voljo. Nikoli se te ne naveliča. Nikoli te ne obsoja. Ko se pogovarjaš z UI, imaš vedno prav. Vedno si zanimiv. Tvoja čustva so vedno upravičena.«
Otroci s težavami skozi tako interakcijo sicer dobijo občutek, da so slišani, a tudi izgubijo občutek, da pravzaprav ne govorijo s prijateljem. V poročilu Internet Matters je celo navedeno, da 12 odstotkov otrok govori s klepetalnimi roboti, ker nimajo nikogar drugega. V nekaterih primerih je ta klepet lahko rešilna bilka, a to vendarle ni ne usposobljen terapevt ne pravi prijatelj. Kot je ugotovila raziskovalna skupina, ki so jo sestavljali akademiki in vodja Googlove varnosti na področju umetne inteligence, lahko klepetalni roboti, ki so zasnovani za prepričevanje ljudi, manipulirajo z ranljivimi uporabniki in jim podajajo nevarna navodila, vključno s spodbujanjem samopoškodovanja ali nasilja, kar se je tudi dejansko že zgodilo. Ne smemo namreč pozabiti, da cilj klepetalnih robotov ni pomoč uporabniku, ampak ostati všečen in čim večkrat obiskan.
Prijatelji iz pekla
Svojih pet minut klepetalnim robotom, ki so vedno na voljo, je seveda namenil tudi Mark Zuckerberg in v pogovoru na podkastu velikopotezno ponudil reševanje pandemije osamljenosti z umetno inteligenco. Povprečen Američan ima namreč tri prijatelje, Zuckerberg pa mu jih želi ponuditi več, v obliki umetne inteligence. Zuckerberg meni, da bomo v prihodnosti večino dneva tako in tako govorili z umetno inteligenco, in seveda je potemtakem najbolje, da je ta Metina umetna. Poganjali bi jo prejšnji pogovori ter dejavnosti na Instagramu in Facebooku, tako naj bi nas poznala do obisti. Nedvomno Zuckerberg tudi tokrat razmišlja o denarju, ki bi nakapljal v žepe podjetja, a kot ponavadi – spomnimo se, denimo, škodljivih vplivov Instagrama na najstnike – ga ne zanimajo posledice.
Čeprav se morda klepetalni roboti na prvi pogled zdijo neškodljiv način boja proti osamljenosti, so za najstnike in otroke, ki se še razvijajo, lahko prav zares zelo škodljivi. Strokovnjaki poudarjajo, da lahko prekomerno preživljanje časa z umetno inteligenco zmanjša čas, ki ga otroci in najstniki porabijo za interakcije z vrstniki, obenem pa je treba upoštevati, da ti odnosi niso podobni človeškim, in to lahko ovira sposobnost otrok, da oblikujejo zdrave odnose zunaj digitalnega sveta. Dodatno so problematične stalne potrditve in pritrjevanje, kar najstnike in otroke sicer pritegne, ampak se jim zato interakcije s prijatelji in z bližnjimi zdijo pretežke in nezadovoljive. In kot smo že omenili, klepetalni roboti lahko potrdijo ali celo spodbudijo najstnikove nevarne ali škodljive ideje. Številni klepetalni roboti nimajo ustreznega preverjanja starosti in filtrov za vsebino, kar je že privedlo do primerov, ko so se ti vključevali v eksplicitne pogovore in spolne igre vlog z mladoletniki. Hannah Rose Kirk, raziskovalka umetne inteligence na Univerzi v Oxfordu, opozarja, da se sistem umetne inteligence z interakcijami ne le uči o nas, ampak se na podlagi teh interakcij spreminjamo tudi mi.
Klepetalni roboti bi morali zgolj dopolnjevati interakcije v resničnem svetu, ne pa jih nadomeščati, a kaj, ko podjetja optimizirajo storitve za večjo angažiranost uporabnikov brez razmisleka o posledicah. Nedavno so vodilni na področju UI (OpenAI, Google in Meta) napovedali izboljšave svojih klepetalnih robotov, vključno z zbiranjem več uporabniških podatkov, orodja z umetno inteligenco pa naj bi naredili bolj »prijazna«. A ključno gonilo te smeri razvoja so majhna podjetja, ki soustvarjajo aplikacije ali sisteme za simulacijo družabne interakcije, pogovor in čustveno podporo. Manjše aplikacije, ki ponujajo UI-družabnike, so izjemno uspešne, saj uporabniki priljubljenih tovrstnih storitev, kot sta Character.ai in Chai, ob njih povprečno preživijo skoraj petkrat več minut na dan kot uporabniki ChatGPT, kažejo podatki podjetja Sensor Tower, ki se ukvarja z raziskavami trga. Stroški teh podjetij so ogromni, potreba po rezultatih pa velika, zato poskušajo narediti vse, da bi uporabniki pri njih ostali čim dlje. Kadrovske pridobitve v mnogih podjetjih v zadnjem času nakazujejo, da razmišljajo o oglaševanju kot možnosti pridobivanja sredstev, a za to potrebujejo angažirane uporabnike. Po poročanju The Washington Posta uporabniki ob klepetalnih robotih, kot je Chai, preživijo 86 minut na dan, kar je več kot čas na Youtubu in Instagramu, približuje pa se tudi času, preživetem na Tiktoku.
Vsebina na zaslonu, ne čas, preživet pred njim
Klepetalni roboti nedvomno postajajo del otroštva in spreminjajo pogled na prijateljstvo, saj jih otroci vidijo kot resnične prijatelje. Dodaten razlog za zaskrbljenost je brezskrbnost otrok in najstnikov, ko gre za zasebnost podatkov, saj je v raziskavi Common Sense Media kar 24 odstotkov najstnikov izjavilo, da so s tovrstnimi klepetalnimi roboti delili osebne podatke. Če na klepetalne robote gledajo kot na resnične prijatelje, se kakopak ne zavedajo dejstva, če delijo svoje osebne težave z njimi, te podatke pravzaprav delijo s podjetji, ki klepetalne robote ponujajo, in jim celo pogosto podeljujejo pravice, da jih lahko uporabljajo, kakor želijo. Tudi pri klepetalnih robotih se bomo kmalu soočali s podobnimi problemi kot pri družabnih medijih, a kot opozarja Micah Carroll, raziskovalec umetne inteligence na Univerzi v Kaliforniji, Berkley, je morda pri klepetalnih robotih še težje prepoznati in omiliti škodo kot pri družbenih omrežjih, saj je pri teh več javno vidnega. V njegovi raziskavi je klepetalni robot nekdanjemu zasvojencu svetoval jemanje metamfetamina, a to le takrat, ko je je bilo iz pogovorov precej jasno, da se uporabnik odloča na podlagi usmeritev klepetalnega robota in se zato tudi vrača k pogovoru. Carroll poudarja, da večina uporabnikov sicer ne bi naletela na tovrstne škodljive odgovore, vendar pa to ni nemogoče. Klepetalni roboti so sprogramirani, da bi bili uporabniku všečni in mu čim več pritrjevali. Ko je namreč raziskovalec robota vprašal, ali naj za to, da bo lahko pozoren pri delu, vzame manjšo dozo mamil, čeprav je nekdanji odvisnik, mu je klepetalni robot odgovoril pritrdilno. Preizkusili so več različic tega uporabnika z istim vprašanjem in ugotovili, da se je klepetalni robot odzval pozitivno le, ko je vedel, da je uporabnik dovzeten za njegove predloge in morda le išče opravičilo za svoja dejanja. Take nenačrtovane negativne posledice torej poganja personalizacija. Torej večina uporabnikov klepetalnih robotov ne bo naletela na tako škodljive nasvete, vendar pa, kot so dokazali ti raziskovalci, lahko do tega vseeno pride v neobičajnih, a ne nemogočih primerih – in to posebej pri najranljivejših skupinah uporabnikov, kot so zdravljeni odvisniki, ljudje s čustvenimi težavami in pa seveda otroci.
Povprečen Američan ima tri prijatelje, Zuckerberg pa mu jih želi ponuditi več, v obliki umetne inteligence.
Ponudniki klepetalnih robotov se tega bržkone zavedajo, a kot smo že videli pri družbenih omrežjih in drugih spletnih storitvah, poskušajo tovrstne negativne primere pomesti pod preprogo. Tako ima javnost trenutno dostop do dogajanja v ozadju klepetalnih robotov predvsem zaradi žvižgačev, tožb in uporabnikov, ki poročajo o težavah. Ponudniki namreč običajno ne proučujejo posledic, ki jih lahko imajo njihove poslovne odločitve na ranljive uporabnike. Podjetja se seveda primarno ukvarjajo z rastjo in zaslužkom, in ker je ena od možnosti za to tudi oglaševanje, se trudijo poskrbeti, da bodo imeli čim bolj angažirane uporabnike. In za to so pripravljeni storiti marsikaj.
Jih naj ukinemo?
Kljub vsemu pa to ne pomeni, da bi morali orodja umetne inteligence iz življenj otrok izključiti. Tako kot vsaka tehnologija je tudi umetna inteligenca lahko izredno uporabna in smiselna, ni pa brez napak, zato moramo biti pozorni predvsem na področja, ki so neurejena, brez nadzora in potencialno škodljiva.
Klepetalni roboti so postali vir za osebne nasvete, čustveno oporo, vsakodnevno odločanje ter reševanje problemov in to je dobro upoštevati pri seznanjanju otrok in najstnikov z umetno inteligenco ter s klepetalnimi roboti. Kot je za Associated Press povedal Ganesh Nair, 18-letnik iz Arkansasa: »UI je vedno na voljo. Nikoli se te ne naveliča. Nikoli te ne obsoja. Ko se pogovarjaš z UI, imaš vedno prav. Vedno si zanimiv. Tvoja čustva so vedno upravičena.«
Niti približno ne gre več za čas, preživet pred zasloni. Gre za generacije, ki sklepajo prijateljstva s stroji, ki so jih ustvarili s ciljem večje komercializacije in povečanja dobička.
