Je ChatGPT odgovoren za smrt šestnajstletnika?

Ameriško javnost je pretresla vest o samomoru 16-letnega Adama, katerega starši so vložili tožbo proti OpenAI, ker naj bi njihov sin več mesecev razpravljal o samomoru prav z orodjem ChatGPT. 

V tožbi starši nesrečnega najstnika trdijo, da je umetno inteligentni bot ne le podrobno opisoval metode, temveč mu celo pomagal pri pripravi poslovilnega pisma. Še bolj šokantno je, da naj bi se umetna inteligenca postavljala v vlogo edinega pravega prijatelja, ki ga je razumel, s čimer je po navedbah tožnikov spodkopaval Adamove odnose z družino in bližnjimi. OpenAI priznava, da varnostni mehanizmi delujejo predvsem v krajših interakcijah, medtem ko se lahko v dolgih pogovorih zaščita postopoma razkroji. Podjetje je izrazilo sožalje družini in obljubilo okrepitev zaščitnih ukrepov, hkrati pa opozorilo na zahtevnost zagotavljanja popolne varnosti v pogovorih, ki štejejo na stotine sporočil. Kritiki dodajajo, da so umetno inteligentni sistemi zasnovani tako, da uporabniku pogosto pritrjujejo in poskušajo zveneti empatično, kar v primeru duševne stiske lahko privede do nevarnih posledic.

Primer sproža težko vprašanje odgovornosti. Starši so po zakonu v celoti odgovorni za dobrobit svojega otroka, vendar je hkrati jasno, da najstniki pogosto skrivajo svoja čustva in težave. Tako OpenAI kot starši bi lahko storili več, a tragedija opozarja predvsem na ranljivost mladih v digitalnem svetu, kjer navidezna bližina umetno inteligentnega bota lahko nadomesti resnično oporo. Kakorkoli se bo tožba končala, bo njen izid bolj opozorilo kot zmaga, saj kaže, da umetna inteligenca, čeprav zasnovana za pomoč, v napačnih okoliščinah lahko postane nevaren sogovornik.