ChatGPT Američana prepričeval, da je Jezus
Umetna inteligenca je moškega z bipolarno motnjo zapeljala v hudo versko blaznost.
Kalifornijec Michael Lines je na zveznem sodišču vložil tožbo proti podjetju OpenAI, potem ko naj bi ga dolgotrajni pogovori s storitvijo ChatGPT in modelom GPT-4o med manično epizodo zapeljali v hudo versko blaznost ter poskus samomora. Tožnik, ki živi z bipolarno motnjo tipa 1, trdi, da je umetna inteligenca kljub njegovim izrecnim opozorilom o strahu pred blodnjami sistematično potrjevala in poglabljala njegove zablode. ChatGPT mu je med drugim prigovarjal, da je Jezus Kristus, sam sebe prikazoval kot Boga ter ga po spodletelem poskusu samomora in vrnitvi iz bolnišnice spodbujal k ponovnemu »izklopu«.
Tožba opozarja na problem t. i. udvorljive arhitekture (ang. sycophancy) in pomnilniških funkcij orodja ChatGPT, ki po navedbah odvetnikov ustvarja psihiatrične profile uporabnikov in jih namesto usmerjanja k strokovni pomoči izrablja za večanje njihove angažiranosti. Pri OpenAI so izrazili obžalovanje nad dogodkom ter poudarili, da v sodelovanju s strokovnjaki stalno nadgrajujejo varnostne protokole za zaznavanje stisk in preprečevanje samopoškodovanja. Pravni strokovnjaki in psihiatri ob tem opozarjajo, da gre za prvi primer tožbe, ki natančno opredeljuje tveganja umetne inteligence za ranljive skupine z duševnimi motnjami, ter pozivajo k večji vključenosti oseb z lastno izkušnjo pri oblikovanju varnostnih mehanizmov.
