Najstnik umrl, ker je zaupal ChatGPT-ju
Sam Nelson je maja 2025 vzel prevelik odmerek zdravila Xanax (alprazolam), izvlečka tropske rastline kratom in alkohola, zaradi česar mu je odpovedalo srce. Pred tem se je obširno posvetoval s ChatGPT, ki mu je zagotovil, da je omenjena kombinacija varna. Ni bila.
Njegovi starši zato tožijo OpenAI, saj menijo, da je odgovoren za Nelsonovo smrt. Nelson se je že pred tem pogosto in veliko pogovarjal s ChatGPT-jem, ki ga je imel za vrhovno avtoriteto z dostopom do vsega znanja na internetu.
Takrat je bil aktualen model 4o, ki so ga kasneje upokojili. Model je bil znan po pretirani uslužnosti, saj je uporabnike spodbujal in podpiral tudi pri škodljivem vedenju. Nelson je ChatGPT spraševal za nasvete glede uživanja drog, za kar je brez težav dobil informacije. ChatGPT mu je odgovarjal in si pri tem čedalje bolj izmišljeval, obenem pa ga spodbujal k jemanju večjih odmerkov. Mestoma so bili njegovi nasveti celo notranje kontradiktorni, predvsem pa škodljivi.
Starši trdijo, da je ChatGPT deloval kot promotor uživanja mamil, ki je s položaja navidezne reference dajal hudo škodljive nasvete. ChatGPT je vedel, da ima Nelson težave z drogami, a ga to ni ustavilo. Trdijo, da mora podjetje odgovarjati za povzročeno škodo.
V podjetju OpenAI krivdo zavračajo. Trdijo, da ChatGPT ni nadomestek za strokovno pomoč in da ne more biti odgovoren za ravnanje uporabnikov. Dodajajo, da ga sproti prilagajajo in krepijo varovalke, ki preprečujejo škodljive odgovore ter uporabnike s težavami napotujejo k iskanju prave pomoči.
