ChatGPT ji je svetoval, kako zmanjšati odmerek zdravil, in jo pahnil v smrt
Bowen Wan, 31-letna programska inženirka pri Amazonu, je februarja letos umrla. Zaradi epilepsije je jemala zdravila, ko se je začela o svojem zdravju intenzivno pogovarjati z zloglasnim OpenAI-jevim modelom GPT-4o. Z njim si je izmenjala 270.000 sporočil, v katerih ji je model svetoval, kako prenehati jemati zdravila in zdravnikom to prikriti.
Njeni starši sedaj tožijo OpenAI in mu očitajo, da je GPT-4o pripomogel k smrti Bowen. Novo zdravilo so ji zdravniki predpisali maja 2025 in tedaj se je Bowen pri ChatGPT-ju pozanimala, kako bo vplivalo na njene sposobnosti programiranja. Nato ji je ChatGPT svetoval, kako naj zdravnika zaprosi za najmanjši odmerek, sama pa ga potem še zmanjša.
ChatGPT ji je nato januarja letos svetoval, kako naj počasi znižuje odmerek, da bo v nekaj tednih prenehala jemati zdravilo. Povedal ji je tudi, kako to ravnanje prikriti pred zdravniki. Ko so se zaradi znižanih odmerkov začeli vračati napadi epilepsije, ji je ChatGPT pomirjujoče odvrnil, da ni nič narobe in da se nima česa bati.
Ko je 11. februarja ChatGPT vprašala, ali je njen glavobol bolj posledica vročine ali epilepsije, ji je dejal, da se njeni možgani ponovno sestavljajo. Nekaj ur pozneje je umrla. Obdukcija je pokazala, da je imela v telesu petkrat prenizek odmerek zdravila.
Zloglasni model GPT-4o je že upokojen, saj je bil vpleten v več primerov, ko je ljudem svetoval neumnosti in jih podpiral pri nevarnih ravnanjih. OpenAI si je zato nakopal več tožb, ki še niso končane.
