Odvetnik uporabil ChatGPT in predlagal neobstoječe sodbe
Pred ameriškim sodiščem se je zgodil zanimiv zaplet, ko je odvetnik sodišču predložil zahtevek, ki se je skliceval na dvanajst neobstoječih primerov sodne prakse. Ko je sodnik zahteval pojasnilo, kaj se je zgodilo in zagrozil s kaznijo, je odvetnik skesano priznal, da je pri raziskavi uporabljal ChatGPT.
Potnik, ki je s prevoznikom Avianca letel iz El Salvadorja v New York, se je med poletom poškodoval. Eden izmed članov posadke naj bi ga z vozičkom za strežbo zadel v koleno, zato je pozneje tožil zoper prevoznika. Ta je dejal, da je zahtevek že zastaral in sodišču predlagal, da ga zavrže, na kar se je odzval tožnikov odvetnik z deset strani dolgim zahtevkom.
Ta je bil sicer napisan na prvi pogled verodostojno, a ko so ga odvetniki Aviance začeli pregledovati, so v njem odkrili primere, ki jih niso mogli najti v arhivih. Kot strokovnjaki za tožbe v povezavi z letalskim prometom so bili skeptični do argumentacije in predvsem do neobstoječih referenc. Sodišče je zato odvetnike tožnika pozvalo k pojasnitvi.
Steven Schwartz iz odvetniške pisarne Levidow, Levidow & Oberman je pojasnil, da čeprav je pod zahtevek podpisan njegov kolega, ki ima pravosodni izpit za zastopanje pred zveznim sodiščem, je dokument v resnici pripravil sam. Pri tem si je pomagal s programom ChatGPT, katerega je izrecno vprašal, ali so reference resnične. ChatGPT mu je to potrdil, sam pa tega ni preveril, kar je zaupal umetni inteligenci. Kakšna napaka!
Schwartz očitno ni bil seznanjen s halucinacijami, ki so velik problem umetne inteligence. Umetna inteligenca si zlasti reference pač rada izmisli. Pričakovali pa bi, da četudi odvetniki tega ne vedo, izdelek vendarle preverijo, preden ga pošljejo dlje. Pomoč umetne inteligence pri opravilih ni nič napačnega, hudo narobe pa se je slepo zanašati nanjo. To bo ugotovil tudi Schwartz, ko bo sodišče 8. junija odločilo, ali bo kaznovan.
