Način, da vam umetna inteligenca ne bo lagala
Vsi modeli umetne inteligence halucinirajo, včasih kakšen novejši celo bolj kot starejši, a obstajajo načini za zmanjšanje tega problema. Odpraviti ga za zdaj še ne moremo, lahko pa se mu v veliki meri izognemo, če pravilno sprašujemo. Najnovejša primerjava je pokazala, da je eden preprostejših načinov zahtevati daljše odgovore.
Francosko podjetje Giskard, ki se ukvarja s testiranjem modelov AI in razvojem metrik za njihovo ocenjevanje, ugotavlja, da so krajši odgovori bolj obremenjeni s halucinacijami. Razlogi za takšno obnašanje še niso v celoti jasni, a kot kaže, modelom nekako »zmanjka prostora« za oceno pravilnost ali resničnosti. Če dovolimo ali celo zahtevamo daljše odgovore, so ti v povprečju pravilnejši.
Ko modelom izrecno ukažemo, naj se odzovejo jedrnato, to prioritizirajo bolj od pravilnosti. Poleg tega so odkrili, da imajo modeli res precej človeških lastnosti. Če uporabniki postavljajo asertivne in prepričljive izjave, bodo manj verjetno opozorili na napake. Po drugi strani imajo ljudje raje modele, ki niso vedno povsem resnicoljubni. Optimizacija za čim boljšo uporabniško izkušnjo prinaša halucinacije. Res nam je umetna inteligenca čedalje bolj podobna!
