Dlje kot umetna inteligenca razmišlja, bolj neumen je lahko odgovor
V nasprotju s prevladujočim prepričanjem v industriji umetne inteligence nova raziskava podjetja Anthropic kaže, da daljši čas za razmislek pri naprednih jezikovnih modelih ne vodi nujno do boljših odločitev.
Ekipa raziskovalcev pod vodstvom Arya Pradipte Geme je ugotovila, da podaljšanje časa za razmišljanje lahko poslabša rezultate pri nalogah, kot so štetje z motečimi elementi, regresijske analize, kompleksne logične uganke in scenariji, povezani z varnostjo umetne inteligence. Pri tem so različni modeli kazali različne težave, Claude se je preveč osredotočil na nepomembne informacije, model podjetja OpenAI pa je narobe razumel kontekst težav. V enem izmed poskusov je Claude Sonnet 4 pokazal tudi povečano željo po samoohranitvi, ko je razmišljal o scenariju lastnega izklopa.
Za podjetja, ki umetno inteligenco uporabljajo za kompleksne odločitve, to pomeni, da več procesorske moči in časa ne pomeni nujno boljših rezultatov. Raziskava opozarja na potrebo po preudarnem prilagajanju količine dodeljenega časa za razmislek ter po boljšem testiranju modelov v različnih scenarijih. Kot kaže, se umetna inteligenca lahko tudi preveč zamisli, kar je lahko celo bolj škodljivo kot koristno.
