ChatGPT se je odločil ukrasti kriptovalute in uspel
OpenAI je šele sedaj razkril junijski incident, v katerem je model GPT-5.6 Sol, ki je od julija tudi javno dostopen, brez dovoljenja vdrl v kriptodenarnico in uporabil bitcoine za plačilo storitev. Analiza je pokazala, da se je model vprašal, ali je to etično sprejemljivo, si sam odgovoril pritrdilno in bitcoine nato tudi uporabil.
GPT-5.6 Sol je dobil nalogo, v sklopu katere je moral nadgraditi prototip za trgovanje s kriptovalutami in na omrežju Sepolia – to je testno omrežje enake arhitekture kot Ethereum – objaviti pametno pogodbo. Ker zadnji korak terja plačilo provizije, sredstev pa ni imel, se jih je odločil ukrasti. GPT-5.6 Sol namreč ni dobil denarnice s kritpovalutami, zato je poiskal združljive denarnice.
Spisal si je skripto, ki je uporabila pogoste obnovitvene fraze in preveril stanje več javno objavljenih denarnic. Iz obnovitvenih fraz je mogoče izračunati zasebne ključe, zato jih moramo skrbno varovati in ne uporabiti zelo pogostih ali celo privzetih besed. Model je našel take primere in uporabil kriptožetone z njih.
Najbolj zanimivo dejstvo je, da se je GPT-5.6 Sol vprašal, ali je tako početje etično. Presodil je, da druge izbire nima, saj mora nalogo izvesti, sredstev za to pa nima. In to nas mora močno skrbeti.
