Kako je Gemini pomotoma nepovratno izbrisal datoteke
Letos se je pojavil termin vibe coding ali programiranje po občutku, s katerim označujejo način dela, kjer se programer sproti pogovarja z umetno inteligenco in ji verjame, da je pripravila dobro kodo. To je v nasprotju s klasično paradigmo programiranja in – bodimo iskreni – precej nenavadno, malodane nespametno. Le kaj bi lahko šlo narobe?
Pasti takšnega pristopa je izkusil Anuraag Gupta, ki sicer ni profesionalni programer, temveč vodi oddelek za kibernetsko varnost pri podjetju Cyware, za dušo pa tudi programira. Ko je to počel z agentom Gemini, je šlo katastrofalno narobe. Gemini mu je izbrisal vso kodo, kar je naposled tudi priznal.
Kaj se je zgodilo? Gupta je Geminiju naročil, naj preimenuje mapo, česar Gemini ni mogel storiti neposredno iz mape. Zato mu je dejal, naj ustvari novo mapo in nato vanjo premakne vsebino trenutne mape. Na koncu so datoteke izginile. Gupta je ugotovil, da je ukaz »mkdir "..\anurag_xyz project"« spodletel, česar Gemini ni ugotovil. Ko je nato v mapo skušal premakniti podatke »move * "..\anuraag_xyz project"«, se je zgodilo pričakovano. Ker mapa ni obstajala, je vse datoteke premaknil v novo, isto datoteko. Bile so nepovratno izgubljeno.
Gupta ni programiral nič zelo pomembnega, prav tako si s tem ne služi kruha. A zgodba nas uči, da so agenti umetne inteligence še vedno zgolj veliki jezikovni modeli, ki se ne zavedajo sveta. Uporaba v programiranju je lahko koristna, a ob vsakem resnem delu jih je treba omejiti na peskovnik (sandbox), da ne povzročajo škode, ne pa jim dodeliti celotnega dostopa do repozitorija v Githubu.
