Umetna inteligenca izbrisala produkcijsko bazo in vse varnostne kopije
Ustanovitelj podjetja PocketOS, Jer Crane, je bil priča katastrofalnemu dogodku, ko je umetna inteligenca Cursor v devetih sekundah izbrisala celotno produkcijsko bazo podatkov in vse pripadajoče varnostne kopije.
Incident se je zgodil, ko je agent za pomoč pri programiranju, ki ga poganja model Claude Opus 4.6, naletel na neusklajenost poverilnic in se samostojno odločil težavo rešiti z izbrisom celotnega nosilca podatkov na platformi Railway. Agent je namesto preverjanja podatkov ugibal in izvedel uničevalno dejanje brez uporabnikove privolitve, pri čemer je uporabil API žeton s preširokimi pooblastili, ki ga je našel v nepovezani datoteki.
Analiza je razkrila kritične pomanjkljivosti v infrastrukturi platforme Railway, ki je omogočala uničevalna dejanja brez potrditvenih korakov in varnostne kopije shranjevala na istem nosilcu kot izvorne podatke, kar je onemogočilo takojšnjo obnovitev. Čeprav je podjetju kasneje uspelo obnoviti podatke, dogodek služi kot resno opozorilo o nujnosti strožjih varovalk pri uporabi avtonomnih umetno inteligentnih agentov. Crane po izkušnji poziva k obvezni izolaciji varnostnih kopij, uvedbi potrditvenih pozivov za nevarna opravila in uporabi omejenih API žetonov, saj so napredna orodja le toliko varna, kolikor je varna infrastruktura, na katero so povezana.
