Amazonovo orodje umetne inteligence krivo za motnje v delovanju
Tehnološki velikani čedalje pogosteje uporabljajo umetno inteligenco, pri čemer Amazon ni izjema. Njihov agent Kiro se uporablja za vzdrževanje in popravljanje kode, a preveliko zanašanje nanj je bilo krivo, da je njihov oblak AWS vsaj dvakrat pokleknil.
Uradno Amazon trdi, da sta bila oba lanska izpada posledica človeške napake, a neuradno viri iz podjetja poročajo o prevelikem zanašanju na orodje Kiro. Nepazljivi zaposleni so prehitro sprejeli predloge, ki jih je posredoval Kiro in ki so nato povzročili težave. En izpad sredi decembra je trajal 13 ur, drugega pa zunanji uporabniki sicer niso zaznali, a je povzročil interne težave. Veliki oktobrski napad pa ni bil povezan s Kirom.
Amazon trdi, da gre za naključje in da Kiro deluje dobro. To je morda celo res, a poanta je nekje drugje. Tudi tehnološki velikani uporabljajo umetno inteligenco za pisanje kode, s čimer ni nič narobe. Problematično pa je, kadar te kode ne pregleda usposobljeni človek. Kiro vedno terja odobritev, od operaterja pa je odvisno, kako podrobno preveri kodo.
Dodali so, da so uvedli več varovalk, ki bodo podobne incidente v prihodnosti preprečile – torej je vendarle šlo nekaj narobe.
