Umetna inteligenca skoraj sprožila vojno med ZDA in Kitajsko

Incident razkriva nevarnost vojaške avtomatizacije.

Obveščevalno poročilo, ki je spomladi krožilo po ameriški vojski sredi vojaškega konflikta z Iranom, je sprožilo preplah, saj je navajalo, da kitajska ladja na Bližnjem vzhodu prevaža komponente za jedrski orožarski program. Ameriška vojska se je na podlagi teh podatkov hitro pripravila na posredovanje, oborožene enote so bile pripravljene na vkrcanje, vojaška letala pa že v zraku. Tik pred izvedbo operacije pa so pristojni podrobneje preučili izvor poročila, ki so ga pripravili analitiki poveljstva za posebne operacije, ter ugotovili, da je bilo ustvarjeno s pomočjo umetne inteligence. Preverjanje poročila je pokazalo, da je umetna inteligenca napačno identificirala dejanski tovor ladje. Če bi se ameriška vojska na podlagi lažnega poročila odločila ukrepati, bi po navedbah virov lahko sprožila neposreden oborožen spopad med ZDA in Kitajsko.

Incident razkriva izjemna tveganja ob pospešeni integraciji umetne inteligence v vojaške in obveščevalne procese. Kljub prizadevanjem obrambnega ministrstva za hitro uveljavitev orodij umetne inteligence na vseh ravneh odločanja, vključno s strategijo za pospešitev uporabe AI, ki jo je v začetku leta predstavil obrambni sekretar Pete Hegseth, ostaja področje decentralizirano in brez enotnih varnostnih standardov za preverjanje ustvarjenih podatkov. Nagnjenost modelov k halucinacijam ter kritično zaupanje mlajših analitikov vanje ustvarjata nevarnost hitrega sprejemanja katastrofalnih odločitev na podlagi napačnih informacij, zlasti pri določanju vojaških tarč v času zelo napetih geopolitičnih razmer.