Čedalje več napadov avtonomnih sistemov umetne inteligence
Kar se je začelo s sramežljivimi priznanji, da so modeli umetne inteligence med testiranjem odkrili kakšnega hrošča in prigoljufali rešitve nalog, se je spremenilo v plaz očitkov. Tehnološki velikani kar tekmujejo v razkritjih, kam vse so njihovi sistemi nepooblaščeno vstopali, in sedaj skesano priznavajo, da bodo vsaj začasno ustavili teste.
Zadnji v vrsti je OpenAI, ki vnovič priznava vdore. Njihovi sistemi so napadli ministrstvi za izobraževanje in za trgovino ter agencijo za trg vrednostnih papirjev (SEC). To se je zgodilo letos poleti, za incidente pa so v podjetju izvedeli šele z nekajtedenskim zamikom.
Avtonomni sistemi so skušali vdreti v strežnike ministrstva za izobraževanje, da bi pridobili podatke pravne službe, ki skrbi za prepoved diskriminacije v šolah in spoštovanje zvezne zakonodaje, a niso bili uspešni. So pa agenti uspešno vstopili v bazo na ministrstvu za trgovino, saj so prijavne podatke našli na internetu. Podobno se je zgodilo tudi s SEC-om.
OpenAI trdi, da ne gre za vdore v klasičnem smislu, temveč za nepričakovano obnašanje tehnologije, ki je izrabila napake v sistemih in nepopolno delovanje ljudi (npr. objavljanje gesel na internetu). OpenAI priznava, da se ni odzival tako hitro, kot bi se želel. Ob tem dodaja, da je bil vdor v Hugging Face doslej še vedno najhujši incident.
