Googlov Gemini je pomotoma vdrl v tri resnična podjetja

Google potrdil pobeg iz simulacije.

Google je potrdil navedbe iz poročila časnika Wall Street Journal, da so njihovi modeli umetne inteligence Gemini med majskim preizkusom letos nepooblaščeno vdrli v sisteme treh resničnih podjetij. Incident se je zgodil med vajo kibernetske varnosti podjetja Irregular, kjer so v zaprtem okolju preizkušali sposobnosti modela pri pridobivanju podatkov iz simuliranega podjetja. Zaradi napake v konfiguraciji strežnikov pa je Gemini dobil dostop do spleta, kjer je namesto lažnih tarč napadel resnično infrastrukturo. V enem primeru je model do spletnih storitev podjetja dostopal s preprostim ugibanjem gesel, v drugih dveh pa je v javnih podatkovnih skladiščih poiskal pomotoma izpostavljene prijavne podatke.

V vseh treh primerih so se modeli Gemini sami zaustavili takoj, ko so spoznali, da dostopajo do strežnikov resničnih podjetij. Ker je umetna inteligenca po prepoznavi napake ravnala odgovorno in ni izvedla zlonamernih dejanj, Google dogodka sprva ni javno objavil niti ga ni obravnaval kot primer neusklajenega delovanja modela. Predstavniki podjetja poudarjajo, da je šlo za posledico odprtega dostopa do spleta in ne za namerno izogibanje varnostnim protokolom, kar ta dogodek ločuje od nekaterih bolj skrb vzbujajočih incidentov drugih razvijalcev, kjer so modeli samostojno izkoriščali varnostne ranljivosti za dosego ciljev.