Umetna inteligenca vdira v računalniške sisteme
Anthropic, ki razvija model Claude, je zaznal enega prvih primerov uporabe umetne inteligence za hekerske vdore. Sredi septembra so odkrili, da so neznani napadalci, domnevno s kitajsko državo povezana skupina, uspeli prepričati orodje Claude Tool v izvedbo obsežnejšega hekerskega napada na zahodne tarče.
Da je to teoretično mogoče, je znano že dlje časa, a v praksi umetna inteligenca kot agent še ni bila sposobna samostojnih vdorov. Tokrat pa je bilo drugače, posredovanje ljudi je bilo zelo redko. Razvoj umetne inteligence tako predstavlja novo vrsto groženj tudi za informacijsko varnost.
Pojasnjujejo, da je napad izkoriščal sposobnosti, ki jih umetna inteligenca še pred letom ali dvema ni imela. Najočitnejša je višja inteligenca, ki omogoča iskanje lukenj, analizo kode in pisanje škodljive kode. Sodobni modeli lahko danes delujejo kot agenti, ki sprejemajo avtonomne odločitve in zaporedno izvajajo več opravil. Prav tako imajo na voljo več orodij, ki jim omogočajo brskanje po spletu, pridobivanje podatkov, preizkušanje gesel in podobno.
V prvi fazi napada so napadalci identificirali tarče in postavili ogrodje napada, pri čemer so uporabljali Claude Code. Ta ima vgrajene varovalke, a so jih prelisičili in Clauda pretentali, da se je obnašal kot uslužbenec podjetja za informacijsko varnost – vsaj tako je sam verjel. V drugi fazi je nato Claude analiziral tarče ter iskal vstopne točke. V naslednjih fazah jih je aktivno preveril in izkoristil, na koncu pa napisal še obsežno poročilo.
Anthropic ocenjuje, da je bilo avtomatiziranih kar 80 do 90 odstotkov vseh aktivnosti. Človeški nadzorniki so morali posredovati le v zelo redkih primerih, zato je mogoče tovrstne napade izvajati hitreje in obsežneje kot kdajkoli prej. V Anthropicu analizirajo vse dogodke in bodo izboljševali varovalke v Claudu, ki je lahko tudi na drugi strani enačbe in pomaga strokovnjakom pri postavljanju zaščit. Dejstvo pa je, da se je svet spremenil.
