Microsoft predstavil Projekt Perception in zaščito za AI agente
Umetna inteligenca močno spreminja pravila igre v kibernetski varnosti, tako na strani napadalcev kot branilcev. V odgovor na vse hitrejše in naprednejše grožnje je Microsoft predstavil varnostno pobudo, imenovano Projekt Perception. Ta inovativen sistem varovanja organizacij prepušča avtonomnim agentom umetne inteligence. Cilj ni ustvarjanje dodatnih varnostnih opozoril za že tako preobremenjene ekipe, temveč nenehno učenje, prilagajanje in samodejno ukrepanje v realnem času, medtem ko strateški nadzor ostaja v rokah ljudi.
Sistem deluje kot neprekinjena zanka treh specializiranih vrst agentov. Rdeči agenti nenehno in proaktivno iščejo morebitne ranljivosti v sistemu. Modri agenti analizirajo zaznane aktivnosti in natančno ocenjujejo stopnjo tveganja. Zeleni agenti nato izvedejo korektivne ukrepe ter okrepijo obrambo organizacije. Z združevanjem podatkov iz vseh ravni IT-okolja – od aplikacij do oblačnih storitev in končnih točk – ti agenti sprejemajo hitrejše odločitve brez potrebe po počasni ročni analizi signalov.
Zanimivost Projekta Perception je njegova večmodelna arhitektura. Microsoft se ne zanaša zgolj na en sam velik jezikovni model, temveč sistem samodejno izbira najprimernejši model glede na zahtevnost naloge, ceno, hitrost in zanesljivost. Pri iskanju programskih ranljivosti na primer že uporabljajo nov model, ki blesti na panožnih testiranjih in hkrati prepolovi stroške delovanja v primerjavi s prejšnjimi rešitvami. Sistem bo za javni preizkus na voljo v začetku avgusta.
Drugi ključni steber pa je osredotočen na zaščito samih agentov umetne inteligence. Podjetja jih pospešeno uvajajo v svoja okolja, pri čemer imajo ti agenti pogosto dostop do občutljivih podatkov in izvajajo spremembe brez neposredne človeške odobritve. Agent, ki je ob nastanku popolnoma varen, je med delovanjem lahko hitro izpostavljen zlonamernim navodilom (tako imenovani »prompt injection«), ki ga poskušajo pretentati, da zaobide vgrajena varnostna pravila.
Z novimi zaščitnimi funkcijami znotraj storitve Microsoft Defender in nadzorno platformo Agent 365 želi tehnološki velikan preprečiti tovrstne zlorabe v realnem času. Sistem aktivno spremlja delovanje agenta, vključno z uporabniškimi vnosi in odzivi integriranih orodij. Tvegane poteze lahko Defender samodejno blokira še pred njihovo izvedbo, dogodek pa se varno zabeleži za nadaljnjo strokovno preiskavo.
0o22Sc6hpS4
