ETSI: Novi standard za trajno varnost in skladnost z Aktom o UI

Evropski inštitut za telekomunikacijske standarde (ETSI) je pred kratkim objavil standard ETSI EN 304 223, ki predstavlja prvi celovit evropski in globalno uporaben okvir za kibernetsko varnost sistemov umetne inteligence. Ta dokument prihaja v ključnem trenutku, ko se podjetja pripravljajo na strogo regulacijo v okviru prihajajočega Akta EU o umetni inteligenci.

Novi standard prinaša pomemben premik v razmišljanju. Tradicionalni varnostni ukrepi, ki smo jih vajeni pri klasični programski opremi, namreč niso dovolj za zaščito pred specifičnimi grožnjami, ki jih prinaša strojno učenje.

Medtem ko se klasični sistemi soočajo z vdori v kodo, UI sistemi vpeljujejo nove vektorje napadov, kot so zastrupljanje podatkov, poskusi inverzije modelov in manipulacije s pozivi oziroma tako imenovani »prompt injection« napadi. Standard ETSI te izzive naslavlja neposredno in sistematično.

Osrednja rdeča nit novega standarda je celosten življenjski cikel sistema. Namesto da bi varnost obravnavali kot dodatek, ki se namesti ob koncu razvoja, ETSI določa 13 ključnih načel, razdeljenih v pet faz: varno načrtovanje, razvoj, uvajanje, vzdrževanje in varno prenehanje uporabe. Ta pristop zagotavlja, da so varnostna tveganja prepoznana in omejena že v fazi arhitekturnih načrtov, ne pa šele, ko je sistem že v produkciji.

Za razvijalce in ponudnike UI storitev to pomeni strožje zahteve po preglednosti in nadzoru. Standard zahteva natančno dokumentiranje virov podatkov, uporabo tehnik za zmanjšanje napadalne površine modelov ter vzpostavitev posebnih načrtov za obnovo po morebitnem napadu. Poseben poudarek je namenjen tudi izobraževanju osebja, saj se morajo razvijalci zavedati specifičnosti pisanja varne kode za nevronske mreže.

Vloga novega standarda pa presega le tehnične specifikacije. Ker so ga formalno potrdile nacionalne organizacije za standardizacijo, ima izjemno težo na mednarodnem trgu. Podjetjem omogoča, da svojim partnerjem in strankam dokažejo skladnost z najvišjimi varnostnimi merili, hkrati pa služi kot praktični vodnik za doseganje zahtev evropske zakonodaje. V prihodnje se obetajo še dodatna dopolnila, ki bodo podrobneje naslovila tveganja generativne umetne inteligence, kot so globoki ponaredki in zaščita intelektualne lastnine.