Uporaba aplikacij z umetno inteligenco hitro narašča, s tem pa tudi tveganja

Podjetje Netscope je opravilo raziskavo, ki potrjuje, da se je rast števila uporabnikov in števila uporabljenih aplikacij povezanih z umetno inteligenco drastično povečala. V manj kot letu dni je število uporabnikov naraslo kar za 5-krat, generativno inteligenco pa danes uporablja več kot 10% poslovnih uporabnikov.

Še pred letom dni se je delež uporabnikov, ki so uporabljali orodja z umetno inteligenco gibal v območju pod 2%. Obenem se je povečalo tudi število aplikacij z elementi umetne inteligence, tako da v povprečju uporabniki v podjetjih uporabljajo 20 tovrstnih aplikacij, pred letom dni le 14.

Polovica anketiranih redno uporablja med 11 in 33 aplikacij, v samem vrhu (1%) uporabnikov, pa v povprečju uporabljajo kar 96 (!) različnih aplikacij v oblaku. Najbolj priljubljeno orodje ta hip je ChatGPT, toda v zadnjih mesecih najhitreje raste Googlov Bard. Tako velike številke Netscope pripisuje dejstvu, da uporabniki ta hip veliko eksperimentirajo z različnimi orodji in trenutno stanje ne odraža trajne zaveze za uporabo določenega orodja.

Analitiki menijo, da se bo ta trend v letu 2024 še nadaljeval, predvsem bo po sedanjih ocenah približno četrtina vseh uporabnikov v poslovnem okolju povečala število orodij z AI. Tovrstna rast interakcij v oblaku pa že vzbuja zaskrbljenost glede morebitnih varnostnih ranljivosti.

Socialni inženiring je bil in bo tudi v letošnjem letu najpogostejši način za napadalce, da pridobijo začetni dostop. Z generacijo orodij AI se je za približno trikrat povečala verjetnost, da bodo nasedli prevaram z lažnim predstavljanjem in lažnim nasvetom s strani umetne inteligence.

Netskope predvsem ugotavlja, da poslovni uporabniki v največjem delu nekritično z javnimi storitvami delijo izvorno kodo, najbrž med samim razvojem poslovnih programov. Sledijo občutljivi podatki, ki so v marsikaterem podjetju strogo regulirani, pogosto pa se na seznamu AI orodij zanajdejo podatki povezani z intelektualno lastnino.

Leta 2023 so med napadi prevladovale kriminalno motivirane dejavnosti, pri čemer so prednjačile ruske skupine. K geopolitičnim napadom so največ prispevali kitajski akterji groženj, med katerimi so bile najbolj tarče azijske države, zlasti Singapur.

Netskope svetuje, da morajo podjetja okrepiti usmeritev k varnemu razvoju aplikacij z umetno inteligenco in omejiti dostop do aplikacij na zakonite poslovne namene na spletu, hkrati pa vlagati v zmanjšanje tveganj socialnega inženiringa z ozaveščanjem o varnosti.