Zakaj korporativni AI agenti prehitevajo lastno varnost in smiselnost

Podjetja, ki si želijo hitrejših inovacij z umetno inteligenco, se soočajo s paradoksalnim položajem. Čeprav pospešeno uvajajo avtonomne agente umetne inteligence in vlagajo ogromna sredstva v specializirano infrastrukturo, opozorilni znaki iz prakse kažejo, da tehnologija močno prehiteva zmožnost njenega nadzora in razumevanja.

Raziskovalna veja VentureBeat Pulse Research je junija letos izvedla poglobljeno serijo anket, da bi preverila dejansko stanje uvajanja umetne inteligence v korporativnem okolju. Zajela je reprezentativen vzorec srednjih in velikih podjetij z več kot sto zaposlenimi, pri čemer je v posameznih sklopih sodelovalo okoli 150 tehničnih vodij, IT-odločevalcev in direktorjev.

Ugotovitve razkrivajo globoke vrzeli na štirih ključnih področjih: pri ocenjevanju zanesljivosti modelov, zagotavljanju pravilnega poslovnega konteksta, nadzoru stroškov računalniške infrastrukture in pri kibernetski varnosti. Zdi se, da korporativni svet zida mogočne nebotičnike umetne inteligence, medtem ko se temelji pod njimi še vedno sušijo in niso zmožni prenesti celotne teže.

Ena najbolj perečih težav je ocenjevanje zanesljivosti. Kar polovica podjetij je že doživela neprijetno situacijo, ko je njihov sistem umetne inteligence uspešno prestal vsa stroga interna testiranja, nato pa ob stiku z resničnimi strankami v produkciji spektakularno odpovedal. Zaupanje v avtomatizirana testiranja je izjemno nizko, saj le peščica organizacij v celoti verjame njihovim rezultatom.

Glavna težava je v tem, da se testna okolja ne ujemajo z nepredvidljivostjo in kompleksnostjo resničnega sveta. Kljub očitnim pomanjkljivostim pa strah pred zaostankom za konkurenco sili podjetja v nevarna tveganja. Dve tretjini organizacij namreč že dovoljujeta ali aktivno razvijata sisteme, ki avtonomnim agentom omogočajo samostojno uvajanje sprememb neposredno v produkcijsko okolje, povsem brez varovalnega človeškega nadzora.

Tej specifični težavi se pridružuje vrzel v kontekstu in razumevanju podatkov. Umetna inteligenca pogosto zveni izjemno prepričljivo in strokovno avtoritativno, celo takrat, ko se popolnoma moti ali si dejstva preprosto izmisli. Več kot polovica anketiranih podjetij ugotavlja, da njihovi agenti podajajo napačne odgovore z veliko gotovostjo, kar je neposredna posledica pomanjkljivega ali nekonsistentnega poslovnega konteksta, na katerem se učijo.

Tretje kritično področje predstavlja upravljanje infrastrukture in naraščajočih stroškov. Investicije v strojno opremo in računalniško moč neusmiljeno rastejo ter prehitevajo zmožnost podjetij, da bi te izdatke natančno izmerila in nadzorovala. Zgolj petina podjetij dejansko že uporablja umetno inteligenco v produkciji v večjem obsegu, a kljub temu velika večina že načrtuje menjavo ali dodajanje novih ponudnikov infrastrukture v iskanju nižjih skupnih stroškov lastništva.

Paradoksalno je, da pregrešno draga strojna oprema, ki jo podjetja že posedujejo in drago plačujejo, večinoma sameva. Več kot osemdeset odstotkov podjetij poroča, da so njihovi specializirani grafični procesorji izkoriščeni le polovično ali še precej manj. Namesto da bi optimizirala obstoječe procese in izkoristila to, kar že imajo, podjetja slepo kupujejo nove zmogljivosti in se povsem nepripravljena soočajo s prihajajočimi infrastrukturnimi izzivi.

Celotno sliko zaokroža skrb vzbujajoče stanje na področju kibernetske varnosti agentov. Več kot 54 odstotkov podjetij je na tem področju že zabeležilo varnostni incident ali nevarnost, ki bi se skoraj končala katastrofalno, če je ne bi pravočasno prestregli. Osnovna težava tiči v površnem upravljanju identitet. Le slaba tretjina podjetij namreč vsakemu agentu dodeli lastno, strogo omejeno in sledljivo identiteto, medtem ko v večini primerov agenti še vedno delijo krovne dostopne podatke in gesla. V praksi to pomeni, da lahko en sam kompromitiran agent povzroči nepopisno škodo v jedru arhitekture.

Vse te ugotovitve slikajo izjemno dinamično, a na dolgi rok nevarno in nestabilno realnost. Podjetja si obupno želijo hitrih rezultatov in inovacij, zato svojim napol razvitim avtonomnim sistemom podeljujejo vse večja pooblastila in neomejen dostop do najbolj občutljivih podatkov. Mehanizmi za zagotavljanje zanesljivosti, preverjanje pravilnosti odločitev, stroškovne učinkovitosti in nenazadnje kibernetske varnosti pa še zdaleč niso dozoreli do stopnje, ki bi takšno avtonomijo upravičila.