Umetna inteligenca lahko postane orožje napadalcev
V svetu informacijske tehnologije se pogosto poudarja, da je odprtokodna programska oprema ključna za preglednost in varnost, vendar najnovejše raziskave na področju umetne inteligence kažejo precej bolj mračno sliko. Strokovnjaki podjetij SentinelLABS in Censys so namreč razkrili, da so prav odprtokodne namestitve sistemov umetne inteligence postale globalno varnostno tveganje, ki čaka na priložnost za izkoriščanje. Glavna težava se skriva v tisočih izpostavljenih primerkih priljubljenih orodij, kot je Ollama, ki so brez ustreznih zaščitnih ukrepov neposredno povezani v javno internetno omrežje.
Analiza je odkrila več kot 175.000 unikatnih gostiteljev v 130 državah, ki poganjajo modele, kot so Llama, Qwen in Gemma. Težava ni v samih modelih, temveč v tem, da so ti sistemi pogosto nameščeni brez osnovnih varnostnih ukrepov. Zaradi odsotnosti centraliziranega nadzora in pomanjkanja avtentikacije na izpostavljenih programskih vmesnikih so ti sistemi idealna tarča za napadalce. Ti lahko prevzamejo nadzor nad procesno močjo žrtve, izvajajo poljubne ukaze s povišanimi pooblastili ali infrastrukturo izrabijo za prikrivanje svoje identitete pri izvajanju drugih zlonamernih dejavnosti.
Strokovnjaki opozarjajo, da je homogenost teh namestitev dodatna grožnja. Ker večina uporabnikov uporablja enake nastavitve in paketne ureditve, bi lahko ena sama kritična ranljivost sprožila verižno reakcijo po vsem svetu. Medtem ko komercialni ponudniki umetne inteligence vlagajo velika sredstva v nadzor dostopa in filtriranje vsebine, odprtokodni svet na tem področju močno zaostaja. Brez strožjih standardov pri privzetih nastavitvah in večje ozaveščenosti uporabnikov o nevarnostih odprtih vrat v svet umetne inteligence bi lahko ta tehnologija namesto produktivnosti prinesla predvsem nove razsežnosti kibernetskega kriminala.
