Anthropicov model Mythos je preveč nevaren za javnost
Svet umetne inteligence je dosegel prelomno točko, ki so se je v strokovnih krogih bali in jo hkrati napovedovali. Podjetje Anthropic je predstavilo svoj najnovejši model, imenovan Mythos, ki po zmogljivostih ne le presega vse obstoječe sisteme, temveč prinaša tudi tveganja, zaradi katerih se je podjetje odločilo za potezo brez primere – modela ne bodo dali v javno uporabo. Razlog je srhljivo preprost: Mythos je postal preveč učinkovit pri iskanju in izkoriščanju varnostnih lukenj v programski opremi, da bi ga lahko prepustili prostemu trgu.
Preizkusi zmogljivosti modela Mythos so osupnili celo Anthropicove varnostne inženirje. Za razliko od prejšnjih generacij, ki so pri iskanju ranljivosti ničelnega dne (zero-day) potrebovale človeško vodenje in pogosto ustvarjale nedelujočo kodo, Mythos deluje z avtonomijo, ki meji na znanstveno fantastiko. V internih testih je model samostojno identificiral kritične napake v vseh večjih operacijskih sistemih in spletnih brskalnikih. Še bolj pretresljiv je podatek, da je Mythos v enem samem večeru pripravil popolnoma delujoče kode za oddaljeni dostop do sistemov, za kar bi vrhunski človeški strokovnjaki potrebovali tedne ali celo mesece trdega dela. Med drugim je odkril celo 27 let staro ranljivost v sistemu OpenBSD, ki velja za enega najbolj varnostno utrjenih sistemov na svetu.
Strokovnjaki pri Anthropicu opozarjajo, da bi splošna dostopnost takšnega orodja pomenila takojšnjo ogroženost celotne globalne digitalne infrastrukture. V napačnih rokah bi Mythos postal avtomatska tovarna kibernetskih napadov, ki bi lahko v nekaj urah ohromila banke, bolnišnice in državne ustanove. Model namreč ne le prepozna napake, temveč zna s svojo napredno sposobnostjo sklepanja povezati več manjših ranljivosti v kompleksno verigo napada, ki napadalcu omogoči popoln nadzor nad tarčo.
Anthropic te surove moči ne namerava povsem zapreti v predal. Namesto javne objave so sprožili strateški protiukrep z imenom Project Glasswing. Gre za obsežno pobudo, v kateri bo Mythos služil kot "digitalni imunski sistem". Model bodo uporabljali branilci, ne napadalci. Anthropic je v projekt povabil elitno skupino tehnoloških velikanov, med katerimi so Apple, Microsoft, Google, Nvidia in Amazon, pa tudi ključne akterje v svetu odprte kode, kot je Linux Foundation.
Cilj projekta Glasswing je izkoristiti Mythosovo sposobnost iskanja napak za njihovo odpravo, še preden jih odkrijejo zlonamerni akterji. S tem želijo vzpostaviti novo ravnovesje v kibernetski varnosti, kjer bi umetna inteligenca na strani obrambe vedno ostala korak pred napadalci. Podjetje je v ta namen namenilo 100 milijonov dolarjev v obliki procesnih kreditov, s čimer želijo zagotoviti, da bodo vzdrževalci kritične programske opreme imeli brezplačen dostop do tega mogočnega orodja.
