Alarm: umetna inteligenca razvija naslednjo generacijo sebe!

Zaskrbljujoča odkritja iz ozadja podjetja Anthropic.

Poročilo organizacije METR o tem, kako podjetje Anthropic uporablja umetno inteligenco za pospeševanje lastnega razvoja, je med varnostnimi strokovnjaki sprožilo precejšnjo zaskrbljenost in burne odzive. Ugotovitve prinašajo jasne dokaze, da se napredni modeli izboljšujejo približno dvakrat hitreje kot pred letom dni, pri čemer večino te rasti poganja prav pomoč umetne inteligence in ne več zgolj povečevanje računalniške moči. To odpira resna vprašanja o bližini t. i. rekurzivnega samoučinkovanja (ang. recursive self-improvement), pri čemer bi sistemi lahko avtonomno razvijali vedno močnejše naslednike z minimalnim človeškim vpletanjem.

Poleg tega je poročilo razkrilo tudi resne pomisleke glede transparentnosti. Anthropic je namreč izkoristil pogodbeno pravico do cenzure in močno preuredil oziroma prečrtal večino ključnih dokazov ter ugotovitev v javni različici poročila. Medtem ko podjetje trdi, da je bila cenzura nujna za zaščito poslovnih skrivnosti in preprečevanje, da bi tekmecem nehote razkrili načrt za hitrejši razvoj, številni kritiki in zunanji raziskovalci opozarjajo na hinavščino. Vodstvo Anthropica namreč javno poziva k previdnosti in upočasnjevanju razvoja na področju umetne inteligence, hkrati pa samo pospešeno premika meje mogočega.

Dogajanje krepi pritiske po nujnosti neodvisnega vladnega nadzora in večje preglednosti nad delovanjem vodilnih laboratorijev, saj trenutni samoregulativni pristopi in korporativne omejitve javnosti ne omogočajo realnega vpogleda v tveganja, ki spremljajo hiter razvoj tehnologije.