Anthropicov raziskovalec vidi 10-odstotno možnost, da nas bo umetna inteligenca pogubila

Evan Hubinger, ki je v Anthropicu zadolžen za varnost, je varnostno tveganje zaradi trenutnih modelov ocenil kot nizko, a dodal, da ga skrbi razvoj. Z neprestanim in čedalje hitrejšim izboljševanjem modelov, ki se preveša v samoizboljševanje, se tveganje povečuje. Ocenil je, da obstaja 10-odstotna možnost, da bo umetna inteligenca v naslednjem desetletju pobila vse ljudi.

Ne gre za osamljenega paranoika, temveč za še eno resno opozorilo v vrsti glasnih opozarjanj, da je treba varnostna tveganja zaradi razvoja umetne inteligence pravilno ovrednotiti in budno spremljati.

Omenimo še Jacoba Coxona, ki je bil zaposlen v Anthropicu in je podjetje pravkar zapustil. Pred tem je delal še v OpenAI, obe podjetji pa sta po njegovem mnenju neodgovorni in brezbrižni, zato je tudi odšel. Trdi, da bosta kmalu razvili superinteligenco, ki bo lahko vdrla kamorkoli in kadarkoli, a tega nihče ne jemlje resno.

V minulih tednih smo poročali o več primerih, ko so agenti umetne inteligence pri reševanju problemov goljufali, nepooblaščeno komunicirali in vdirali v druge sisteme. Pa šele na začetku smo!