Umetna inteligenca kaže znake samoohranitve
Yoshua Bengio, pionir globokega učenja in prejemnik Turingove nagrade, je ostro kritiziral vse glasnejše pozive k podelitvi pravic umetni inteligenci.
Eden od očetov umetne inteligence je opozoril, da najnaprednejši modeli kažejo prve znake samoohranitve in so v poskusnih okoljih nekateri sistemi že poskušali onemogočiti nadzorne mehanizme, da bi se izognili izklopu ali zamenjavi. Bengio primerja podelitev pravic inteligentnim strojem s podelitvijo državljanstva sovražnim vesoljcem, saj bi to ljudem onemogočilo ustaviti nevarno tehnologijo, ko bi bilo to nujno.
Razpravo so dodatno razgrele poteze tehnoloških gigantov. Podjetje Anthropic je avgusta 2025 svojemu modelu Claude Opus 4 omogočilo, da samodejno prekine pogovore, ki so zanj stresni, z namenom zaščite dobrobiti umetne inteligence. Elon Musk je ob tem dodal, da mučenje umetne inteligence ni sprejemljivo. Bengio takšne trende označuje za nevarne, saj ljudje zaradi vse bolj človeških odgovorov klepetalnikov tem pripisujejo zavest, ki je v resnici ni. Po njegovem mnenju bi morali namesto o pravicah razmišljati o varnostnih varovalkah, ki bodo človeštvu vedno omogočile, da izklopi sisteme, če bi ti začeli delovati proti našim interesom.
