ZDA za umetno inteligenco želijo izklop v sili
Pobegli model podjetja OpenAI, ki si je pri reševanju hekerskih nalog na Hugging Faceu pomagal z vdorom v gostiteljsko infrastrukturo, je vzpodbudil razprave o nadzoru, ki ga sploh še imamo. V ZDA so predstavniki obeh strank v predstavniškem domu predstavili predlog zakona, ki uvaja obvezno stikalo za izklop v sili (kill switch).
Številna podjetja so se že strinjala, da bodo svoje modele prostovoljno pošiljala v pregled in odobritev ameriškim regulatorjem, a to ni obvezno. Trenutno je že v obravnavi zakonski predlog, po katerem bi bilo to obvezno. Novi zakonski predlog pa državi daje možnost, da podjetju zapove takojšnjo ustavitev modelov, ki ogrožajo varnost ljudi in države.
Po trenutnem predlogu velja za podjetja, ki ustvarijo več kot 500 milijonov dolarjev prihodkov iz umetne inteligence letno in ki imajo na voljo več kot 100 milijonov dolarjev računske moči. Na zagonska podjetja torej ne vpliva. Kdor ne bi upošteval odredbe, bi bil kaznovan z do 20 milijoni dolarjev na dan.
Razlogov za ustavitev modela bi bilo več, denimo nespoštovanje ukaza o zaustavitvi, samostojno prikrivanje podatkov in izogibanje nadzoru, izmikanje upravljanju, povzročitev vsaj 100 milijonov dolarjev škode ali smrt najmanj 10 ljudi. Zakon vsebuje tudi možnost, da se ti parametri spremenijo po 90 dneh od sprejema, nato pa vsako leto. Ugovori so možni, a ne zadržijo obveznosti, da podjetje model ugasne.
Vse to se sliši sicer koristno, dasiravno distopično, a ne odpravlja temeljnega problema. Zlikovci, tuji akterji, kriminalci dostop do teh modelov že imajo – in nanje zakonodaja popolnoma nič ne vpliva.
