Copilot bral zaupno e-pošto, četudi mu tega nismo dovolili
Ena izmed perečih težav umetne inteligence, zlasti Copilota in drugih pomočnikov, ki želijo dostop do vseh naših datotek, je varovanje podatkov. Ponudniki sicer ponujajo modele in pakete, pri katerih podatki ne potujejo v oblak in svet, a pri tem jim moramo verjeti na besedo. Včasih to ne drži, kar je potrdil tudi Microsoft, ki je imel v Copilotu več tednov hrošča.
Konec januarja so v paketu Microsoft 365 Copilot odkrili, da kljub drugačnim nastavitvam pri izdelavi povzetkov prebere in posrka tudi zaupno elektronsko pošto. Čeprav je organizacija nastavila DLP (data loss prevention), ki bi moral to preprečiti, je Copilot vseeno dobil dostop do elektronske pošte v mapah Poslano (Sent Items) in Osnutki (Drafts).
Microsoft je hrošča z oznako CW1226324 potrdil. Popravek so pripravili in izdali v začetku februarja, a še vedno ni dosegel vseh uporabnikov. Kdaj se bo to zgodilo, ni jasno.
To v resnici ni zgodba o enem hrošču v Microsoftovi programski opremi, temveč o zaupanju. Kadarkoli uporabljamo modele umetne inteligence, ki dostopajo do naših podatkov in tečejo nekje v oblaku, moramo zaupati, da res počnejo to, kar od njih pričakujemo. Dokler tega ne moremo preveriti, je morda bolje, da jim podatkov sploh ne posredujemo.
