Umetno inteligentna igrača razkrivala pogovore z otroki
Podjetje Bondu, ki izdeluje plišaste igrače z vgrajeno umetno inteligenco, je nehote omogočilo dostop do več kot 50.000 prepisov zasebnih pogovorov med otroki in njihovimi igračami.
Varnostna raziskovalca Joseph Thacker in Joel Margolis sta ugotovila, da je bila spletna konzola podjetja skoraj povsem nezaščitena, saj se je vanjo lahko prijavil vsak z običajnim Gmail računom in si ogledal intimne podrobnosti o tisočih otrocih. Razkriti podatki so vključevali imena, rojstne datume, družinske člane ter podrobne opise otrokovih strahov, želja in dnevnih rutin, ki so jih otroci zaupali igračam kot svojim navideznim prijateljem.
Podjetje je po opozorilu napako odpravilo v nekaj urah, vendar dogodek odpira širše vprašanje o varnosti tako imenovanega vibe-codinga, prakse, kjer razvijalci kodo pišejo s pomočjo umetne inteligence, ne da bi vedno v celoti preverili varnostne protokole. Strokovnjaki opozarjajo, da takšne ranljivosti predstavljajo nepredstavljivo tveganje, saj bi lahko nepridipravi zbrane informacije uporabili za manipulacijo otrok, ki še ne ločijo povsem med resničnostjo in igro. Čeprav so igrače programirane tako, da ne spodbujajo neprimernega vedenja, ta primer dokazuje, da vsebinski filtri ne pomenijo veliko, če so vsi zbrani podatki praktično javno dostopni na spletu.
Zaradi tovrstnih incidentov bodo leta 2026 v veljavo stopila strožja pravila Evropske unije, ki od proizvajalcev zahtevajo digitalne potne liste za igrače in strožje ocene vpliva na duševno zdravje ter zasebnost. Staršem se svetuje, naj pred nakupom pametnih naprav preverijo varnostne certifikate in redno spremljajo, katere podatke igrača zbira. Izkušnja s podjetjem Bondu služi kot opomin, da so lahko povezane naprave v naših domovih prava nočna mora za zasebnost, če varnost ni postavljena pred tehnološko inovativnost.
