Googlova umetna inteligenca na splet poslala nevarne ponaredke

Google je umaknil funkcijo v storitvi Google Earth, ki je ustvarjala lažna vojna območja.

Google je le nekaj dni po uradni predstavitvi umaknil novo orodje umetne inteligence v storitvi Google Earth, ki je uporabnikom omogočalo ustvarjanje lažnih podob neposredno prek resničnih satelitskih, letalskih in tridimenzionalnih posnetkov. Odločitev podjetja je sledila opozorilom strokovnjakov in preiskavi novinarske ekipe BBC Verify, ki sta opozorili na izjemno tveganje zlorab in hitrega širjenja dezinformacij. Google je v izjavi pojasnil, da funkcijo začasno zaustavlja, dokler ne vzpostavi strožjih varnostnih mehanizmov, saj so na spletu že krožili zaslonski posnetki ustvarjenih slik, ki so kršili pravila uporabe.

Zastrupljanje satelitskih podatkov je po mnenju strokovnjakov izjemno nevarno predvsem zato, ker javnost in novinarji storitvam, kot je Google Earth, tradicionalno zelo zaupajo. Ker se umetno ustvarjeni vizualni elementi neposredno vgradijo na resnične geografske koordinate in posnetke, ponaredku ni treba biti popoln, saj samodejno prevzame verodostojnost geografske podlage. Preizkusi so pokazali, da je bilo mogoče z enostavnimi besedilnimi vnosi na satelitskih slikah ustvariti prizore, kot so neobstoječa jedrska elektrarna v Iranu, kraterji bomb ob bolnišnicah v Gazi, begunska taborišča ali vojaška oprema v vojnih območjih.

Čeprav v podjetju poudarjajo, da so vse s storitvijo ustvarjene slike opremljene z nevidnim digitalnim vodnim žigom za prepoznavanje umetne inteligence, so preizkusi pokazali, da je to zaščito mogoče obiti. Poleg tega so nekatera zunanja orodja za prepoznavanje ponaredkov pri analizi takšnih satelitskih slik odpovedala. Generiranje ponarejenih posnetkov na kriznih območjih tako pomeni resno grožnjo že tako krhkemu zaupanju v verodostojnost informacij na terenih, kjer se razmere spreminjajo iz minute v minuto.