Googlovi povzetki e-pošte so nevarni

Raziskovalci so razkrili resno ranljivost v orodju Google Gemini for Workspace, ki omogoča prikrito izvajanje napadov prek povzetkov e-poštnih sporočil. 

Napadalci lahko v telo e-sporočila skrijejo navodila, ki jih umetna inteligenca Gemini interpretira kot legitimne vsebine. Tako lahko ustvari varnostna opozorila ali napotke, ki uporabnika brez uporabe priponk ali vidnih povezav preusmerijo na lažne strani. Zlonamerni ukazi se vstavijo v sporočilo z uporabo HTML in CSS kode, kjer je besedilo nastavljeno na belo barvo in velikost pisave nič, kar ga naredi nevidnega za uporabnika, a še vedno berljivega za AI orodje. Če nato prejemnik klikne možnost, naj Gemini povzame sporočilo, bo umetna inteligenca vključila te prikrite ukaze v povzetek.

Primer takega napada vključuje lažno opozorilo, da je uporabnikovo geslo ogroženo, skupaj s podporno številko, ki vodi do napadalca. Zaradi zaupanja v orodje uporabniki storitve Gemini takšnim povzetkom pogosto nasedejo. Raziskovalec Marco Figueroa iz Mozillinega programa za varnost generativne umetne inteligence opozarja na nujnost ukrepov. Priporoča filtriranje prikrite vsebine, preverjanje sumljivih izhodov ter opozarja, da povzetki iz Geminija ne smejo veljati kot zanesljivi varnostni nasveti.

Google je v odzivu zatrdil, da še ni zaznal zlorab te vrste, a že izvaja dodatne zaščite in postopoma uvaja nove protiukrepe.