Hekerji skušali klonirati Gemini

Google je razkril obsežno kampanjo poskusov kraje intelektualne lastnine, usmerjeno proti njihovemu modelu umetne inteligence Gemini. 

Po podatkih Googlove skupine za obveščanje o grožnjah (GTIG) so neimenovani hekerji z vsega sveta izvedli več kot 100.000 sistematičnih poizvedb, s katerimi so poskušali klonirati oziroma pridobiti znanje in logiko delovanja modela. Napadalci so s premišljenimi navodili skušali prisiliti Gemini, da razkrije celoten proces razmišljanja, namesto da bi podal le končne odgovore, kar bi jim omogočilo razvoj cenejših in konkurenčnih kopij.

Google to dejavnost opisuje kot ekstrakcijo modela, pri čemer napadalci uporabljajo legitimen dostop do vmesnikov (API), da bi pridobili ključne lastnosti kompleksnega modela in jih prenesli na svoj manjši sistem. Čeprav podjetje to označuje za krajo intelektualne lastnine, kritiki opozarjajo na določeno mero ironije, saj so bili tudi Googlovi modeli zgrajeni na ogromnih količinah podatkov z interneta, pridobljenih brez izrecnega dovoljenja avtorjev. Poleg tega so se v preteklosti že pojavili očitki, da je Google pri urjenju prejšnjega modela Bard uporabljal odgovore konkurenčnega ChatGPT-ja, kar pa v podjetju zanikajo.

Poročilo poudarja, da tovrstni napadi ne ogrožajo osebnih podatkov povprečnih uporabnikov, temveč predstavljajo tveganje predvsem za razvijalce in ponudnike storitev umetne inteligence. Google je kampanjo zaznal v realnem času in uvedel varnostne mehanizme, ki so omejili razkritje notranje logike modela ter onemogočili povezane račune. Kljub temu podjetje opozarja, da bodo takšni poskusi postajali vse pogostejši, saj podjetja po vsem svetu bijejo neizprosen boj za tehnološko prednost na področju umetne inteligence, kjer so stroški samostojnega razvoja modelov od začetka merjeni v milijardah ameriških dolarjev.