Google bere naše zasebne dokumente?

Zgodba razvijalca je šokirala tehnološki svet.

Vprašanje, ali Google svojo umetno inteligenco Gemini trenira na zasebnih dokumentih uporabnikov, je sprožilo precejšnje razburjenje v tehnološki skupnosti, potem ko je samostojni razvijalec videoiger javno opozoril na nenavaden dogodek. Razvijalec je namreč ugotovil, da je orodje Gemini enemu od igralcev razkrilo zelo specifične in še neobjavljene podrobnosti o njegovem projektu, vključno s točnim imenom bodočega lika, ki naj bi bilo zapisano izključno v njegovem zasebnem dokumentu Google Docs. Mnogi so dogodek takoj označili za dokaz, da Google skrivaj zajema zasebne podatke za učenje svojih modelov, vendar podjetje takšne obtožbe odločno zavrača. V skladu z uradno politiko zasebnosti Google modelov Gemini ne trenira na zasebnih vsebinah storitve Google Workspace brez izrecne privolitve uporabnika. Dostop do dokumentov je mogoč le prehodno, ko uporabnik sam zahteva analizo ali povzetek datoteke, pri čemer se podatki po izvedbi ukaza ne shranjujejo v trajni spomin modela.

Strokovnjaki zato opozarjajo na več verjetnejših pojasnil za ta nenavadni pojav. Do razkritja je lahko prišlo zaradi aktiviranih vtičnikov Workspace, ki orodju omogočajo branje datotek prijavljenega uporabnika, ali pa je bila povezava do dokumenta nastavljena kot javna in jo je spletni iskalnik predhodno indeksiral. Prav tako ni izključeno, da so delčki informacij že prej nehoteno krožili po družbenih omrežjih ali forumih, kjer jih je algoritem povezal v presenetljivo natančen odgovor, ali pa je šlo za kombinacijo statističnega ugibanja in haluciniranja umetne inteligence. Kljub temu dogodek ostaja pomembno opozorilo o tveganjih shranjevanja občutljivih podatkov v oblaku ter potrebi po previdnosti pri upravljanju pravic dostopa do digitalnih dokumentov.