Google nam posreduje milijon laži na minuto

Googlov iskalnik, ki uporablja umetno inteligenco, se sooča z resnimi težavami glede verodostojnosti podatkov, saj raziskave kažejo, da kljub napredku tehnologije vsak dan ustvari milijone napačnih odgovorov.

Čeprav so testi podjetja Oumi pokazali, da se je natančnost Googlovih povzetkov z modelom Gemini 3 izboljšala na približno 91 odstotkov, preostalih 10 odstotkov napak pri ogromni količini poizvedb pomeni, da smo uporabniki vsako uro izpostavljeni več kot 57 milijonom napačnih informacij. To pomeni skoraj milijon netočnih odgovorov na minuto, kar kljub visokemu odstotku uspešnosti povzroča resne skrbi glede zanesljivosti iskanja. Težava ni le v vsebini, temveč tudi v citiranju virov, saj so raziskovalci opazili povečanje razkoraka med trditvami umetne inteligence in spletnimi stranmi, na katere se sklicuje. Po februarski posodobitvi se v 56 odstotkih primerov zgodi, da navedeni viri sploh ne potrjujejo trditev v povzetku ali celo vsebujejo nasprotne informacije. Sistem se je izkazal tudi za ranljivega za manipulacije, saj so raziskovalci z objavo namerno napačnih informacij dosegli, da je Google te lažne trditve že naslednji dan ponavljal kot dejstva.

Zaradi teh tveganj tehnološka podjetja v drobnem tisku vse pogosteje poudarjajo, da njihova orodja niso primerna za sprejemanje pomembnih odločitev; Microsoft denimo Copilot označuje kot orodje za zabavo, Google pa uporabnike izrecno poziva k dodatnemu preverjanju vseh odgovorov.