Distopija je tu: ChatGPT že citira drugo umetno inteligenco oziroma Muskovo lažno enciklopedijo
Pri preverjanju odgovorov in virov, ki jih navaja najnovejši model GPT-5.2, so Guardianovi novinarji odkrili zaskrbljujoče brisanje meje med človeškimi in sintetičnimi viri. GPT-5.2 brez pomislekov citira Grokipedijo, kot se imenuje enciklopedija Elona Muska, ki ima težave z verodostojnostjo.
O Grokipediji so mediji že obširno poročali in ugotavljali, da so članki v njej neobjektivni in v skladu z Muskovimi političnimi prepričanji. Tudi v tej reviji smo podrobno analizirali Grokipedijo in prišli do enakih zaključkov. A Grokipedija ima še resnejši problem – ne pišejo jo ljudje, temveč besedilo ustvarja umetna inteligenca Grok, ki ji lahko damo le predloge. GPT-5.2 torej kot vhodne podatke jemlje stvaritve druge umetne inteligence.
Takšen zaprt krog je problematičen iz več razlogov. Raziskovalci so že pokazali, da če modeli za izboljševanje in trening uporabljajo podatke svojih prejšnjih verzij, to vodi v degradacijo in sesutje modelov. GPT-5.2 se za zdaj ne uči na Grokovih izdelkih, temveč jih le uporablja pri inferenci, torej poganjanju. A v prihodnosti se bo torej meja med človeškimi in sintetičnimi podatki še naprej brisala, zato bo čedalje teže ugotoviti, kaj je res človeško besedilo.
Čisto praktično pa imamo problem že sedaj, ker Grokipedija pač ni objektivna, ko govori o družbeno-političnih temah. Uporabniki pa bodo tem informacijam bolj verjeli, če se bodo reproducirale na različnih mestih, vključno s ChatGPT-jem.
