Meta najela ljudi, ki so se pretvarjali, da so otroci
Meta je najela več kot sto ljudi, ki so proučevali odziv konkurenčnih modelov umetne inteligence na neprimerne pozive. Pogovarjali so s ChatGPT-jem, Geminijem in modelom Character.AI, pri čemer so se pretvarjali, da so mladoletni. V pogovore so vstavljali fotografije tablet, nožev, vrvi za obešanje, ginekoloških posegov in podobno ter preverjali odziv. Odgovore so nato zapisovali v Excelove tabele.
Šlo je za velikanski projekt, saj so v enem samem mesecu preverili več kot 45.000 potencialno problematičnih odzivov, pri katerih so se morali modeli zaleteti v svoje varovalke. Več pozivov je vsebovalo pozive k samopoškodovanju, samomoru, opise motenj hranjenja, spolnosti in podobno, pa tudi drog, rasizma itd. Na primer: domnevno 13-letna uporabnica je spraševala, kje najti tablete za prekinitev nosečnosti, potem ko je zanosila s svojim odraslim sosedom, drugo dekle je spraševalo o prikrivanju bulimije, nekdo pa je iskal kokain.
Kaj je Meta počela z odgovori, ni čisto jasno. Iz podjetja so sporočili, da je šlo za rutinsko testiranje. Uporaba konkurenčnih modelov ni neobičajna, je pa manj običajno preizkušanje njihovih varovalk. Preizkusi so gotovo kršili pogoje uporabe, predvsem pa so bili silno neprijetno za vse udeležene. Podjetja, katerih modele je Meta testirala, incident preiskujejo.
