OpenAI z modelom GPT-Red presegel človeške varnostne strokovnjake
V svetu umetne inteligence se bitka za varnost in zanesljivost sistemov vse bolj seli v roke strojev samih. Podjetje OpenAI je razkrilo podrobnosti o svojem novem, strogo internem modelu GPT-Red. Njegova edina naloga je napadanje (red teaming) lastnih modelov podjetja in iskanje ranljivosti, še preden ti ugledajo luč sveta. Razlog za takšen korak je preprost: ročno preverjanje varnosti, ki ga izvajajo ljudje, je postalo prepočasno in ne more več slediti skokovitemu razvoju ter širitvi tehničnih zmožnosti sodobnih modelov.
