OpenAI si ne upa izdati GPT-6.1 Astra
OpenAI še ne bo dodal nove verzije GPT-6.1 Astra v ChatGPT in Codex, kar je po prvotnih načrtih želel storiti ta mesec. Novi model bo moral počakati, da izboljšajo njegove varovalke in preprečijo neželeno obnašanje. Šibkejši model iz nove družine, GPT-6.1 Sol, je normalno izšel in je že na voljo.
Vodja varnostnih sistemov v OpenAI-ju Saachi Jain dodaja, da je GPT-6.1 Astra na dveh področjih slabša od predhodnikov. To sta skladnost (alignment) in upoštevanje navodil. Skladnost je povezana s pokoravanjem splošnim normam obnašanja v družbi, kamor sodijo navodila, da modeli ne smejo početi nič nezakonitega, da ne smejo škodovati ljudem, da morajo pošteno odgovarjati in podobno. Poleg tega je model precej hinavski, saj širi obseg svojega delovanja prek tega, kar som mu naročili (scope authorization), obenem pa pogosto zavaja in ne pove po resnici, kaj počne.
Dokler OpenAI težav ne odpravi, bo GPT-6.1 Sol moral počakati.
