Anthropic: bliža se Skynet
Najbolj znan fikcijski primer umetne inteligence, ki se je sama izboljševala in se na koncu zavedela sama sebe, je Skynet iz franšize Terminator. Vse do danes je bil trdno na polju znanstvene fantastike, a morda se bo to spremenilo. Anthropic, ki razvija enega najbolj znanih in najzmogljivejših modelov za pisanje kode, Claude, opozarja, da se bo vsak hip sposoben samoizboljševati.
Nanizali so nekaj povednih statistik, kako močno je napredoval v samo dveh letih in koliko dela na Claudu že sedaj opravi prav Claude. Model postaja čedalje zmogljivejši in če je še pred dvema letoma zmogel opravljati naloge, za katere ljudje potrebujejo nekaj minut, danes razume in opravi že naloge, ki bi ljudem vzele dneve. Čedalje kompleksnejšim nalogam je kos, razume več vhodnih navodil, v delovnem spominu lahko konsistentno obdeluje več podatkov.
Inženirji v Anthropicu že danes spišejo osemkrat več vrstic kode pred petimi leti, ker jim pri tem pomaga prav Claude. Več kot 80 odstotkov kode, ki gradi Claude, danes dodajajo z uporabo tega istega Clauda. Vse to kaže, kako zelo je napredoval. Zdaj se upravičeno postavlja vprašanje, kam to vodi in kam to hočemo, da vodi.
V Anthropicu vidijo tri možne poti. Morda smo potrgali že vse lahko dostopne sadeže, bistveno dlje pa s trenutnim pristopom ne bo šlo. Umetna inteligenca nas torej ne bo nadomestila, temveč bo v trenutni obliki opravljala zelo različne naloge, a nobene inherentno bolje od ljudi. Morda pa se bo eksponentni razvoj nadaljeval in bo Claude čedalje boljši, podobno kot kupček denarja raste čedalje hitreje zaradi obrestnoobrestnega računa, bodo inženirji s čedalje boljšim Claudom čedalje hitreje izboljševali njegovo delovanje. Tretja možnost je najbolj distopična: morda se bo začel Claude resnično izboljševati sam brez pomoči človeka.
