Razvijalci ne bodo več pisali kode, temveč jo bodo upravljali in preverjali

Izvršni direktor GitHuba Thomas Dohmke v svojem nedavnem blogu ugotavlja, da so najbolj napredni razvijalci že prešli od pisanja kode k skrbi za arhitekturo in preverjanju kode, ki jo napišejo UI agenti. Dohmke se sicer sklicuje na pisanje Antropicovega direktorja Darija Amodeija, ki meni, da bo v kratkem času 90 do100 odstotkov vse kode napisane z UI.

Vodja največjega repozitorija kode na svetu je pri tem navedel štiri faze zrelosti razvijalcev v razvoju z AI: skeptik, raziskovalec, sodelujoči in na koncu strateg. V zadnji fazi razvijalci delegirajo pisanje kode UI agentom in sami ostajajo pri izboljšavah navodil umetni inteligenci (promptov ter pri pregledu in potrjevanju izvedbe).

Ob tem poudarja, da je kljub prevzemu vloge s strani AI ključno, da razvijalci še vedno obvladajo osnovno programiranje, algoritme in strukture podatkov ter izvajajo ročni pregled kode. Pri tem vidi spremembe tudi v računalniškem izobraževanju, kjer naj bi se prihodnji fokus preusmeril k razumevanju sistemov, odpravljanju napak UI-generirane kode ter jasnemu izražanju idej – tako do ljudi kot do jezikovnih modelov (LLM). Abstrakcijo, razčlembo in specifikacijo v takem sistemu vidi kot novo programiranje.

Članek sicer ponuja optimistično vizijo razvoja podprtega z UI, vendar avtor izpostavlja tudi pomisleke. Raziskave opozarjajo, da lahko UI pri svojem delovanju tudi kvari kakovost kode, ob tem pa nastajajo varnostne ranljivosti, kot so vsadki v vprašanja (prompt injection), razkrivanja občutljivih podatkov, ranljivosti v dobavni verigi.

Poleg tega raziskava univerz Rice in Stanford kaže na tveganje, da se generativni modeli lahko močno motijo, če niso dovolj povezani z novimi, realnimi podatki, kar utegne degradirati natančnost in raznolikost odgovorov. Dohmke sicer meni, da ti pomisleki ne pomenijo razloga za zavrnitev UI, a hiter prehod v smer dominacije UI bi bil po njegovem lahko zmota.