Najdražji polizdelek na svetu
Od lanskega odprtja DALL E javnosti in sledeči predstavitvi ChatGPT sem po službeni dolžnosti redno uporabljal umetno inteligenco. Ni šlo le za preizkuse, ocenjevanje in pisanje, temveč za uporabo pri resnem raziskovalnem delu. Kljub osupljivim sposobnostim se mi zdijo napovedi, kako bo pogubila človeštvo, uničila na stotine poklicev in docela predrugačila svet, pretirane. Predvsem pa se mi zdi umetna inteligenca en velik – polizdelek.
Veliki jezikovni modeli so zahrbtno neugodni: ne zato, ker bi bili sposobni zavladati svetu, niti zato, ker jih lahko izkoristimo za načrtno ustvarjanje lažnih informacij, temveč, ker to počno sami in brez opozorila. Odkrito priznam, da skripte v Bashu in pythonovo kodo zdaj pišem tako, da mi ChatGPT po besednem opisu naredi ogrodje, ki ga popravim. A pogosto so njegovi predlogi napačni. Včasih zgolj ne naredijo, kar bi želel, spet drugič je bil v zanki for en »cd …« preveč, kar bi pobrisalo korenske mape, če kode ne bi prej temeljito prebral in preizkusil v virtualki.
To so očitni primeri. Če pa Bing Chat sprašujem po kakšnih informacijah, so te pogosto faktično tako napačne, da je to nestrokovnjaku neočitno. Ni hudo za glavno mesto Avstralije razglasiti Sydney. Resnejši problem je, ko so nasveti škodljivi. Če Googlov Bard vprašate, kateri procesor je najhitrejši in kako ga namestiti, dobite leto dni star predlog in navodila, s katerimi ga zlomite. ChatGPT tudi nima zavor, ko si izmišljuje vire, ki ne obstajajo.
Pretekli mesec smo brali o ameriškem odvetniku, ki si je pri sestavi odgovora na tožbo »pomagal« s ChatGPT. Na sodišču so to ugotovili, ko niso našli primerov, ki jih je navajal kot vire. Kasneje je skesano dejal, da je izrecno vprašal, ali so viri resnični, in ChatGPT je pritrdil. To je prava nevarnost! Stroje vedno uporabljajo večinoma ljudje, ki nimajo skoraj nobenega znanja o njih – to je matematično dejstvo. Za ChatGPT in sorodnike pa proizvajalci zgolj v kakšni podčrtni opombi dopišejo, da gre za preizkusne različice, za pravilnosti katerih ne jamčijo, a se ob vsem pompu to zavedanje izgubi.
Kako neki se je ves svet navdušil nad polizdelkom, ki ga ne razumemo in naključno bleja neumnosti?
Trdim, da imamo pred seboj polizdelke. Razumljiv ugovor je, da je z vsako tehnologijo na začetku tako, a ga ne sprejmem zaradi trojega. Prvič, jezikovne modele kot nevronsko mrežo so igralci v svet spustili brez jasnih opozoril ali navodil. Vsak resni stroj, najsibo to motorna žaga ali letalo, ima obsežna navodila za uporabo, kjer so jasno navedeni parametri delovanja, njegove sposobnosti in nevarnosti. In če je umetna in inteligenca po univerzalnosti še najbolj podobna programskim jezikom, tudi zanje obstajajo debele knjige z navodili. Ti jezikovni modeli pa pridejo s pavšalnim opozorilom: To je preizkusna različica, uporabljajte na lastno odgovornost.
Drugič, podjetja sposobnost umetne inteligence oglašujejo kot rešitev tako rekoč vseh izzivov in kar tekmujejo, kdo jo bo hitreje namestil v več izdelkov. To javnosti sporoča vse kaj drugega kot obstoj omejitev. To zveni kot: »Umetna inteligenca zmore vse in še več, tako da vam vseh njenih sposobnosti sploh ne moremo opisati.« A strojev in avtomatizacije ne uporabljamo zgolj zato, ker zmorejo, česar mi ne, temveč tudi, ker jim marsikje bolj zaupamo. Umetni inteligenci inherentno ne moremo zaupati, saj nam sploh ne zna povedati, kje ji ni verjeti. Tudi vrstni red vložka in nagrade je obrnjen. Pri klasičnih strojih moramo najprej vložiti trud v učenje, da nam je potem z uporabo lažje, današnjo umetno inteligenco pa uporabljamo takoj, čemur šele sledi trud pri preverjanju rezultatov.
In tretjič, še nikoli v zgodovini nismo imeli stroja, ki ga nismo razumeli, pa smo se s tem sprijaznili. Osnovni koncepti jezikovnih modelov so seveda poznani, a težave imamo že z razumevanjem delovanja konkretnega algoritma v Amazonovi trgovini, veliki jezikovni modeli pa so povsem nova kategorija. Še OpenAI priznava, da jih preseneča, kako prepričljivo deluje ChatGPT.
Ne pravim, da morajo biti vsi novi izdelki reaktivna letala, ki so preverjena od spredaj in zadaj. Še vsaka novost je imela porodne krče, ki so jih naslednje generacije odpravile. A vsem je bilo jasno, da jih ima, to pot pa je to zavedanje umanjkalo. Vsako novo tehnologijo – od integriranega vezja do kriptovalut – so predstavljali kot revolucijo, ki jo bo njena uporaba sprožila v prihodnosti. Umetna inteligenca pa se že uporablja tu in zdaj.
V zgodovini so iznašli stroje, ki so temeljili na ne povsem pojasnjenih fizikalnih dejstvih. Ko je Alessandro Volta sestavil prvo baterijo, so bile Maxwellove enačbe elektromagnetizma še 70 let v prihodnosti. A baterija, ki jo je Volta sestavil, je delovala predvidljivo in vsakokrat enako. Rezultati umetne inteligence pa so naključni in nepredvidljivi, tudi ob istem vhodnem parametru drugačni. Hkrati nikogar ne moti, da v resnici ne vemo, kako in zakaj deluje tako dobro, niti nikogar to ne skrbi. Kot univerzalna rešitev se ponujajo več podatkov, obširnejše nevronske mreže, hitrejši procesorji – sami surovi pristopi.
Kako neki se je ves svet navdušil nad polizdelkom, ki ga ne razumemo in naključno bleja neumnosti? In še pomembnejše: bo tako stalo? Bomo obsojeni na polizdelke?
