Uvodnik: Pomočnik ali branik?

Zgodba se mi je pripetila pred kratkim: po dolgem čakanju na telefonsko pomoč pri banki OTP sem namesto človeka prejel SMS z vabilom k uporabi njihovega »pametnega« pomočnika Nika. Katastrofa.

Po nekaj poskusih – in po navodilu, naj vprašanje »zastavim na drugačen način«, saj »verjetno ni prepoznal ključnih besed v mojem vprašanju« — sem zaključil: sistem je žal pameten le toliko, kolikor smo vanj vložili. In Niko je nekje na ravni Elize, prvega pogovornega sistema iz 60. let prejšnjega stoletja. A to ni le smešen pripetljaj; je simptom širšega prehoda v storitvah, ki ga je pospešila pandemija in je spremenil odnos med organizacijami in strankami.

Med pandemijo so podjetja in javne ustanove izvedli obsežno digitalizacijo podpore. Spletni obrazci, FAQ in klepetalni roboti niso bili uvedeni iz ljubezni do avtomatizacije, ampak iz nuje in zaradi varčevanja. Po koncu pandemije pa so številni klepetalni roboti (»pomočniki«) ostali v stanju polovične zrelosti. Nenazadnje so bili številni razvijalci le mali in agilni ponudniki, ki so svojo rešitev brez nadaljnjega razvoja prodali velikim naročnikom. Včasih kar iz udobja domačega gospodinjstva, z vilo in beemvejem na dvorišču kot tihim dokazom, da tudi mala podjetja zmorejo ustvariti precej kapitala. Danes se ukvarjajo s čim drugim, pomočniki niso več v modi, vila in beemve pa sta ostala. Da, šlo je za dobičkonosno industrijo in ne nujno za izboljšanje uporabniške izkušnje.

Tehnološko gledano je danes pomočnike mogoče izdelati na dva načina: klasično, s pravili in z vodenimi sistemi, in bolj moderno, z uporabljenimi velikimi jezikovnimi modeli (LLM) v ozadju. Ti drugi obljubljajo razumevanje konteksta, sintezo informacij in celo proaktivno reševanje problemov. A zgodovina nas uči previdnosti. Ko so modeli dobili svobodo, se ni vedno izšlo najbolje – Microsoftov Tay je bil med ljudi spuščen prek Twitterja in, logično, postal takšen, kot je povprečje na Twitterju (danes X): rasističen, seksističen in nasilen. To niso le tehnične napake; gre za tveganja, ki imajo resne posledice, ko sistem laže, nasprotuje ali razširja pristranskosti.

Sodišče je odločilo, da so podjetja pravno odgovorna za napačne trditve svoje umetne inteligence.

Ključne ovire za »resnično pametne« pomočnike so zlahka prepoznavne. Prva je zanesljivost: sistem mora dosledno odgovarjati pravilno in pojasnjevalno, predvsem kadar gre za finance ali pravne zadeve. Druga je cena: zanesljiv sistem zahteva drage komponente – usposobljene modele UI, varnostne mehanizme, človeški nadzor in stalno vzdrževanje. Tretja je odgovornost: kdo bo prevzel odgovornost, ko bo klepetalnik podal napačno informacijo? Na spletni strani Air Canada je, denimo, njihov pametni klepetalnik uporabniku podal napačne informacije o pravilih za popust pri pokojninskih vozovnicah. Ko je potnik na podlagi teh informacij zahteval povračilo, ga je družba zavrnila, češ da podatki niso bili pravilni. Sodišče je nato odločilo, da je prevoznik Air Canada odgovoren za zavajajoče izjave svojega chatbota, in uporabniku prisodilo povračilo 650 kanadskih dolarjev in s tem potrdilo, da podjetja ostajajo pravno odgovorna za napačne trditve svoje umetne inteligence.

Razumeti je treba tudi ekonomsko logiko. Če sta primarna cilja podjetja znižanje stroškov in zmanjšanje neposrednih pritožb uporabnikov, bo veliko avtomatiziranih rešitev zasnovanih prav zato – da preusmerijo, ublažijo ali zgolj odložijo stik s človekom. Če delujemo v sektorjih, kjer so posledice napak hude, kot so bančništvo, zdravstvo in javne storitve, bo potrebna drugačna investicijska odločitev – če želimo resnično pametne sisteme, moramo biti pripravljeni plačati za njihovo integriteto in nadzor.

Vendar ne smemo zanemariti pozitivnih možnosti. Dobro zasnovan LLM-pomočnik, povezan z notranjimi podatki institucije in opremljen s sistemom za preverjanje dejstev, lahko dejansko skrajša čakalne dobe, zmanjša potrebo po ponavljajočih se klicih in poveča dostopnost storitev za manj izkušene uporabnike. Rešitev ni v izogibanju tehnologiji, temveč v njenem odgovornem oblikovanju, preizkušanju in regulaciji.

Ali bodo pomočniki kdaj resnično pametni? Odgovor se giblje nekje v orbiti drugega, še bolj ključnega vprašanja – bo umetna inteligenca kdaj dosegla stanje splošne umetne inteligence (AGI)? Mnenja so tukaj še deljena – vodje in lastniki velikanov UI, kot so OpenAI, Google ali Meta, nas prepričujejo, da bo to kmalu. Za tako zatrjevanje imajo finančne razloge. Nekateri izmed tistih, ki so današnje sisteme LLM pomagali razviti in vzpostaviti (in nato odstopili), se s tem ne strinjajo – še več strojne moči in še več porabljene elektrike naj v tej smeri ne bi pomagalo.

Naj se vrnem k spletnim pomočnikom – bomo kot družba in podjetja vlagali v kakovost ali bomo sprejemali poceni imitacije, ki nas pomirijo le z videzom storitve? Dokler bomo pri odločanju tehtali le stroške, se bomo še vedno ukvarjali z Niki, ki zahtevajo, da »vprašamo drugače«. Za pametne pomočnike, ki nas resnično razumejo, bo treba vložiti več kot le prijazen vmesnik.

Prebrali ste uvodnik v novo številko Monitorja.

Berite Monitor!

- z aplikacijami za iPhone in Android,

- v listalniku PDF,

- na papirju.

- Ali pa se naročite!