Luka Kacil – Shovels: Vse o startupu »AI-first«
Ogrodje – kjer tehnologija dobi svoj glas
V zadnji epizodi podkasta Ogrodje sta Andraž Sraka in Oto Brglez gostila Luko Kacila, soustanovitelja ameriškega startupa Shovels, ki podatke o gradbeništvu spreminja v poslovno orodje. Pogovor, ki je trajal dobri dve uri, je hitro presegel okvir »še ene UI-epizode« in se sprevrgel v pošteno bilanco tega, kaj umetna inteligenca danes v praksi sploh zmore in kje jo podjetja, ki so nanjo stavila zgodaj, dejansko uporabljajo. Ideja je preprosta, izvedba pa vse prej kot to: v ZDA gradbena dovoljenja izdaja prek 20.000 lokalnih uprav, vsaka po svojih pravilih, brez skupne baze. Podjetje te razpršene, pogosto slabo digitalizirane podatke zbira, čisti in povezuje v celoto, ki jo nato prodaja velikim gradbenim podjetjem – od tistih, ki na ključ gradijo cela naselja, do investitorjev v podatkovne centre, ki jih ne zanima le cena elektrike, temveč tudi, ali je v okolici sploh dovolj usposobljenih izvajalcev za pravočasno dokončanje projekta. Zanimivo je, kako malo ljudi stoji za tem: podjetje je prvo investicijo dobilo z ekipo petih, od tega z le dvema inženirjema, in kljub temu zgradilo sistem, ki dnevno obdeluje na tisoče razdrobljenih, ročno pridobljenih virov podatkov. Kacil to pripisuje tako preudarni rasti – niso metali denarja v deset idej hkrati – kot tudi novemu naboru orodij, ki majhnim ekipam omogočajo, da naredijo, kar bi prej zahtevalo bistveno večje moštvo.
Precejšen del pogovora je namenjen temu, kako se je v zadnjem letu spremenil sam način dela z UI. Kacil pravi, da je prompt engineering že preteklost, saj je danes v ospredju gradnja tako imenovanih harnessov, torej ogrodij, ki agenta usmerjajo, mu postavljajo mehanske omejitve in preverjajo, ali se drži predpisanega postopka. Namesto klasičnih testov v njegovi ekipi uporabljajo tako imenovane end-to- -end vrata, s katerimi preverjajo končni rezultat dela agentov, ne le posameznih korakov.
Zanimivo je tudi vprašanje odgovornosti: v podjetju agentom sicer zaupajo vse več samostojnega dela, a odgovornost za vsak pull request ostaja pri človeku – vsaj dokler se pregledovalci ne bodo strinjali, da agent dosledno dela vse prav.
Sogovorniki so se dotaknili tudi tega, kje UI danes v podjetju dejansko prihrani čas – in odgovori segajo daleč od pisanja kode. Novi sodelavci se vpeljejo v delo prek agenta, ki jih vodi skozi interno dokumentacijo, prodajno osebje med klicem s stranko v realnem času pripravi analizo podatkov, ki bi jo prej pripravljal inženir več dni, podpora pa uporablja agenta z dostopom do analitike, da težavo razišče, še preden odgovori uporabniku. Za pridobivanje podatkov, ki jih ni mogoče najti na spletu, poganjajo tudi bolj avtonomne agente, a Kacil poudarja, da to še zdaleč ni brezhibno in samodejno, temveč gre za počasno, iterativno gradnjo zaupanja v orodje.
Ob robu je stekla tudi debata o gradnji podatkovnih centrov, ki naj bi po nekaterih ocenah generirali izjemen delež ameriškega BDP. Gostitelja sta se spraševala, zakaj se podobno gradbeno evforijo redkeje vidi v Evropi, Kacil pa je dodal zanimivo podrobnost iz svoje panoge: pri izbiri lokacije za tovrstne objekte ni pomembna le cena elektrike, ampak tudi, koliko izvajalcev dejansko dela na določenem območju – kar je nekaj, kar razkrijejo šele podatki o dovoljenjih, ne pa uradni poslovni registri, kjer je sedež podjetja lahko povsem drugje.
Ena od bolj poslovno kočljivih tem je vprašanje, ali v svetu umetne inteligence sploh še obstaja kaj, česar konkurenca ne more preprosto prekopirati. Kacilov odgovor je nedvoumen: sam model ni konkurenčna prednost, saj ga slej ko prej dohitijo ali prehitijo drugi, tudi odprtokodni. Prava vrednost je v podatkih, ki jih ima podjetje samo in do katerih drugi nimajo dostopa, ter v specifičnem znanju panoge, ki ga noben splošni jezikovni model ne pozna.
Proti koncu pogovora sogovorniki zaidejo tudi na bolj nelagodna vprašanja – o tem, kako varni so ti sistemi v resnici, kakšna tržišča obstajajo za tiste, ki modele namenoma poskušajo »zlomiti«, in kaj natanko naj bi neka nedavna, precej odmevna izjava enega od vodilnih UI-podjetij dejansko pomenila (youtube.com/@ogrodje). Tu se pogovor po pošteni meri razdvoji: eden od gostiteljev vidi predvsem marketinško potezo pred pomembnim dogodkom podjetja, drugi ne izključuje, da je za tem nekaj resničnega. Kaj natanko se je zgodilo in zakaj je Kacila o tem prepričal celo znanec, ki v omenjenem podjetju dejansko dela, izveste v objavljeni epizodi. Na koncu Kacil svetuje predvsem tistim, ki UI še vedno uporabljajo zgolj kot pogovorno okno v brskalniku: čim prej naj poskusijo namizno orodje, ki lahko dostopa do celotnega konteksta njihovega dela, ne le enega izoliranega pogovora. UI po njegovem ni nadomestek za iskalnik, temveč ojačevalec – če proces že razumeš in ga znaš dobro opisati, ti bo prinesel ogromno, če pa ne veš, kaj počneš, boš to hitro ugotovil tudi z najboljšim orodjem v rokah.
Za vse podrobnosti, vključno z anekdoto o pogodbeniku v delovni kapi, ki je sredi klica želel svojega agenta priklopiti na njihov API, in odkrito debato o tem, kaj se bo zgodilo, ko bo agent nekega dne prevzel vlogo produktnega vodje, poslušajte celotno epizodo podkasta Ogrodje.
