Umetna inteligenca (UI) bo postala ključni dejavnik svetovne ureditve od prilagoditve vojaških strategij do prenove diplomacije. Imuna je na strah ter usluge in predstavlja novo možnost za objektivnost pri strateških odločitvah. A ta objektivnost, ki jo izkoriščata tako vojak kot mirovnik, bi morala ohranjati človeško subjektivnost, ki je ključna za odgovorno izkoriščanje moči. UI bo v vojni osvetlila najboljše in najhujše plati človeštva, služila bo kot sredstvo tako za začetek kot konec vojne.
Henry A. Kissinger, Eric Schmidt, Craig Mundie
Dolga bitka človeštva, da bi se uspešno umestilo v vse bolj zapletenih razmerah in ne bi nobena država absolutno nadvladala nad drugo, je dosegla status neprestanega, neprekinjenega naravnega zakona. Na svetu, na katerem so glavni igralci še vedno ljudje – četudi opremljeni z UI za informiranje, posvetovanje in iskanje nasvetov –, bi države še vedno morale uživati neko mero stabilnosti na podlagi skupnih pravil vedenja, ki bi jih sproti prilagajale.
Če pa se bo UI uveljavila kot tako rekoč neodvisna politična, diplomatska in vojaška entiteta, bi novo, nenadzorovano neravnovesje izrinilo dolgoletno ravnovesje moči. Mednarodna skupnost držav – občutljivo in nihajoče sožitje, ki so ga dosegle v zadnjih stoletjih – se je delno obdržala zaradi inherentne enakosti udeleženk. Izrazito asimetričen svet – v katerem bi nekatere države najzmogljivejšo UI sprejele hitreje kot druge – bi bil manj predvidljiv. Ko bi se nekateri ljudje morali vojaško ali diplomatsko soočiti z državo, močno podprto z UI ali celo s samo UI, bi morda težko že preživeli, kaj šele, da bi se enakovredno merili z njo. Takšna ureditev bi lahko pripomogla k imploziji družbe in nenadzorovani eksploziji zunanjih sporov.
Obstaja še veliko drugih možnosti. Ljudje se že dolgo spopadajo in bojujejo ne le za varnost, temveč tudi za zmago ali čast. Naprave za zdaj ne poznajo teh konceptov. Mogoče nikdar ne bodo šle v vojno in bi se raje odločile za takojšen, skrbno pripravljen prenos ozemlja na podlagi zahtevnih preračunov. Ali pa bi dale prednost rezultatu namesto življenju posameznikov in bi se odločile za korake, ki bi se stopnjevali v krvave vojne, dokler se človeštvo ne bi izčrpalo. Po enem od scenarijev bi se naša vrsta lahko močno spremenila, da bi se popolnoma izognila brutalnosti človekovega vedenja, po drugem pa bi nas tehnologija tako zasužnjila, da bi nas to vrnilo v barbarsko preteklost.
Varnostne dileme umetne inteligence
Številne države se posvečajo predvsem zmagi v tekmi za UI, kar je delno mogoče razumeti. Kultura, zgodovina, komunikacija in stališča so med današnjimi velesilami pripomogli k diplomatskim razmeram, ki pri vseh podpihujejo negotovost in sumničavost. Voditelji so prepričani, da bi manjša taktična prednost v morebitnem konfliktu odločala o zmagi in da bi to ključno prednost lahko nudila ravno UI.
Če bi si vsaka država hotela izboriti čim boljši položaj, bi nastale razmere za psihološko tekmo med vojaškimi silami in obveščevalnimi agencijami, kakršnih človeštvo še ni doživelo. Pojavila bi se dilema eksistenčne varnosti. Zdi se logično, da bi človeški akter, ki bi se prikopal do superinteligentne UI – hipotetične UI, inteligentnejše od človeške –, najbrž želel zagotoviti, da nihče drug ne bi imel zmogljivejše različice tehnologije. Takšen akter bi samoumevno verjetno tudi predvideval, da njegov tekmec, ki ga pestijo enake negotovosti in skrbi, razmišlja o enaki potezi.
Leta 1942 je sovjetski fizik Georgij Fljorov pravilno sklepal, da Združene države Amerike sestavljajo jedrsko bombo, saj je opazil, da so Američani in Britanci na lepem nehali objavljati znanstvene razprave o jedrski cepitvi.
Superinteligentna UI bi razen vojne lahko preprečila, spodkopala in preprečila konkurenčne načrte. UI obeta, da bo nepredstavljivo okrepila delovanje konvencionalnih računalniških virusov in jih hkrati temeljito zakamuflirala. Tako kot računalniški črv Stuxnet – kibernetično orožje, ki so ga odkrili 2010 in naj bi uničil petino iranskih centrifug za uran – bi tudi sistem UI lahko sabotiral napredek tekmecev in prikril svojo prisotnost, sovražnikove znanstvenike pa s tem prisilil, da bi lovili sence. Ker zna UI izvrstno manipulirati s šibkimi točkami človeške psihologije, bi lahko ugrabila tudi sovražnikove medije in objavljala plaz umetno ustvarjenih lažnih informacij ter podpihovala množično nasprotovanje nadaljnjemu napredku zmogljivosti UI v tej državi.
Države bodo težko dobile jasno podobo o svojem položaju v primerjavi z drugimi udeleženkami v tekmi za UI. Največje modele UI že danes učijo v varnih omrežjih, odklopljenih od preostalega interneta. Nekateri direktorji so prepričani, da bodo prej ali slej tudi sam razvoj UI preselili v neprebojne bunkerje in superračunalnik bodo poganjali jedrski reaktorji. Podatkovna središča zdaj gradijo na dnu oceanov. Kmalu bodo lahko krožila v orbitah okrog Zemlje. Tako podjetja kot države se bodo večkrat odločili za molk in ne bodo več objavljali izsledkov raziskav UI, in to ne le zaradi škodljivih udeležencev, temveč tudi zato, da bi prikrili svojo stopnjo razvoja. Dosežke bi lahko izkrivljali tudi tako, da bi načrtno objavljali zavajajoče raziskave, pri ustvarjanju prepričljivih lažnih zgodb pa bi jim pomagala kar UI.
Takšne znanstvene skrivalnice že poznamo. Leta 1942 je sovjetski fizik Georgij Fljorov pravilno sklepal, da Združene države Amerike sestavljajo jedrsko bombo, saj je opazil, da so Američani in Britanci na lepem nehali objavljati znanstvene razprave o jedrski cepitvi. Danes bi bil takšen podvig še manj predvidljiv zaradi zapletenega in dvoumnega merjenja napredka na poti do nečesa tako abstraktnega, kot je inteligenca. Čeprav si marsikdo domišlja, da ima sorazmerno prednost zaradi velikosti modela, to ni v vseh okoliščinah tudi nujno boljše in večji model ne premaga vedno manjših. Bolj specializirane naprave na temelju UI lahko delujejo kot jata dronov v primerjavi z velikim letalom – ne morejo ga uničiti, lahko pa ga onemogočijo.
Akterju bi nemara pripisovali prednost, če bi moral prikazati dosežek na točno določen področju. Težava pri takšnem načinu razmišljanja pa je, da UI pomeni strojno učenje, ki ni vključeno le v eno tehnologijo, temveč tudi v širok nabor različnih tehnologij, in zmogljivost na enem področju včasih omogočajo povsem drugačni dejavniki kot na drugem. V tem primeru bi lahko bila prednost, ocenjena s klasičnimi postopki, le namišljena.
In kot je pokazala eksponentna, nenapovedana eksplozija zmogljivosti UI v zadnjih letih, pot napredka ni niti linearna niti predvidljiva. Tudi če bi lahko rekli, da eden od akterjev druge prehiteva za neko število let ali mesecev, lahko nenaden tehnološki ali teoretični preboj na ključnem področju v ključnem trenutku premeša karte vseh igralcev.
V takšnem svetu, v katerem voditelji ne morejo zaupati niti najzanesljivejšim podatkom, svojemu notranjemu glasu in celo ne temeljem resničnosti, državam ne moremo očitati, da ravnajo paranoično in sumničavo. Voditelji se nedvomno že danes odločajo na podlagi predpostavke, da njihovo početje nekdo opazuje ali da nanj vplivajo izkrivljanja zaradi zlonamernega vplivanja. Če bi vedno imeli v mislih najbolj črn scenarij, bi vsak akter v svojih strateških tehtanjih dal prednost hitrosti in tajnosti pred varnostjo. Voditelje lahko ohromi strah, da drugo mesto ne obstaja. Pod pritiskom bi preuranjeno pospešili uporabo UI za odvračanje neželenih zunanjih vplivov.
Nova paradigma vojne
Skoraj vso človeško zgodovino so vojne bojevali na razmejenem prostoru, kjer so vsi lahko s precejšnjo zanesljivostjo ocenili zmogljivosti in položaj sovražnih sil. Kombinacija teh dveh atributov je obema stranema vzbujala občutek psihološke varnosti in dogovora, kar je omogočilo obveščeno omejevanje žrtev. Le ko so voditelji imeli enake predstave, kako bi se lahko odvijala vojna, so nasprotne sile lahko pretehtale, ali jo je vredno začeti.
Hitrost in mobilnost sta med najbolj predvidljivimi dejavniki, na podlagi katerih je mogoče oceniti zmogljivost posameznih kosov vojaške opreme. Eden najstarejših primerov je razvoj topa. Teodozijevo obzidje je tisočletje po izgradnji veličastno mesto Konstantinopel varovalo pred zunanjimi napadalci. Nato je leta 1452 madžarski topniški inženir vladarju Konstantinu XI. predlagal gradnjo ogromnega topa, s katerim bi napadalce obstreljevali izza obzidja in jih zmleli. A samozadovoljni vladar, ki ni imel niti sredstev niti uvida, da bi prepoznal pomen tehnologije, je predlog zavrnil. Na njegovo veliko žalost se je pokazalo, da je madžarski inženir velik koristoljubnež. Zamenjal je taktiko (in stran), nadgradil svoj top, da je bil mobilnejši in ga je lahko vleklo še vedno impresivnih 60 volov in 400 mož, ter ga ponudil Konstantinovemu tekmecu, otomanskemu sultanu Mehmedu II., ki se je pripravljal na zavzetje nepremagljive utrdbe. Podjetni Madžar, ki je sultanov interes pritegnil s trditvijo, da bi njegov top lahko podrl tudi zidove samega Babilona, je tako turškim silam pomagal, da so starodavne zidove osvojili v pičlih 55 dneh.
Temeljne značilnosti drame iz 15. stoletja je mogoče vedno znova razbrati skozi vso zgodovino. V 19. stoletju sta hitrost in mobilnost premešali karte najprej v Franciji, ko je Napoleonova vojska osvajala Evropo, in nato še v Prusiji pod vodstvom Helmuta von Moltkeja (Starejšega) in Albrechta von Roona. Oba sta izkoristila takratno novost, železnice, ki so omogočale hitrejše in prilagodljivejše manevriranje. Podobno so blitzkrieg, nadgradnjo istih nemških vojaških načel, ponovili proti zaveznikom med drugo svetovno vojno, kar je imelo pogubne posledice.
Bliskovita vojna je v dobi digitalnega vojskovanja dobila nov pomen – in postala vseprisotna. Vse se zgodi takoj, napadalcem ni treba žrtvovati ljudi, da ohranijo mobilnost, saj zemljepisne danosti ne predstavljajo več omejitev. Čeprav je ta kombinacija v digitalnih udarih večinoma koristila napadalcem, bi v dobi UI lahko doživeli še hitrejši odziv in v kibernetični obrambi poskrbeli za enako moč kot v kibernetičnih napadih.
V kinetičnem vojskovanju bo UI pripomogla k še enemu skoku naprej. Droni, na primer, bodo izjemno hitri in nepredstavljivo okretni. Ko bo UI prešla v splošno uporabo, ne bo usmerjala le enega drona, temveč kar celo floto. Nastajali bodo roji brezpilotnikov in popolnoma usklajeno leteli kot ena sama, enotna skupnost. Bodoče jate dronov bodo brezšivno razpadale in se brez omahovanja postrojile v nove enote različnih velikosti, podobno kot elitne enote za posebne naloge nastajajo iz večjih ali manjših skupin, od katerih je vsaka zmožna delovati tudi samostojno.
Umetnointeligenčno vojskovanje bo omejeno predvsem na oceno sovražnikovih namenov ter njihovih strateških ciljev in ne toliko z njegovimi zmogljivostmi.
UI bo poleg tega omogočila hitro in prilagodljivo obrambo. Flote brezpilotnikov je težko ali celo nemogoče sestreliti s konvencionalnimi projektili. Strelno orožje na temelju UI, ki bi izstreljevalo salve fotonov in elektronov namesto klasičnega streliva, bi lahko doseglo enako pogubne in hromeče zmogljivosti kot sončna nevihta, ki včasih cvre vezje izpostavljenih satelitov.
Orožje z UI bo tudi neverjetno natančno. Omejeno poznavanje nasprotnikovega terena ne bo več kratilo zmogljivosti in načrtov udeležencev v vojni. A naveza med znanostjo in vojno po novem prinaša tudi vse natančnejše instrumente in pričakovati je, da bo UI pripomogla k še več prelomnim novostim. UI bo tako zmanjšala razkorak med namero in izidom, vključno z uporabo smrtonosne sile. Tako kopenske jate brezpilotnikov kot avtomatsko orožje na morju in morda medzvezdne flote bodo zaradi naprav natančne in bodo ljudi pobijale z zanemarljivo stopnjo negotovosti in s strahovitim učinkom. Razsežnosti uničenja bodo odvisne le od volje in zadržkov tako ljudi kot naprav.
Umetnointeligenčno vojskovanje bo omejeno predvsem na oceno sovražnikovih namenov ter njihovih strateških ciljev in ne toliko z njegovimi zmogljivostmi. V jedrski dobi smo v to fazo že vstopili – a njena dinamika in pomen bosta deležna veliko večjega zanimanja, ko bo UI dokazala, da se obnese tudi kot orožje v vojni.
Ob uporabi tako dragocene tehnologije glavna tarča vojne ob pomoči UI mogoče sploh ne bodo ljudje. Z UI bi ljudi kot izvajalce bojev pravzaprav lahko povsem izključili iz vojne, da bi bile manj smrtonosne, a zato nič manj pomembne. Prav tako samo želja po ozemlju najbrž ne bi sprožila agresije ob podpori UI – zanimivejši bi bili namreč podatkovni centri in druga pomembna digitalna infrastruktura.
Predaja se potemtakem ne bo zgodila, ko bodo nasprotnikove vrste zdesetkane in njegovi arzenali prazni, temveč ko silicijev ščit preživelih ne bo več zmožen zavarovati tehnološkega premoženja – in nazadnje tudi njegovih človeških namestnikov. Vojna bi se lahko razvila v igro z izključno mehanskimi žrtvami, odločilni dejavnik pa bi bil psihološka moč človeka (ali UI), ki bi se moral boriti proti tveganju oziroma preprečiti prelomni trenutek pred popolnim uničenjem.
Celo motivi na novem bojnem polju bi bili delno tuji. Angleški pisec Chesterton je nekoč pronicljivo pripomnil, da se pravi vojak ne bori, ker bi sovražil, kar ima pred seboj, temveč zato, ker ljubi, kar je za njim. Vojna ob pomoči UI najbrž ne bo vključevala ljubezni in sovraštva, kaj šele koncept vojaške hrabrosti. Po drugi strani pa bo verjetno še vedno polna ega, istovetnosti in pripadnosti, čeprav našteto verjetno ne bo enako temu, kar poznamo danes.
Vojna računica je razmeroma preprosta: stran, ki ji bo prvi postala nevzdržna bol bojevanja, bo najbrž poražena. Zavedanje o lastnih omejitvah je v preteklosti pripomoglo k omejevanju. Brez tega zavedanja in občutka (ter prenašanja) bolečine se človek mora vprašati, kaj le bo omejevalo UI, ki so jo vključili v vojskovanje, in kaj bo pripomoglo k zaključku konfliktov, ki jih bo podpirala. UI, ki igra šah, bi igrala do zadnjega kmeta, če je ne bi seznanili s pravili, kdaj je partija končana.
Geopolitično prestrukturiranje
V vsakem obdobju se je v človeštvu kot v skladu z nekim naravnim zakonom pojavila entiteta, kot se je nekoč izrazil Kissinger, z močjo, voljo in intelektualnim ter moralnim zagonom, da bi celoten mednarodni sistem prilagodila svojim lastnim vrednotam. Najbolj znana ureditev človeške civilizacije je klasični vestfalski sistem držav. Predstava o suvereni nacionalni državi je stara le nekaj stoletij in se je porodila na podlagi pogodb iz sredine 17. stoletja, ki jih poznamo pod skupnim imenom vestfalski mir. To ni vnaprej določena enota družbene organizacije in morda ni primerna za dobo UI. Ker ta pravzaprav zaradi množičnega dezinformiranja in avtomatizirane diskriminacije sproži izgubo zaupanja v to ureditev, morda predstavlja vrojeni izziv moči vlade nacionalne države. Po drugi strani pa bi UI lahko spremenila razmerja med relativnimi položaji tekmecev znotraj sedanjega sistema.
Če bodo njeno zmogljivosti izrabljale predvsem same nacionalne države, bi človeštvo lahko prisilile v hegemonistični pat položaj ali pa nemara v novo ravnovesje nacionalnih držav, opolnomočenih z UI. Vendar bi tehnologija lahko postala tudi katalizator še temeljnejšega prehoda v popolnoma nov sistem, v katerem bi bile posamezne države prisiljene, da bi opustile svojo osrednjo vlogo v globalni politični infrastrukturi.
Ena od možnosti je, da bi podjetja, ki so lastniki in razvijalci UI, pridobila popolno družbeno, gospodarsko, vojaško in politično moč. Danes so države prisiljene, da se spopadajo s svojim težavnim položajem kot navijačice zasebnih podjetij – svojo vojaško moč, diplomatski kapital in gospodarski vpliv zastavljajo za spodbujanje teh domačih podjetij – in kot podpornice povprečnega državljana, sumničavega do monopolističnega pohlepa in skrivnostnosti. To bo morda nepremagljivo protislovje.
Tako kot računalniški črv Stuxnet – kibernetično orožje, ki so ga odkrili 2010 in naj bi uničil petino iranskih centrifug za uran – bi tudi sistem UI lahko sabotiral napredek tekmecev in prikril svojo prisotnost, sovražnikove znanstvenike pa s tem prisilil, da bi lovili sence.
Mogoči razpleti s tem še niso izčrpani. Nenadzorovana, odprtokodna razširjenost bi lahko povzročila pojav manjših tolp ali združb s šibkimi sistemi UI, vendar velikimi zmogljivostmi, ki bi zadostovale za njihov obstoj in omejeno obrambo. V človeških združbah, ki odklanjajo uveljavljeno avtoriteto zaradi decentraliziranih financ, komunikacije in uprave, bi utegnila prevladati takšna protoanarhija na osnovi tehnologije. Takšne skupine bi lahko bile tudi versko obarvane, saj imajo navsezadnje krščanstvo, islam in hinduizem večji ter tudi trajnejši domet od katerekoli države v zgodovini. V prihodnjih obdobjih bi verska opredelitev utegnila zagotavljati otipljivejši okvir za poistovetenje in pripadnost kot državljanstvo.
Karkoli že bo prinesla prihodnost, četudi bodo v njej prevladale podjetniške naveze ali razpršene verske skupnosti, novega ozemlja, ki si ga bodo prilastile takšne združbe – in zaradi katerega se bodo tudi spopadale – ne bomo merili v kvadratnih metrih, saj bodo delovale v digitalni pokrajini. Prizadevale si bodo za pripadnost posameznih uporabnikov, vezi med njimi in vodstvom, kakršnekoli že bodo, pa bodo izrinile tradicionalno podobo o državljanstvu. Prav tako dogovori med novimi entitetami ne bodo spominjali na klasična zavezništva.
Z zgodovinskega zornega kota so zavezništva sklepali posamezni voditelji, služili pa so krepitvi moči države v primeru vojne. Nasprotno bo razumevanje državljanstva in zavezništev – pa mogoče tudi zavojevanj in križarskih pohodov – na temelju mnenj, prepričanj, hkrati s subjektivno identiteto navadnih ljudi v obdobju miru, prineslo novo (ali zelo staro) pojmovanje imperija, nujno pa bo tudi vnovično tehtanje obveznosti, ki jih prinaša zvestoba domovini, ter stroškov za možnosti izstopa, saj v nasprotnem primeru v umetnointeligenčni prihodnosti sploh ne bodo mogli obstajati.
Mir in moč
Zunanja politika nacionalnih držav se oblikuje in nato prilagaja z iskanjem ravnovesja med idealizmom in realizmom. Začasno ravnovesje, ki ga lovijo naši voditelji, naknadno ne obvelja za končno stanje, temveč ga moramo videti le kot kratkotrajne strategije za njihov čas. Z vsako novo dobo ta napetost prinese različno izražen politični red. Sestavni del te nikoli končane evolucije je razkorak med prizadevanjem za interese in negovanjem vrednot – oziroma med prednostmi neke nacionalne države in globalno blaginjo. Voditelji manjših držav so se zgodovinsko na diplomatskem področju odzivali odločno in prednost dali pogojem za lastno preživetje. Nasprotno pa so se odgovorni v svetovnih imperijih s sredstvi za doseganje dodatnih ciljev morali soočati z globljimi zadregami.
Od začetka civilizacije, ko so se počasi razvijale človeške organizacijske enote, se je hkrati povečevalo tudi sodelovanje. Danes pa postaja vse očitnejši hlad do tega trenda, morda zaradi zahtevnosti izzivov, s katerimi se sooča ves planet, in hkrati zaradi očitne materialne neenakosti med državami in znotraj njih. UI bi lahko bila primeren odgovor na zahteve še večjega obsega človeškega vodenja, zmožnega natančno in verno razbrati ne le obvez države, temveč tudi vzajemno delovanje sveta.
Upajmo, da bo UI, uporabljena v politične namene tako doma kot v tujini, storila več, kot le osvetlila uravnotežene kompromise. Idealno bi bilo, če bi nudila nove, globalno optimalne rešitve, delovala glede na dolgoročne napovedi in natančneje, kot so to zmožni ljudje. Tako bi tudi uskladila različne človeške interese. V prihodnjem svetu bo strojna inteligenca, ki bo usmerjala konflikte in se pogajala za mir, mogoče pomagala razjasniti ali celo premagati tradicionalne dileme.
No, če bi UI dejansko rešila težave, za katere bi morali upati, da jih zmoremo sami, bi lahko nastala kriza zaupanja tako zaradi pretiranega kot zaradi premalo zaupanja. Ko bomo dojeli omejitve lastnih zmožnosti samopopravkov, nam bo mogoče težko priznati, da smo napravam prepustili preveč vpliva pri reševanju eksistenčnih vprašanj človekovega vedenja. Kar pa se tiče premalo zaupanja, bi spoznanje, da je že odstranitev človeškega dejavnika iz urejanja zadev zadostovala, da smo razrešili najvztrajnejša odprta vprašanja, utegnilo še preveč jasno razgaliti pomanjkljivosti človeških vzorcev. Če mir od nekdaj ni nič drugega kot preprosta prostovoljna odločitev, je cena za človeško nepopolnost plačana z valuto nenehnih vojn. Zavedanje, da rešitev obstaja od nekdaj, a je nismo zagotovili sami, bi strla človeški ponos.
Ko gre za varnost, se v nasprotju z nadomeščanjem ljudi pri znanstvenih in drugih akademskih podvigih morda laže sprijaznimo z nepristranskostjo mehanske tretje strani kot inherentno boljše od človeškega prizadevanja za lastne interese – tako kot ljudje hitro prepoznajo potrebo po mediatorju v zapleteni razvezi zakonske skupnosti. Ravno nekatere naše najslabše lastnosti nam bodo omogočile, da bomo pokazali tudi nekaj najboljših: človeški nagon, zaradi katerega smo nagnjeni k skrbi za lastne interese, četudi na račun drugih, nas bo morda pripravil, da bomo zaradi UI presegli svoj jaz.
