Cenzorji so mrtvi, naj živijo algoritmi!

Ko je Prešeren leta 1844 napisal Zdravljico, ni mogel vedeti, ali jo bo sploh lahko priobčil svetu. Odobriti jo je moral cenzor, zato je kar sam izločil tretjo kitico, četrto pa mu je prečrtal Miklošič. Ker pesnik pohabljene pesmi ni maral izdati, je v celoti izšla šele po marčni revoluciji. Če bi jo napisal danes, bi jo lahko takoj objavil po internetu, kjer bi jo lahko prebral kdorkoli. Ali pa nihče, če bi tako hoteli bogovi.

Leta 2012 so nekatere pogoste stranke trgovske verige Target prejele kupone za popust pri izdelkih za mlade mamice. Ponudbe niso prejele po porodu, temveč še noseče. Zgodba je dvignila precej prahu, ker je Target ciljno skupino zadel s kirurško natančnostjo.

Microsoft je letos pokazal, da lahko iz ključnih besed iskanja z visoko verjetnostjo ugotovi, kdo ima raka trebušne slinavke, četudi sam tega sploh ne ve. Microsoft diagnozo postavi iz iskalnih terminov, ki so povezani s simptomi.

Če na kitajskem Googlu vtipkamo v kitajščini Trg nebeškega miru, bomo našli idilične posnetke trga. Drugod po svetu so med prvimi zadetki protesti iz leta 1989.

Tem zgodbam so skupni algoritmi. V Targetu ni nihče ročno pregledoval nakupov strank in iskal folne kisline. Na Kitajskem ni človeka, ki bi pregledoval iskalne poizvedbe in jih cenzuriral. To počno algoritmi, ki so postali cenzorji, ključarji in upravljavci življenja. Algoritmi so odgovor na vprašanje, zakaj na nekem semaforju zelena sveti 37 sekund, zakaj Goldman Sachs kupuje neko delnico, kako Facebook izbere prikazano vsebino, kam bo žerjav odložil posamezen zabojnik v luki in katere zadetke bo pokazal Google.

Seveda tudi pisno deljenje ni nič drugega kakor algoritem za premetavanje cifer po listu, a tu mislimo na kompleksne algoritme, ki žvečijo terabajte podatkov in vračajo rezultate, ki vplivajo na naš svet. Algoritem za upravljanje semaforjev ali iskanje luških kontejnerjev na tem mestu ni bistven, saj svojo nalogo opravlja predvidljivo, učinkovito in preverljivo. Precej pomembnejši za družbo so – to si upam zapisati – algoritmi, ki odločajo, kaj beremo, in ki imajo opraviti z osebnimi podatki.

Vsebine je danes toliko, da vsega ne moremo niti preleteti, kaj šele prebrati. Starejši kolegi raziskovalci se še spomnijo, kako so pred hiperprodukcijo znanstvenih člankov in internetom imeli pregled nad svojim raziskovalnim področjem. Danes je osnovno orodje raziskovalcev Web of Science, kjer med tisočimi iščemo članke. O delovanju njegovega algoritma nihče ne dvomi, je pa spremenil način, kako objavljamo rezultate raziskav. Naslovov in povzetkov ne izbiramo več tako, da bo besedilo lepo teklo, temveč da bodo ustrezali geslom, po katerih drugi raziskovalci najpogosteje iščejo. Algoritem je spremenil naš način objavljanja.

V družabnih omrežjih pa je stanje megleno. Tam ne iščemo, temveč gledamo, s čimer nam postrežejo. Tam pričakujemo, da bo vsak uporabnik videl druge vsebine. In tam nimamo pojma, kako algoritmi delujejo, zato bi nam zlahka podtaknili prirejen nabor objav, ki bi popačil javno mnenje.

Znanstvena fantastika? Niti ne. Facebook ima zaposleno skupino ljudi, ki jim pravi upravitelji novic (news curator). Njihova naloga je določati, kaj se bo znašlo med izpostavljenimi novicami (trending news) in kaj ne. Facebook uporablja kombinacijo človeškega in algoritemskega izbora, saj upravitelji izberejo teme in sidrne novice, potem pa algoritmi dodajo preostanek ustreznih novic. Maja so izbruhnile resne obtožbe, da Facebook v ameriški predsedniški kampanji namenoma dviguje branost demokratskih novic, republikanskih pa ne izpostavlja dovolj. Pojasnila je zahteval celo senat.

V družabnih omrežjih je stanje megleno. Tam ne iščemo, temveč gledamo, kar nam postrežejo.

Mesec pozneje so Google javno obtoževali pristranskosti v tej kampanji, češ da so bili predlogi iskalnih terminov oziroma funkcija samoizpolni olepšani. »Hillary Clinton ind« se na primer ni dopolnil v »Hillary Clinton indictment«. Google je pojasnil, da ta funcija nikoli ne predlaga negativnih oznak za človeka. Res je, »Donald Trump r« se dopolni v »rally«, nikoli pa ne v »racist«, pa čeprav je po Google Trends slednji termin večkrat iskan kot prvi. To je srž problema!

In v tem se skriva strašanska moč algoritmov. Trde cenzure na Zahodu ni več. Neželene objave lahko elegantno poniknejo med množico rezultatov in nihče ne bo mogel kričati »Cenzura!«. Brezoblični algoritmi so pridobili status vrhovnega nevtralnega razsodnika, saj je bil glavni očitek Facebooku, da so republikanski rezultati redkejši v primerjavi z organsko pojavnostjo. Tudi v preiskavi Evropske komisije zoper Google glede neupravičenega favoriziranja svojih storitev je glavni očitek, da so te med iskalnimi zadetki više, kot bi bile organsko – torej algoritemsko.

Algoritmi počno, kar jim veleva koda. Ranljivi so tako za hrošče kakor tudi za namerno manipulacijo piscev. Ker so za slehernika črna škatla, se lahko vedno izgovarjajo s prvo razlago. Ob tem so nam odvzeli tradicionalnega jasnega nasprotnika v političnem boju – cenzorja. Bogovi iz prvega odstavka so danes algoritmi.

Zato preostaneta le zdrava skepsa in budno spremljanje, kaj nam strežejo. Kot je rekel ameriški vrhovni sodnik William Douglas: Biti moramo pozorni opazovalci okolja in varuhi luči, da ne bi postali nemočni ujetniki teme!