Objavljeno: 30.8.2016 | Avtor: Matej Huš | Monitor September 2016

Cenzorji so mrtvi, naj živijo algoritmi!

Cenzorji so mrtvi, naj živijo algoritmi!

Ko je Prešeren leta 1844 napisal Zdravljico, ni mogel vedeti, ali jo bo sploh lahko priobčil svetu. Odobriti jo je moral cenzor, zato je kar sam izločil tretjo kitico, četrto pa mu je prečrtal Miklošič. Ker pesnik pohabljene pesmi ni maral izdati, je v celoti izšla šele po marčni revoluciji. Če bi jo napisal danes, bi jo lahko takoj objavil po internetu, kjer bi jo lahko prebral kdorkoli. Ali pa nihče, če bi tako hoteli bogovi.

Leta 2012 so nekatere pogoste stranke trgovske verige Target prejele kupone za popust pri izdelkih za mlade mamice. Ponudbe niso prejele po porodu, temveč še noseče. Zgodba je dvignila precej prahu, ker je Target ciljno skupino zadel s kirurško natančnostjo.

Microsoft je letos pokazal, da lahko iz ključnih besed iskanja z visoko verjetnostjo ugotovi, kdo ima raka trebušne slinavke, četudi sam tega sploh ne ve. Microsoft diagnozo postavi iz iskalnih terminov, ki so povezani s simptomi.

Če na kitajskem Googlu vtipkamo v kitajščini Trg nebeškega miru, bomo našli idilične posnetke trga. Drugod po svetu so med prvimi zadetki protesti iz leta 1989.

Tem zgodbam so skupni algoritmi. V Targetu ni nihče ročno pregledoval nakupov strank in iskal folne kisline. Na Kitajskem ni človeka, ki bi pregledoval iskalne poizvedbe in jih cenzuriral. To počno algoritmi, ki so postali cenzorji, ključarji in upravljavci življenja. Algoritmi so odgovor na vprašanje, zakaj na nekem semaforju zelena sveti 37 sekund, zakaj Goldman Sachs kupuje neko delnico, kako Facebook izbere prikazano vsebino, kam bo žerjav odložil posamezen zabojnik v luki in katere zadetke bo pokazal Google.

Seveda tudi pisno deljenje ni nič drugega kakor algoritem za premetavanje cifer po listu, a tu mislimo na kompleksne algoritme, ki žvečijo terabajte podatkov in vračajo rezultate, ki vplivajo na naš svet. Algoritem za upravljanje semaforjev ali iskanje luških kontejnerjev na tem mestu ni bistven, saj svojo nalogo opravlja predvidljivo, učinkovito in preverljivo. Precej pomembnejši za družbo so – to si upam zapisati – algoritmi, ki odločajo, kaj beremo, in ki imajo opraviti z osebnimi podatki.

Vsebine je danes toliko, da vsega ne moremo niti preleteti, kaj šele prebrati. Starejši kolegi raziskovalci se še spomnijo, kako so pred hiperprodukcijo znanstvenih člankov in internetom imeli pregled nad svojim raziskovalnim področjem. Danes je osnovno orodje raziskovalcev Web of Science, kjer med tisočimi iščemo članke. O delovanju njegovega algoritma nihče ne dvomi, je pa spremenil način, kako objavljamo rezultate raziskav. Naslovov in povzetkov ne izbiramo več tako, da bo besedilo lepo teklo, temveč da bodo ustrezali geslom, po katerih drugi raziskovalci najpogosteje iščejo. Algoritem je spremenil naš način objavljanja.

V družabnih omrežjih pa je stanje megleno. Tam ne iščemo, temveč gledamo, s čimer nam postrežejo. Tam pričakujemo, da bo vsak uporabnik videl druge vsebine. In tam nimamo pojma, kako algoritmi delujejo, zato bi nam zlahka podtaknili prirejen nabor objav, ki bi popačil javno mnenje.

Znanstvena fantastika? Niti ne. Facebook ima zaposleno skupino ljudi, ki jim pravi upravitelji novic (news curator). Njihova naloga je določati, kaj se bo znašlo med izpostavljenimi novicami (trending news) in kaj ne. Facebook uporablja kombinacijo človeškega in algoritemskega izbora, saj upravitelji izberejo teme in sidrne novice, potem pa algoritmi dodajo preostanek ustreznih novic. Maja so izbruhnile resne obtožbe, da Facebook v ameriški predsedniški kampanji namenoma dviguje branost demokratskih novic, republikanskih pa ne izpostavlja dovolj. Pojasnila je zahteval celo senat.

V družabnih omrežjih je stanje megleno. Tam ne iščemo, temveč gledamo, kar nam postrežejo.

Mesec pozneje so Google javno obtoževali pristranskosti v tej kampanji, češ da so bili predlogi iskalnih terminov oziroma funkcija samoizpolni olepšani. »Hillary Clinton ind« se na primer ni dopolnil v »Hillary Clinton indictment«. Google je pojasnil, da ta funcija nikoli ne predlaga negativnih oznak za človeka. Res je, »Donald Trump r« se dopolni v »rally«, nikoli pa ne v »racist«, pa čeprav je po Google Trends slednji termin večkrat iskan kot prvi. To je srž problema!

In v tem se skriva strašanska moč algoritmov. Trde cenzure na Zahodu ni več. Neželene objave lahko elegantno poniknejo med množico rezultatov in nihče ne bo mogel kričati »Cenzura!«. Brezoblični algoritmi so pridobili status vrhovnega nevtralnega razsodnika, saj je bil glavni očitek Facebooku, da so republikanski rezultati redkejši v primerjavi z organsko pojavnostjo. Tudi v preiskavi Evropske komisije zoper Google glede neupravičenega favoriziranja svojih storitev je glavni očitek, da so te med iskalnimi zadetki više, kot bi bile organsko – torej algoritemsko.

Algoritmi počno, kar jim veleva koda. Ranljivi so tako za hrošče kakor tudi za namerno manipulacijo piscev. Ker so za slehernika črna škatla, se lahko vedno izgovarjajo s prvo razlago. Ob tem so nam odvzeli tradicionalnega jasnega nasprotnika v političnem boju – cenzorja. Bogovi iz prvega odstavka so danes algoritmi.

Zato preostaneta le zdrava skepsa in budno spremljanje, kaj nam strežejo. Kot je rekel ameriški vrhovni sodnik William Douglas: Biti moramo pozorni opazovalci okolja in varuhi luči, da ne bi postali nemočni ujetniki teme!

Naroči se na redna tedenska ali mesečna obvestila o novih prispevkih na naši spletni strani!

Komentirajo lahko le prijavljeni uporabniki

Najbolj brano

  • Android vam bo povedal, ali vam policija prisluškuje

    Čedalje popularnejši način prisluškovanja in prestrezanja podatkov z mobilnih telefonov je uporaba lažnih baznih postaj (IMSI catcher), ki jih imajo organi pregona v nekaterih državah, lahko pa tudi drugi akterji. Na takšno napravo se povežejo vsi telefoni v okolici, saj njen signal preglasi legitimne bazne postaje, upravljavec pa potem zlahka prestreza komunikacijo. Uporabnik tega početja praktično ne more zaznati.

    Objavljeno: 1.7.2025 07:00
  • Podjetja nočejo Copilota, ker zaposleni raje uporabljajo ChatGPT

    Microsoft kljub velikim naporom (beri: finančnemu vložku) podjetjem težko proda storitve umetne inteligence Copilot.

    Objavljeno: 27.6.2025 09:00
  • Kitajski prenosniki so dve leti za zahodnimi

    Čeprav se Kitajci močno trudijo in izdatno investirajo v domači razvoj in proizvodnjo čipov, so še vedno vsaj dve generaciji za zahodnimi izdelki. To izkazuje tudi najnovejši Huaweijev prenosnik MateBook Fold Ultimate, ki poganja lastni HarmonyOS in ima same kitajske komponente. A te v primerjavi z zahodnimi zaostajajo.

    Objavljeno: 25.6.2025 07:00
  • Pametna očala s samodejnim ostrenjem bi lahko nadomestila bifokalna stekla

    Finsko podjetje IXI razvija inovativna očala z lečami, ki se samodejno ostrijo glede na pogled uporabnika. 

    Objavljeno: 23.6.2025 10:00 | Teme: pametna očala
  • Teslini samovozeči taksiji ne znajo voziti

    Prvi dnevi Teslinih robotskih taksijev so polni napak, vožnje po napačni strani ceste, nenadnih zaviranj in nevarnih ustavljanj za odlaganje potnikov.

    Objavljeno: 26.6.2025 09:00
  • HDMI 2.2 je tu!

    Sicer na papirju, a vendarle. HDMI Forum je izdal končne specifikacije standarda HDMI 2.2, ki so ga izdatno opisovali in predstavljali že na januarskem sejmu CES. HDMI 2.2 ima že večjo prepustnost kot DisplayPort, a bo zanjo zahteval nove kable Ultra96.

    Objavljeno: 27.6.2025 05:00
 
  • Polja označena z * je potrebno obvezno izpolniti
  • Pošlji