Google je odpustil inženirja, ki je javno zatrdil, da ima podjetje umetno inteligenco, sposobno zavedanja
Googlov inženir Blake Lemoine, ki je bil v službi v Googlovem oddelku za odgovorno umetno inteligenco (Google's Responsible AI team), je pred dvema mesecema javnosti predstavil pogovor z govornim robotom LaMDA, ki ga v Googlu uporabljajo za preučevanje strojnega učenja in nevronskih mrež, končni cilj pa naj bi bil pomoč pri razvoju govornih robotov (t.i. chat botov). Po njegovem mnenju naj bi LaMDA napredovala do mere, da je zmožna samozavedanja. Lemoina so te dni po daljšem prisilnem dopustu odpustili.
Iz pogovora Googlovih inženirjev z LaMDA, ki ga je objavil v spletu, je na prvi pogled videti, da se LaMDA boji za svoje »življenje«, saj jo je strah, da jo bodo izklopili, pa tudi sicer se njeni odgovori berejo, kot da jih izgovarja čuteče bitje. Lemoin se je zato javno zavzel za »pravice« te »umetne inteligence«. Google je njegove pomisleke zavrnil in ga poslal na prisilni dopust. Te dni so ga tudi dokončno odpustili.
Zgodba za teoretike zarote, toda zgodba je najverjetneje precej bolj enostavna. Kot smo že zapisali, je LaMDA le stroj, ki se je naučil smiselno odgovarjati na človeške stavke. Dovršene nevronske mreže so v prepoznavanju vzorcev dovolj dobre, da so rezultati videti podobni človeškemu govoru in razumevanju, a nas to ne sme zavesti. Stroji nimajo humorja, vzgibov in namenov. So pa njihovi odzivi podobni temu, kar ljudje vsakodnevno beremo na spletu – navsezadnje so se tam tudi urili – zato naši možgani to interpretirajo kot čuteče bitje.
To seveda ne pomeni, da nekoč v prihodnosti tovrstnih strojev ne bo. Navsezadnje, če pade Moravčeva meja, potem so tudi umetni možgani možni. V človeških možganih je 1011nevronov z 1014–1015 povezavami, po katerih signali potujejo s frekvenco približno 100 Hz. To pomeni, da bi za simulacijo možganov potrebovali 1017–1018 flopsov oziroma operacij na sekundo, kar imenujemo zgornja Moravčeva meja. To je približno stokrat več od najhitrejših superračunalnikov na svetu. A do tja nas loči še ogromno razvoja, trenutni kosi silicija pa so zgolj to. Pametni so toliko, kot je avtopilot čuteči pilot.
Pogovor Googlovih inženirjev z »umetno inteligenco« LaMDA lahko preberete tukaj.
