Objavljeno: 14.6.2022 05:00 | Teme: umetna inteligenca, google

Ima Google stroj, ki se zaveda samega sebe?

Premisa je stara kot človeštvo, književnost in film pa sta jo preizpraševala že neštetokrat. Lahko izdelamo dovolj inteligenten stroj, ki bo postal bitje z zavedanjem lastnega obstoja? Googlov inženir Blake Lemoine meni, da v Googlu tak stroj že imajo, čemur ostali strokovnjaki v podjetju odločno nasprotujejo. Lemoine je zato vpoklical javnost in se znašel na prisilnem dopustu.

Glavno vlogo igra  LaMDA, kar pomeni jezikovni model za uporabo v dialogu (Language Model for Dialogue Applications). V Googlu imajo tovrstnih modelov cel kup, z njimi pa se lahko prek računalnika "pogovarjamo". Odgovori, ki temeljijo na prepoznavanju vzorcev, analizi velikega števila besedil in zmogljivih nevronskih mrežah, so na prvi pogled podobni odgovorom otroka. Z veliko domišljije bi se lahko predstavljali, da takšen stroj resnično opravi Turingov test, da ga je torej v pogovoru nemogoče razločiti od človeka. Blake Lemoine je toliko domišljije premogel.

Od lanske jeseni je bil del njegovega delovnika tudi komunikacija s strojem LaMDA, da bi ugotovil, ali uporablja diskriminatorni ali sovražni govor. Lemoine je ob tem sklenil, da je LaMDA stroj z zavedanjem, ki se obnaša kot bitje in ne kot stroj. Ko je to sporočil nadrejenim, so ti njegove zamisli ovrgli, zato je šel z njimi v javnost.

Prepričan je, da je javnost upravičena vedeti, kakšna tehnologija se razvija in pri tem razvoju tudi sodelovati. A Google ga je kmalu poslal na dopust. Googlov tiskovni predstavnik Brian Gabriel je dejal, da je ekipa etikov in strokovnjakov za tehnologijo preverila navedbe in ugotovila, da ni dokazov za Lemoinove trditve. LaMDA je le stroj, ki se je naučil smiselno odgovarjati na človeške stavke. Dovršene nevronske mreže so v prepoznavanju vzorcev zadosti dobre, da so rezultati videti podobni človeškemu govoru in razumevanju, a nas to ne sme zavesti. Stroji nimajo humorja, vzgibov in namenov. So pa njihovi odzivi podobni temu, kar ljudje vsakodnevno beremo na spletu – navsezadnje so se tam tudi urili – zato naši možgani to interpretirajo kot čuteče bitje.

To seveda ne pomeni, da nekoč v prihodnosti tovrstnih strojev ne bo. Navsezadnje, če pade Moravčeva meja, potem so tudi umetni možgani možni. V človeških možganih je 1011 nevronov z 1014–1015 povezavami, po katerih signali potujejo s frekvenco približno 100 Hz. To pomeni, da bi za simulacijo možganov potrebovali 1017–1018 flopsov oziroma operacij na sekundo, kar imenujemo zgornja Moravčeva meja. To je približno stokrat več od najhitrejših superračunalnikov na svetu. A do tja nas loči še ogromno razvoja, trenutni kosi silicija pa so zgolj to. Pametni so toliko, kot je avtopilot čuteči pilot.

Washington Post

Več novic

Naroči se na redna tedenska ali mesečna obvestila o novih prispevkih na naši spletni strani!

Komentirajo lahko le prijavljeni uporabniki

Najbolj brano

  • Podjetja nočejo Copilota, ker zaposleni raje uporabljajo ChatGPT

    Microsoft kljub velikim naporom (beri: finančnemu vložku) podjetjem težko proda storitve umetne inteligence Copilot.

    Objavljeno: 27.6.2025 09:00
  • Android vam bo povedal, ali vam policija prisluškuje

    Čedalje popularnejši način prisluškovanja in prestrezanja podatkov z mobilnih telefonov je uporaba lažnih baznih postaj (IMSI catcher), ki jih imajo organi pregona v nekaterih državah, lahko pa tudi drugi akterji. Na takšno napravo se povežejo vsi telefoni v okolici, saj njen signal preglasi legitimne bazne postaje, upravljavec pa potem zlahka prestreza komunikacijo. Uporabnik tega početja praktično ne more zaznati.

    Objavljeno: 1.7.2025 07:00
  • Kitajski prenosniki so dve leti za zahodnimi

    Čeprav se Kitajci močno trudijo in izdatno investirajo v domači razvoj in proizvodnjo čipov, so še vedno vsaj dve generaciji za zahodnimi izdelki. To izkazuje tudi najnovejši Huaweijev prenosnik MateBook Fold Ultimate, ki poganja lastni HarmonyOS in ima same kitajske komponente. A te v primerjavi z zahodnimi zaostajajo.

    Objavljeno: 25.6.2025 07:00
  • Pametna očala s samodejnim ostrenjem bi lahko nadomestila bifokalna stekla

    Finsko podjetje IXI razvija inovativna očala z lečami, ki se samodejno ostrijo glede na pogled uporabnika. 

    Objavljeno: 23.6.2025 10:00 | Teme: pametna očala
  • Teslini samovozeči taksiji ne znajo voziti

    Prvi dnevi Teslinih robotskih taksijev so polni napak, vožnje po napačni strani ceste, nenadnih zaviranj in nevarnih ustavljanj za odlaganje potnikov.

    Objavljeno: 26.6.2025 09:00
  • HDMI 2.2 je tu!

    Sicer na papirju, a vendarle. HDMI Forum je izdal končne specifikacije standarda HDMI 2.2, ki so ga izdatno opisovali in predstavljali že na januarskem sejmu CES. HDMI 2.2 ima že večjo prepustnost kot DisplayPort, a bo zanjo zahteval nove kable Ultra96.

    Objavljeno: 27.6.2025 05:00
 
  • Polja označena z * je potrebno obvezno izpolniti
  • Pošlji