Zdaj je nenavaden čas za pesimiste, ki prerokujejo pogubo zaradi umetne inteligence (UI). Povedano preprosto, ta majhna, a vplivna skupnost raziskovalcev, znanstvenikov in političnih strokovnjakov verjame, da bi UI lahko postala tako dobra, da bi bila za človeštvo slaba – zelo, zelo slaba.
Garrison Lovely, MIT Technology Review
Čeprav bi se mnogi med njimi najbrž prej opisali kot zagovorniki varnosti UI kot pa dobesedno preroki pogube, opozarjajo, da UI predstavlja eksistenčno tveganje za človeštvo. Trdijo, da bi se panoga brez strožje zakonske ureditve lahko razrasla v sisteme, ki jih ne bo mogla več nadzorovati. Običajno pričakujejo, da bodo takšni sistemi sledili nastanku splošne umetne inteligence (SUI), izmuzljivega pojma, pod katerim v grobem razumemo tehnologijo, ki lahko počne vse, kar zmorejo ljudje – in to bolje.
Čeprav to v panogi UI še zdaleč ni splošno sprejeto stališče, so pesimistično naravnani strokovnjaki v zadnjih letih dosegli nekaj opaznih uspehov: v času Bidnove administracije so pomagali sestavljati politiko do UI, organizirali odmevne pozive k določitvi mednarodnih skrajnih mej za zmogljivost UI, da bi omejili tveganja pri njeni uporabi, ter si zagotovili večji vpliv in pozornost, saj so nekateri med njimi prejeli najprestižnejše znanstvene nagrade.
Toda več dogodkov v zadnjem času jih je prisililo v obrambni položaj. Razpravo je zaznamovalo omenjanje balona UI, medtem ko tehnološka podjetja še naprej vlagajo v podatkovne centre v vrednosti več manhattanskih projektov, ne da bi imela kakršnokoli zagotovilo, da bo prihodnje povpraševanje ustrezalo načrtovani gradnji.
Potem je tu še prihod najnovejšega osnovnega modela OpenAI, GPT-5, ki je bil za mnoge precejšnje razočaranje. To je bilo morda neizogibno, saj je šlo za najbolj pompozno napovedano izdajo UI vseh časov. Direktor OpenAI Sam Altman se je hvalil, da je GPT-5 »kot strokovnjak z doktoratom«, in to za vse teme, avtorju podkasta Theu Vonu pa je povedal, da se zaradi zmogljivosti tega modela v primerjavi z UI počuti popolnoma nesposobnega.
Mnogi so pričakovali, da bo GPT-5 velik korak proti SUI, vendar sta morebitni napredek modela zasenčila niz tehničnih napak in nerazumljiva, hitro preklicana odločitev podjetja, da brez opozorila izključi dostop do vseh starejših modelov OpenAI. In čeprav je novi model dosegel najboljše rezultate na primerjalnih testih, je veliko ljudi menilo – morda tudi neupravičeno –, da je GPT-5 pri vsakodnevni uporabi korak nazaj.
Vse to bi morda lahko zamajalo same temelje argumentov pesimistov. Hkrati pa konkurenčni tabor pospeševalcev razvoja UI, ki se bojijo, da se UI v resnici ne razvija dovolj hitro in da panogi nenehno grozi nazadovanje zaradi pretirano strogih predpisov, vidi novo priložnost za drugačen pristop k varnosti UI (oziroma natančneje k načinu, kako jo zanemarjamo).
To še posebej velja za ljudi iz panoge, ki so se preselili v Washington. »Napovedi prerokov pogube so bile napačne,« je izjavil David Sacks, dolgoletni vlagatelj tveganega kapitala, ki je postal glavni Trumpov svetovalec za UI. »Ta predstava o neizbežni splošni umetni inteligenci je bila škodljivo odvračanje pozornosti in je zdaj dejansko dokazano zgrešena,« je dodal višji svetovalec Bele hiše za UI in tehnološki vlagatelj Sriram Krishnan. (Sacks in Krishnan se nista odzvala na prošnje za komentar.)
(Seveda pa v razpravi o varnosti UI obstaja še en tabor: to je skupina raziskovalcev in zagovornikov, ki jim običajno nadenemo nalepko etikov UI. Čeprav tudi oni podpirajo zakone in predpise, večinoma menijo, da je hitrost napredka UI precenjena, SUI pa pogosto odpisujejo kot znanstvenofantastično zgodbo ali celo prevaro, ki odvrača pozornost od neposrednih groženj tehnologije. A morebiten zaton pesimistov tej skupini ne bi ravno pomagal k takšnemu zagonu, kot ga uživajo optimistično naravnani strokovnjaki.)
Kaj torej vse to pomeni za pesimiste? V okviru serije Hype Correction smo se odločili intervjuvati nekaj najvidnejših predstavnikov te struje in preveriti, ali so nedavni neuspehi in splošna sprememba razpoloženja vplivali na njihova stališča. So jezni, ker zakonodajalci njihovih opozoril ne jemljejo več resno? Tiho prilagajajo časovne okvire apokalipse?
Nedavni intervjuji z 20 osebami, ki se ukvarjajo z raziskovanjem ali zagovarjanjem varnosti in zakonske ureditve UI – med njimi so Nobelov nagrajenec Geoffrey Hinton, dobitnik Turingove nagrade Yoshua Bengio in vidni strokovnjaki, kot je nekdanja članica upravnega odbora OpenAI Helen Toner –, razkrivajo, da niso niti ponižani niti izgubljeni, temveč še vedno globoko privrženi svojemu poslanstvu in prepričani, da SUI ni le mogoča, temveč bo tudi izjemno nevarna.
Hkrati pa se zdi, da se spopadajo s tako rekoč protislovjem. Po eni strani jim je nekoliko odleglo, ker nedavni dogodki nakazujejo, da je SUI bolj oddaljena, kot so mislili prej (»Hvala bogu, da imamo več časa,« pravi raziskovalec UI Jeffrey Ladish), po drugi strani pa jih jezi, da nekateri ljudje na položajih sprejemajo ukrepe, ki so v nasprotju z njihovimi prizadevanji. (Daniel Kokotajlo, glavni avtor opozorilne napovedi UI 2027 pravi, da se politika do UI očitno slabša in objave Sacksa ter Krishnana na omrežju X označuje za blazne in nepoštene.)
Na splošno ti strokovnjaki omenjanje balona UI vidijo zgolj kot manjšo oviro, razočaranje nad GPT-5 pa kot nekaj, kar bolj odvrača pozornost, kot pa osvetljuje razmere. Še vedno večinoma podpirajo strožje predpise in jih skrbi, da je napredek pri politiki – uveljavitev evropskega akta o UI, sprejetje prvega večjega ameriškega zakona o varnosti UI, kalifornijskega predpisa SB 53, ter sveže zanimanje nekaterih članov kongresa za nevarnosti splošne UI – ogrožen zaradi pretiranega odziva Washingtona na začasni zaostanek pri doseganju velikih pričakovanj.
Nekateri so želeli popraviti tudi najtrdovratnejše zgrešene predstave o pesimistično naravnanih strokovnjakih. Čeprav jih kritiki redno zasmehujejo, ker napovedujejo skorajšnji prihod USI, sami trdijo, da to ni in nikoli ni bilo jedro njihovih argumentov: »Ne gre toliko za neposredno grožnjo,« poudarja Stuart Russell, predavatelj na Berkeleyju in avtor knjige Human Compatible: Artificial Intelligence and the Problem of Control (Združljivost s človekom: Umetna inteligenca in problematika nadzora). Večina sogovornikov pravi, da so se njihovi časovni okviri nevarnih sistemov v zadnjem letu pravzaprav nekoliko razširili – kar je pomembna sprememba glede na to, kako hitro se lahko spremenita politično in tehnološko okolje.
Mnogi med njimi tudi poudarjajo pomen prilagajanja časovnih okvirov. In čeprav so ti zdaj morda kanček širši, Helen Toner pravi, da je eden dejavnikov v širšem pogledu na obdobje ChatGPT dramatično skrajšanje časovnega obdobja teh ocen po vsem svetu UI. Dolgo je veljalo, da je SUI oddaljena več desetletij. Zdaj pa večina napovedi njen prihod umešča nekam med naslednjimi nekaj leti in dvema desetletjema. Tudi če imamo res na voljo nekoliko več časa, Tonerjeva in mnogi njeni kolegi varnostni vidik UI še vedno razumejo kot izjemno nujno in življenjsko pomembno vprašanje. Tudi če bi bila SUI dosegljiva v treh desetletjih, je to presneto pomembna zadeva, je poudarila Tonerjeva, in pri tem bi moralo delati veliko ljudi.
Tako temeljno stališče pesimistov kljub negotovemu položaju, v katerem so se znašli, ostaja enako: ne glede na to, kdaj naj bi dobili splošno umetno inteligenco (in pri tem vnovič poudarjajo, da po njihovem mnenju zelo verjetno prihaja), svet nanjo še zdaleč ni pripravljen.
Morda se strinjate s tem ali pa menite, da takšen razvoj dogodkov sploh ni samoumeven. Mogoče vas vse skupaj spominja na znanstveno fantastiko. Morda celo menite, da je SUI ena sama velika teorija zarote. Seveda niste edini – ta tema močno razdvaja. Ne glede na to, kaj si kdo misli o naravnanosti pesimistov, drži kot pribito, da imajo nekateri ljudje na tem področju zelo velik vpliv, zato predstavljamo nekaj najvidnejših osebnosti s tega področja in njihovo videnje trenutnega položaja.
Mnenja so skrajšana in prilagojena zaradi lažje razumljivosti.
Nobelov nagrajenec, ki ni prepričan, kaj prihaja
Geoffrey Hinton, dobitnik Turingove nagrade in Nobelove nagrade za fiziko za pionirsko delo na področju globokega učenja
Največja sprememba v zadnjih nekaj letih je, da zdaj o nevarnosti govorijo ljudje, ki jih je težko odpraviti z zamahom roke. Recimo nekdanji Googlov direktor Eric Schmidt resnično razume, da so te zadeve lahko zelo nevarne. Pred kratkim sva bila na Kitajskem in se pogovarjala z nekom iz politbiroja, s strankarskim sekretarjem v Šanghaju, da bi se prepričala, ali to res razume – in je. Mislim, da kitajsko vodstvo UI in njene nevarnosti razume precej bolje, ker je med njimi veliko inženirjev.
Sam sem se osredotočal na dolgoročnejšo grožnjo, ki je, ali res lahko pričakujemo, da bomo ljudje ohranili nadzor ali vsaj ostali upoštevanja vreden dejavnik, ko bodo sistemi UI pametnejši od nas. Kljub vsemu ne mislim, da je vse neizogibno. Povsod vlada ogromna negotovost. Še nikoli nismo bili v takšnem položaju. Kdor je popolnoma prepričan, da ve, kaj se bo zgodilo, se mi zdi smešen. Čeprav se mi skoraj ne zdi verjetno, se vendarle lahko izkaže, da imajo prav vsi tisti, ki pravijo, da je UI močno precenjena. Morda se bo izkazalo, da ne moremo napredovati veliko dlje od sedanjih klepetalnikov in da smo zaradi omejenih podatkov prišli do skrajne meje. To težko verjamem; mislim, da je malo verjetno, vendar mogoče.
Prav tako ne verjamem ljudem, kot je Eliezer Yudkowsky, ki pravijo, da bomo vsi umrli, če bo kdo zgradil tak sistem. Tega ne moremo vedeti.
Če pa pogledamo dokaze, bi po mojem mnenju lahko rekli, da večina strokovnjakov, ki veliko vedo o UI, verjame, da bomo v prihodnjih 20 letih zelo verjetno dobili superinteligenco. (Direktor podjetja Google DeepMind Demis Hassabis pravi, da morda v desetih letih. Tudi znani skeptik do UI Gary Marcus bi verjetno rekel: »No, če boste naredili hibridni sistem z dobro staro simbolno logiko … potem bo morda superinteligenten.« (Op. ur.: Marcus je septembra napovedal, da bo splošna UI prišla med letoma 2033 in 2040.)
Po mojem tudi nihče ne verjame, da se bo napredek ustavil pri splošni umetni inteligenci. Nekaj let po njej bi lahko dobili superinteligenco, ker bo spretneje od nas razvijala UI.
Zato mislim, da bodo razmere sicer vse težje, a hkrati se veliko več vlaga v razvoj napredne UI. Napredek se bo nadaljeval preprosto zato, ker se vlaga mnogo več denarja.
Pionir globokega učenja, ki si želi, da bi nevarnosti opazil prej
Yoshua Bengio, dobitnik Turingove nagrade, predsedujoči skupine strokovnjakov za UI, ki izdaja mednarodno poročilo o varnosti UI (International AI Safety Report) in ustanovitelj podjetja LawZero
Nekateri so mislili, da smo z GPT-5 dosegli skrajne meje, vendar tega v celoti ne potrjujejo niti znanstveni podatki niti trendi.
Nekateri so pretiravali in zatrjevali, da SUI že trka na vrata, kar je s komercialnega vidika lahko smiselno, toda različni primerjalni testi kažejo, da modeli GPT-5 okvirno dosegajo pričakovano stopnjo na svoji razvojni poti. Mimogrede, to ne velja le za GPT-5, temveč tudi za Claude in Googlove modele. Na nekaterih področjih, kjer sistemi UI niso posebej izstopali, na primer pri Humanity’s Last Exam in FrontierMath, zdaj že dosegajo precej boljše rezultate kot na začetku leta.
Hkrati pa splošne razmere pri upravljanju UI in njene varnosti niso dobre. Obstajajo močne sile, ki nasprotujejo pravni ureditvi. Enako je pri podnebnih spremembah: lahko si zatiskamo oči in upamo, da bo vse v redu, vendar težav s tem ne rešimo.
Najhuje je, ker zakonodajalci ne dojemajo obsežnosti sprememb, do katerih bo verjetno prišlo, če se bo napredek UI nadaljeval. Veliko ljudi v gospodarstvu in vladah jo vidi zgolj kot še eno tehnologijo, ki bo ekonomsko zelo močna. Ne razumejo, kako zelo bi lahko spremenila svet, če se bodo trendi nadaljevali in se bo UI približala človekovi ravni.
Tudi sam sem si do neke mere zatiskal oči pred morebitnimi tveganji. Moral bi jih opaziti veliko prej, toda to je človeško. Navdušeni smo nad svojim delom in vidimo predvsem njegovo dobro plat. Zaradi tega smo nekoliko pristranski in v resnici ne posvečamo dovolj pozornosti morebitnim slabostim.
Tudi majhna možnost – recimo odstotek ali desetinka odstotka –, da povzročimo nesrečo, v kateri bi umrla milijarda ljudi, ni sprejemljiva.
Veteran UI, ki verjame, da UI napreduje – vendar ne dovolj hitro, da bi preprečila pok tehnološkega balona
Stuart Russell, ugledni predavatelj računalništva na kalifornijski univerzi v Berkeleyju in avtor knjige Human Compatible (Združljivo s človekom)
Prepričanje, da opozarjanje na eksistencialno tveganje pomeni pesimizem ali znanstveno fantastiko, bo, upam, postalo obrobno stališče, saj večina vodilnih raziskovalcev UI in najvidnejših direktorjev podjetij v tej panogi tveganja jemlje resno.
Slišati je trditve, da UI nikoli ne bo prestala Turingovega testa, da nikoli ne bomo dobili sistema, ki bo tekoče uporabljal naravni jezik, oziroma takšnega, ki bi znal bočno parkirati avtomobil. Vse te trditve je napredek na koncu ovrgel.
Ljudje porabljajo bilijone dolarjev, da bi ustvarili nadčloveško UI. Mislim, da potrebujejo nekaj svežih idej, in možnost, da jih bodo tudi našli, je precejšnja, saj se je v zadnjih nekaj letih pojavilo veliko pomembnih novih zamisli.
Po moji razmeroma dosledni ocena zadnjih 12 mesecev obstaja 75-odstotna verjetnost, da ti preboji ne bodo prišli pravočasno, da bi panogo rešili pred pokom balona. Naložbe namreč temeljijo na napovedi, da bomo dobili precej boljšo UI, ki bo prinašala veliko več vrednosti resničnim uporabnikom. Če pa se te napovedi ne bodo uresničile, bo na borzah masaker.
Argument varnosti ne temelji na neposredni nevarnosti, temveč na dejstvu, da še vedno nimamo rešitve za problem nadzora. Če bi nekdo rekel, da bo leta 2067 v Zemljo trčil asteroid s premerom šestih kilometrov, ne bi odvrnili: »Opomnite nas vnovič leta 2066, pa bomo takrat razmislili o tem.« Ne vemo namreč, koliko časa je potrebno za razvoj tehnologije, ki bi omogočila nadzor nad superinteligentno UI.
Po znanih primerih je sprejemljivo tveganje za pregrevanje jedrske elektrarne približno ena na milijon na leto. Izumrtje je veliko hujše. Morda bi sprejemljivo tveganje morali oceniti na ena na milijardo. A v podjetjih trdijo, da je v resnici okoli ena na pet. Ne vedo, kako doseči sprejemljivost, in to je dejanska težava.
Profesor, ki poskuša razpravo o varnosti UI postaviti na realna tla
David Krueger, docent za strojno učenje na montrealski univerzi in inštitutu Mila Yoshua Bengia ter ustanovitelj podjetja Evitable
Mislim, da so si ljudje v svojih odzivih na GPT-5 prevečkrat premislili in mu s tem samo škodili. Res pa je, da je bilo okrog njega veliko pompa. Po mojem spominu je več direktorjev bolj ali manj naravnost povedalo, da bomo do konca leta 2025 dobili avtomatiziranega oddaljenega delavca na zahtevo. Rezultati so najbrž zaostali za pričakovanji, saj takšnih agentov v resnici še nimamo.
Preseneča me, kakšno javno pozornost so pritegnile izjave, ki SUI napovedujejo že leta 2027. Ko bo napočilo in bodo zadeve še vedno videti precej normalne, bodo ljudje verjetno razočarani. In res me moti, kako pogosto mi ljudje, s katerimi se pogovarjam o varnosti UI, pripisujejo, da nas po mojem od nevarnih sistemov loči le zelo kratek čas ali da bodo veliki jezikovni modeli oziroma globoko učenje pripeljali do SUI. Vse te zgrešene domneve sploh niso nujne za podkrepitev argumenta.
Pričakujem, da bomo za mednarodno usklajevanje potrebovali desetletja. Torej tudi če je nevarna UI oddaljena več desetletij, je težava že zdaj pereča. Zdi se mi, da veliko ljudi tega sploh ne razume. Razmišljajo, da je treba počakati na pojav res nevarnega sistema, preden bi začeli urejati to področje. Veste, takrat bo že zdavnaj prepozno.
Še vedno mislim, da ljudje iz krogov, ki se ukvarjajo z varnostjo UI, večinoma delujejo v ozadju, skupaj z vplivnimi ljudmi, ne sodelujejo pa s civilno družbo. To daje zagon tistim, ki pravijo, da gre samo za prevaro ali lobiranje tistih pri koritu. S tem ne želim reči, da v teh pripovedih ni nič resnice, toda osnovno tveganje je še vedno oprijemljivo. Za učinkovit odziv potrebujemo večjo javno ozaveščenost in širšo podporo.
Če dejansko verjamete, da obstaja desetodstotna možnost pogube v naslednjih desetih letih – in mislim, da bi razumna oseba to morala verjeti, če si zadeve podrobneje ogleda –, potem je prva misel: »Zakaj to sploh počnemo? To je noro.« To je povsem logičen odziv, ko začneš verjeti v osnovno predpostavko.
Strokovnjakinja za upravljanje, ki jo skrbi verodostojnost skrbi za varnost UI
Helen Toner, vršilka dolžnosti direktorice centra za varnost in nove tehnologije (Center for Security and Emerging Technology) na univerzi Georgetown in nekdanja članica upravnega odbora podjetja OpenAI
Ko sem začela delati na tem področju, je bila varnost UI bolj skupek filozofskih idej. Danes je to hitro razvijajoč se sklop podpodročij strojnega učenja, ki zapolnjujejo vrzel med bolj 'divjimi' pomisleki o spletkah, zavajanju ali želji po moči ter dejanskimi konkretnimi sistemi, ki jih lahko preizkušamo in uporabljamo.
Urejanje področja UI se počasi izboljšuje. Če je še dovolj časa za prilagajanje in se lahko področje še naprej izboljšuje zlagoma, nimam pripomb. Če pa nimamo veliko časa, potem verjetno delujemo prepočasi.
Mislim, da GPT-5 v Washingtonu na splošno velja za razočaranje. Razprava je precej polarizirana: ali bomo v naslednjih nekaj letih dobili SUI in superinteligenco ali pa je UI v resnici veliko hrupa za prazen nič, neuporabna in zgolj napihnjen balon. Mogoče smo zašli predaleč v smeri razmišljanja, da bomo zelo, zelo kmalu dobili izjemno zmogljive sisteme, zdaj pa se vračamo k pomisleku, da je vse skupaj samo pomp.
Skrbi me, da nekatere agresivne ocene prihoda SUI tistih, ki se ubadajo z varnostjo UI, pripravljajo teren za posledice lažnega alarma. Ko se napovedi o SUI leta 2027 ne bodo uresničile, bodo ljudje rekli: »Poglejte vse te ljudi, ki so se osmešili. Nikoli več jih ne poslušajte.« To intelektualno ni pošten odziv, če so si ti ljudje pozneje morda premislili ali so verjetnost ocenili le na petino, a je dogajanje kljub temu vredno spremljati. Po mojem mnenju to ne bi smelo pomeniti, da te ljudi lahko odpišemo kot nevredne upoštevanja. Kljub vsemu me skrbi, da bo to velik udarec za verodostojnost. In to velja tudi za ljudi, ki jih zelo skrbi varnost UI in nikoli niso podajali smelih časovnih okvirov.
Raziskovalec varnosti UI, ki zdaj verjame, da bomo na SUI čakali še dlje – in je hvaležen za to
Jeffrey Ladish, direktor organizacije Palisade Research
V zadnjem letu sta na mojo časovno napoved SUI najbolj vplivala dva dejavnika.
Prvič, pomanjkanje kakovostnih podatkov se je izkazalo za večjo težavo, kot sem pričakoval.
Drugič, prvi model, zmožen logičnega sklepanja, to je o1 podjetja OpenAI, predstavljen septembra 2024, je pokazal, da je pospeševanje spodbujevanega učenja učinkovitejše, kot sem mislil. V nekaj mesecih je sledil preskok od o1 do o3 z dih jemajočimi uspehi pri matematiki, programiranju in znanosti – torej na področjih, kjer je rezultate lažje preverjati. Čeprav še vedno opažamo napredek, bi ta lahko bil precej hitrejši.
Vse to je mojo srednjo oceno za začetek popolnoma avtomatiziranih raziskav in razvoja z UI premaknilo s treh let na morda pet ali šest. A to so v bistvu izmišljene številke. Težko je. Ob vsem tem moram res poudariti, kako prekleto zahtevno je napovedovati na tem področju.
Hvala bogu, da imamo več časa. Morda imamo na voljo zelo ozko okno, da te sisteme res poskusimo razumeti, preden postanejo dovolj zmogljivi in strateški, da bi resno ogrozili našo zmožnost ohraniti nadzor nad njimi.
Strašljivo je poslušati ljudi, ki mislijo, da napredka ni več, čeprav to očitno ni res. Vem, da ni res, ker uporabljam te modele. Ena od slabosti napredka pri razvoju UI je, da običajni ljudje vse težje zaznajo, kako hitro napreduje.
To sicer ne velja za nekatera področja – poglejte samo Soro 2. Kdor jo pozna, mu je kristalno jasno, da je neprimerno boljša od vsega doslej. Če vprašaš GPT-4 in GPT-5, zakaj je nebo modro, bosta pravzaprav odgovorila enako: pravilno. Pri pojasnjevanju, zakaj je nebo modro, sta že dosegla svojo skrajno mejo, zato pričakujem, da bodo napredek UI danes najbolje razumeli tisti, ki z UI dejansko gradijo sisteme ali jo uporabljajo pri zelo zahtevnih znanstvenih problemih.
Človek, ki je napovedal kritike SUI
Daniel Kokotajlo, direktor projekta AI Futures Project, žvižgač pri OpenAI in glavni avtor napovedi AI 2027, ki opisujejo, kako naj bi se UI od leta 2027 naprej v nekaj mesecih razvila iz superčloveških programerjev v noro superinteligentne sisteme
Politika na področju UI se po mojem slabša – kot primer navajam neodvisni odbor za politično akcijo (v angleščini super PAC) Pro-AI, ki so ga ustanovili vodilni iz OpenAI in Andreessen Horowitz za lobiranje v prid rahljanju predpisov, pa tudi zmedene in zavajajoče objave Srirama Krishnana in Davida Sacksa na omrežju X. Raziskave varnosti UI napredujejo z običajnim tempom, kar je v primerjavi z večino področij razburljivo hitro, a prepočasi, če upoštevamo, kako hitro bi pravzaprav morale napredovati.
Že na prvi strani napovedi AI 2027 smo zapisali, da so naši časovni okviri nekoliko širši od leta 2027. Tako smo že ob njihovi objavi pričakovali, da nas bo leta 2028 kup kritikov zmagoslavno sramotil – podobno kot zdaj na X objavljata Sacks in Krishnan, toda menili smo in še vedno menimo, da bo v naslednjih petih do desetih letih inteligenca eksplodirala in da se bodo ljudje takrat spomnili naših napovedi ter ugotovili, da so bile bliže resnici kot vse, kar smo lahko prebrali leta 2025.
Napovedovanje prihodnosti je zahtevno, vendar je vredno poskusiti; ljudje bi morali svojo negotovost o prihodnosti izražati na konkreten in preverljiv način. To smo storili mi in peščica drugih strokovnjakov. Naši kritiki večinoma niso objavili lastnih napovedi in pogosto pretiravajo ter napačno predstavljajo naša stališča. Trdijo, da so naši časovni okviri ožji, kot so v resnici, ali pa nam pripisujejo pretirano samozavest.
Kar dobro se počutim ob bolj zadržani napovedi o prihodu SUI. Občutek je, kot bi od zdravnika dobil boljšo prognozo. A položaj je v osnovi še vedno enak.
