Klasični procesorji lahko blestijo v umetni inteligenci
V zadnjih tednih so v Silicijevi dolini se oči uprte v majhno zagonsko podjetje Numenta, ki sicer ni več tako zelo novo – kmalu bo praznovalo 20-letnico – ker je z novim izdelkom pokazalo, kako lahko tudi klasični procesorji umetni inteligenci ponudijo bistveno več. Intelovi Xeoni nenadoma zmorejo več kot grafični čipi, čeprav za to niso bili nikoli narejeni.
Gre za izdelek Numenta Platform for Intelligent Computing (NuPIC), ki rešuje problem raztresenosti (sparcity). Moderni procesorji x86 potrebujejo kontinuirni tok podatkov, ki je čim gostejši, da lahko učinkovito izkoriščajo večstopenjske cevovode in vektorske ukaze. Moderni procesorji znajo množiti matrike, ki so polne podatke.
Pri nevronskih mrežah oziroma umetni inteligenci pa velja ravno obratno in tam so podatki raztreseni. Ključno je, da so sposobni izvajati hitre operacije na raztresenih matrikah. Še huje je pri človeških možganih, kjer so podatki ultraraztreseni, obdržijo pa se le relevantni koščki. Numenta je zato rešila ta problem.
Za procesor so izbrali Xeon, nato pa zanj pripravili razširitve Advanced Vector Extensions (AVX)-512 in Advanced Matrix Extensions (AMX). Te procesorju prinašajo dodatne ukaze, ki so bolj učinkoviti na raztresenih podatkih. Seveda gre za povsem programsko rešitev, ki je na voljo kot Docker container. Rezultati so bili osupljivi. Numenta je – sicer v komercialni predstavitvi – pokazala, da 48-jedrni Xeon četrte generacije (Sapphire Rapids) premaga Nivdio A100. S tem so klasični procesorji dobili še en odlog irelevantnosti.
