Nvidia Projekt DIGITS, superračunalnik za namizje
NVIDIA je na sejmu CES predstavila Projekt DIGITS, nov osebni superračunalnik z najnovejšo arhitekturo Grace Blackwell, ki bo z dostopno ceno in zmogljivo strojno opremo prinesel umetno inteligenco na mizo vsakega navdušenca, raziskovalca ali podjetja. Za nameček je računalnik zelo majhen, približno kot Mac Mini.
Osrednja novost je Superchip GB10, zasnovan kot sistemu na čipu (SoC), ki ga sestavljata visokozmogljivi Blackwell GPU in glavni procesor Grace CPU. S to kombinacijo, zlasti zaradi naprednih jeder CUDA in Tensor, sistem omogoča do enega petaflopa procesorske moči pri posebni nizkoprecizni aritmetiki FP4, kar zadostuje za poganjanje modelov z do 200 milijard parametri (200 B).
Med ključnimi aduti projekta je visoka energijska učinkovitost. Ustvarjalcem ni več treba uporabljati drago in zahtevno infrastrukturo, saj je Projekt DIGITS zasnovan tako, da deluje kot namizna naprava. Računalnik ima 128 GB enotnega, koherentnega pomnilnika, poleg tega pa ponuja do 4 TB NVMe pomnilniškega prostora. Za tiste, ki potrebujejo še več, je mogoče dve enoti povezati prek hitrega omrežne povezave ConnectX, s čimer se okvirna velikost modelov, ki jih je mogoče obdelovati, poveča na 405 milijard parametrov (405B).
Raziskovalci in razvijalci lahko z novim pristopom enostavno prototipirajo, prilagajajo in preverjajo zmogljivost modelov na lastnem namizju. Čim je projekt zrel za večje okolje, se lahko enaka rešitev, zasnovana na arhitekturi Grace Blackwell, brez težav prenese na oblačne storitve NVIDIA DGX Cloud ali v podatkovne centre, kjer teče vse na enotni programski platformi NVIDIA AI Enterprise.
Ta platforma združuje vrsto orodij in ogrodij za kvalitetno podatkovno znanost ter nabor knjižnic, namenjenih globokemu učenju in obdelavi velikih nizov podatkov. Na voljo so rešitve za različne potrebe, od orodij za jezikovno obdelavo, kot je NeMo, do sistemov za pospeševanje podatkovnih postopkov, kot je RAPIDS, pa tudi druge odprtokodne ali komercialne rešitve, ki so jih razvili različni ponudniki programske opreme.
Naprava bo delovala na Linuxu in bo imela nameščeno operacijsko okolje DGX OS, ki omogoča brezšivno povezovanje z rešitvami v oblaku. Razvijalci lahko pri delu uporabljajo širok nabor okolij, od Python in PyTorch do Jupyter zvezkov. Na voljo so tudi orodja za razvoj agentnih AI aplikacij, ki temeljijo na rešitvah, kot so Blueprints in NIM, pri čemer bodo za resnejše proizvodno okolje uporabniki lahko pridobili licenco NVIDIA AI Enterprise, ki zajema varnostne posodobitve, podporo ter dostop do najnovejših izdaj.
Po napovedih naj bi bil Projekt DIGITS na voljo maja, z začetno ceno 3.000 dolarjev. Naprava bo na voljo prek podjetja NVIDIA in njegovih partnerskih ponudnikov, kar bo mnogim olajšalo preboj na področje umetne inteligence ter pospešilo razvoj inovativnih rešitev.
