Nvidia pripravlja procesiranje umetne inteligence kot storitev v oblaku
Nvidia je v zadnjih letih doživela izjemno rast, predvsem zaradi povpraševanja po svojih podatkovnih centrih GPU za treniranje in izvajanje naprednih AI modelov. Kljub temu se podjetje zaveda, da rast ne bo trajala večno, zato se osredotoča tudi na svojo programsko opremo.
Njihova strategija vključuje uvajanje specifičnih knjižnic za pospeševanje računalniških nalog kot je CUDA, ki je od leta 2007 pomagala raziskovalcem in razvijalcem optimizirati svoje kode za GPU-je.
V zadnjem času je Nvidia začela prehajati na naročniški model programske opreme, kar bi lahko v prihodnosti prineslo milijarde dolarjev prihodkov. Njihova ponudba Nvidia Inference Microservices (NIM) omogoča podjetjem enostavnejšo implementacijo in uporabo AI modelov z že pripravljenimi in konfiguriranimi orodji.
Programske kontejnerje NIM je mogoče namestiti domala v vso programsko opremo, ki podpira komunikacijo s procesorji Nvidia. To morda ne zveni vznemirljivo, vendar je bistveno, saj močno poenostavi sicer dokaj zapleten postopek konfiguracije potrebnih gradnikov, ki so sestavljeni iz številnih kontejnerjev in medsebojnih odvisnosti.
Umetna inteligenca kot programska storitev je za mnoga podjetja lahko zanimiva tudi zato, ker Nvidia načrtuje najem namesto nakup strojne opreme. Osnovna storitev NIM bo stala okoli 4.500 dolarjev na leto za GPU, za manjše obremenitve pa okoli 1 dolar na GPU uro. Za podjetja, ki načrtujejo velike obremenitve, predstavlja nakup strojne še vedno bolje razmere med investicijo in povrnitvijo, toda veliko podjetij tovrstne strežnike ne obremenjujejo celoten čas, zato so storitve zanimiva alternativa.
Ta poteza bi lahko postala pomemben dejavnik rasti podjetja, saj omogoča lažjo implementacijo generativne AI na večji ravni. Nvidia upa, da bo ta strategija v prihodnjih letih prinesla znatne prihodke, vendar se sooča z izzivi, kot so možna odvisnost od dobaviteljev in konkurenca, ki bi lahko ponudila podobne rešitve brezplačno.
