Objavljeno: 8.8.2024 08:00 | Teme: nvidia, umetna inteligenca

Nvidia pripravlja procesiranje umetne inteligence kot storitev v oblaku

Nvidia je v zadnjih letih doživela izjemno rast, predvsem zaradi povpraševanja po svojih podatkovnih centrih GPU za treniranje in izvajanje naprednih AI modelov. Kljub temu se podjetje zaveda, da rast ne bo trajala večno, zato se osredotoča tudi na svojo programsko opremo.

Njihova strategija vključuje uvajanje specifičnih knjižnic za pospeševanje računalniških nalog kot je CUDA, ki je od leta 2007 pomagala raziskovalcem in razvijalcem optimizirati svoje kode za GPU-je.

V zadnjem času je Nvidia začela prehajati na naročniški model programske opreme, kar bi lahko v prihodnosti prineslo milijarde dolarjev prihodkov. Njihova ponudba Nvidia Inference Microservices (NIM) omogoča podjetjem enostavnejšo implementacijo in uporabo AI modelov z že pripravljenimi in konfiguriranimi orodji.

Programske kontejnerje NIM je mogoče namestiti domala v vso programsko opremo, ki podpira komunikacijo s procesorji Nvidia. To morda ne zveni vznemirljivo, vendar je bistveno, saj močno poenostavi sicer dokaj zapleten postopek konfiguracije potrebnih gradnikov, ki so sestavljeni iz številnih kontejnerjev in medsebojnih odvisnosti.

Umetna inteligenca kot programska storitev je za mnoga podjetja lahko zanimiva tudi zato, ker Nvidia načrtuje najem namesto nakup strojne opreme. Osnovna storitev NIM bo stala okoli 4.500 dolarjev na leto za GPU, za manjše obremenitve pa okoli 1 dolar na GPU uro. Za podjetja, ki načrtujejo velike obremenitve, predstavlja nakup strojne še vedno bolje razmere med investicijo in povrnitvijo, toda veliko podjetij tovrstne strežnike ne obremenjujejo celoten čas, zato so storitve zanimiva alternativa.

Ta poteza bi lahko postala pomemben dejavnik rasti podjetja, saj omogoča lažjo implementacijo generativne AI na večji ravni. Nvidia upa, da bo ta strategija v prihodnjih letih prinesla znatne prihodke, vendar se sooča z izzivi, kot so možna odvisnost od dobaviteljev in konkurenca, ki bi lahko ponudila podobne rešitve brezplačno.

Več novic

Naroči se na redna tedenska ali mesečna obvestila o novih prispevkih na naši spletni strani!

Komentirajo lahko le prijavljeni uporabniki

Najbolj brano

  • Podjetja nočejo Copilota, ker zaposleni raje uporabljajo ChatGPT

    Microsoft kljub velikim naporom (beri: finančnemu vložku) podjetjem težko proda storitve umetne inteligence Copilot.

    Objavljeno: 27.6.2025 09:00
  • Android vam bo povedal, ali vam policija prisluškuje

    Čedalje popularnejši način prisluškovanja in prestrezanja podatkov z mobilnih telefonov je uporaba lažnih baznih postaj (IMSI catcher), ki jih imajo organi pregona v nekaterih državah, lahko pa tudi drugi akterji. Na takšno napravo se povežejo vsi telefoni v okolici, saj njen signal preglasi legitimne bazne postaje, upravljavec pa potem zlahka prestreza komunikacijo. Uporabnik tega početja praktično ne more zaznati.

    Objavljeno: 1.7.2025 07:00
  • Kitajski prenosniki so dve leti za zahodnimi

    Čeprav se Kitajci močno trudijo in izdatno investirajo v domači razvoj in proizvodnjo čipov, so še vedno vsaj dve generaciji za zahodnimi izdelki. To izkazuje tudi najnovejši Huaweijev prenosnik MateBook Fold Ultimate, ki poganja lastni HarmonyOS in ima same kitajske komponente. A te v primerjavi z zahodnimi zaostajajo.

    Objavljeno: 25.6.2025 07:00
  • Pametna očala s samodejnim ostrenjem bi lahko nadomestila bifokalna stekla

    Finsko podjetje IXI razvija inovativna očala z lečami, ki se samodejno ostrijo glede na pogled uporabnika. 

    Objavljeno: 23.6.2025 10:00 | Teme: pametna očala
  • Teslini samovozeči taksiji ne znajo voziti

    Prvi dnevi Teslinih robotskih taksijev so polni napak, vožnje po napačni strani ceste, nenadnih zaviranj in nevarnih ustavljanj za odlaganje potnikov.

    Objavljeno: 26.6.2025 09:00
  • HDMI 2.2 je tu!

    Sicer na papirju, a vendarle. HDMI Forum je izdal končne specifikacije standarda HDMI 2.2, ki so ga izdatno opisovali in predstavljali že na januarskem sejmu CES. HDMI 2.2 ima že večjo prepustnost kot DisplayPort, a bo zanjo zahteval nove kable Ultra96.

    Objavljeno: 27.6.2025 05:00
 
  • Polja označena z * je potrebno obvezno izpolniti
  • Pošlji