UI pospeševalnik za prenosne in namizne računalnike
Startup podjetje EnCharge AI je predstavilo prvi UI pospeševalnik, ki je dovolj varčen in majhen, da ga lahko uporabimo tudi v malih napravah, kot so prenosniki. EN100 je prvi UI pospeševalnik, ki temelji na skalabilni analogni in-memory računalniški arhitekturi. Ta inovacija obljublja prelom v energetski učinkovitosti in zmogljivosti AI obdelave na napravah, kot so prenosniki, delovne postaje in robne naprave.
Pri klasičnih računalnikih procesorji (CPU, GPU, NPU) berejo podatke iz pomnilnika (RAM), jih obdelajo in nato podatke zapišejo nazaj. Tovrstno premikanje podatkov med procesorjem in pomnilnikom predstavlja veliko energetsko in časovno potratnost, znano kot von Neumannovo ozko grlo.
Analogni pomnilnik v EnCharge AI pa združuje shranjevanje in obdelavo podatkov v eni sami enoti, s čimer skoraj izniči to ozko grlo. Vsaka povezava v nevronski mreži ima težo. Namesto da so te shranjene kot digitalne vrednosti (bitni zapisi), so v EnCharge AI zapisane kot napetosti ali prevodnosti v posebnih analognih komponentah – pogosto v ReRAM (Resistive RAM) ali PCM (Phase Change Memory) celicah.
Ko procesor dobi vhodne podatke (npr. slikovne pike ali besedilo), se izvede množica analognih operacij (npr. množenje in seštevanje) neposredno v pomnilniku, brez premikanja podatkov ven in noter. To omogoča izjemno paralelizacijo – tisoče operacij hkrati – z minimalno porabo energije. Sistem še vedno sodeluje z digitalnim svetom – vhodne podatke pretvori iz digitalnih v analogne signale, rezultat pa pretvori nazaj v digitalno obliko za nadaljnjo uporabo.
EN100 dosega več kot 200 TOPS (trilijonov operacij na sekundo) pri porabi zgolj 8,25 W, kar omogoča izvajanje naprednih UI nalog brez potrebe po oblačni infrastrukturi. Na voljo je v dveh oblikah: M.2 za prenosnike in PCIe za delovne postaje. PCIe kartica s štirimi NPU-ji dosega približno 1 PetaOPS, kar je primerljivo z zmogljivostjo GPU-jev, vendar z bistveno nižjo porabo energije in stroški.
Poleg strojne opreme EnCharge AI ponuja tudi celovit programski paket, ki vključuje orodja za razvoj, optimizacijo in podporo za priljubljene platforme, kot sta PyTorch in TensorFlow. S tem omogočajo razvijalcem enostavno integracijo EN100 v obstoječe aplikacije.
Podjetje, ki je nastalo kot spin-off Univerze Princeton, je doslej zbralo 144 milijonov dolarjev sredstev, med vlagatelji pa so tudi Tiger Global Management in Samsung Ventures. Čeprav je prvi krog programa zgodnjega dostopa za naročanje EN100 že zaprt, lahko zainteresirani razvijalci in proizvajalci originalne opreme (OEM) obiščejo spletno stran podjetja in se prijavijo za naslednji krog.
