Revolucija v svetu grafičnih kartic s pomnilniki terabajtne zmogljivosti
Sodobni grafični procesorji in pospeševalniki umetne inteligence (UI) se zanašajo na pomnilnik HBM, ki omogoča izjemno hitrost, a ima omejeno zmogljivost v gigabajtih. Ker veliki jezikovni modeli rastejo hitreje od razvoja strojne opreme, je najzahtevnejše modele treba deliti na več povezanih grafičnih kartic, kar močno povečuje stroške in kompleksnost infrastrukture.
Tehnološka velikana SanDisk in SK Hynix zato razvijata inovativni bliskovni pomnilnik z visoko pasovno širino (HBF). Ta združuje ogromne kapacitete SSD pogonov z bliskovitimi hitrostmi prenosa HBM-pomnilnika. S prenosom tega koncepta v arhitekturo grafičnih kartic se odpirajo vrata do naprav z več terabajti hitrega pomnilnika.
Namesto dragih gruč grafičnih kartic bi lahko podjetja celoten model naložila in poganjala na eni sami zmogljivi kartici. Grafični procesorji bi tako postali učinkoviti samostojni stroji z neposrednim dostopom do vseh uteži modela brez ozkih grl.
Kljub tehničnim izzivom, kot je vzdržljivost pomnilniških celic pri nenehnem zapisovanju v primerjavi s tradicionalnim delovnim pomnilnikom, razvoj HBF jasno kaže, da se strojna oprema hitro prilagaja zahtevam sodobnega računalništva in prihodnosti UI. Kljub temu da je tehnologija v prvi vrsti namenjena velikim podatkovnim centrom in reševanju težav pri obdelavi umetne inteligence, bi njeni odmevi sčasoma lahko dosegli tudi trg običajne potrošniške elektronike.
