Googlov jezikovni model Gemma 4 12B teče na prenosnih računalnikih
Z naraščanjem velikosti in zmogljivosti velikih jezikovnih modelov se zdi, da so edina možna smer veliki podatkovni centri oziroma oblakih, kjer bomo naročali računsko moč za njihovo poganjanje – a bi se zmotili. Svojo funkcijo imajo tudi manjši model, ki se še ravno ugnezdijo na osebne računalnike, med katere sodi tudi najnovejša Googlova Gemma 4. Dovolj je zmogljiva, da so njeni umotvori uporabni, hkrati pa ravno še teče na prenosnih računalnikih s 16 GB pomnilnika.
Google je že aprila izdal štiri modele iz družine Gemma 4. Modela E2B in E4B sta bila optimizirana za šibke mobilne naprave, 26B Mixture of Experts in 31B Dense pa za zmogljive delovne postaje, ki na domačih pisalnih mizah niso ravno pogoste. To vrzel zapolnjuje nova Gemma 4 12B.
Ta je zmogljivejša od verzij za mobilne naprave, a hkrati ne terja več tisoč evrov vrednih grafičnih kartic. Zadoščal bo že povprečni procesor z grafičnim čipom in 16 GB pomnilnika, kar ima večina današnjih prenosnikov. Google zagotavlja, da se Gemma 4 12B obnese tako kot razmišljujoči model (reasoning) kakor tudi v agentskem načinu. Model je večmodalen in razume besedila, avdio in slike. Modelove uteži lahko snamemo s spleta in ga poganjamo lokalno, kar je tudi njegov namen.
