Skip to content

Gemma 4 12B töötab nüüd tavalistes sülearvutites kohaliku tehisintellekti töötlusega

Lühidalt: Gemma 4 12B töötab 16 GB muutmäluga tavalistes sülearvutites ning võimaldab LiteRT-LM käsurea liidese kaudu kohalikke API-lõpp-punkte agendipõhiste töövoogude jaoks ilma pilveteenusteta.

Google esitleb Gemma 4 12B mudelit — keelemudelit, mis töötab 16 GB muutmäluga sülearvutites ja võimaldab agendipõhiseid töövooge täielikult kohapeal, ilma pilveteenuseid kasutamata.

Google DeepMindi Gemma 4 12B mudel pakub multimodaalseid tehisintellekti võimalusi töölauakeskkondade jaoks. 16 GB muutmäluga macOS-süsteemides võimaldab see andmete kohalikku töötlust ja visuaalsete tulemuste genereerimist — näiteks Pythoni koodi dünaamilist käivitamist ja andmete visualiseerimist Google AI Edge Gallery kaudu.

Inseneride jaoks tähendab see praktilist sõltumatust pilveteenustest: mudelit saab kasutada võrguühenduseta ning see toetab kõne-teksti funktsioone otse seadmes. Google AI Edge Eloquent võimaldab täielikult võrguühenduseta kõnediktaadi ja tekstitöötluse ilma välise ühenduseta.

LiteRT-LM käsurea liides saab uue käsu „serve”, mis loob kohaliku HTTP-lõpp-punkti. See on tööstusstandarditega ühilduv ja sobib tugiraamistikuks täielikult kohapeal töötavatele tehisintellekti agentidele ja automatiseerimistööriistadele — ilma sõltumata kaug-API-dest.


Allikas: developers.googleblog.com · Avaldatud
Lumi AI News — tehisintellekti abil kureeritud vastavalt tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.2.9 abil.

Share on: