Lühidalt: Kerge lisakiht loeb külmutatud suurte keelemudelite varjatud genereerimisolekuid ning vähendab sellega suurematele mudelitele suunatud päringuid kuni 90,7% võrra, säilitades samal ajal jõudluse.
Teadlased on välja töötanud meetodi, mis loeb agentide otsuseid (jätkamine, eskaleerimine, tööriistade kasutamine, hoidumine) välja otse LLM-ide varjatud olekutest, selle asemel et neid promptimise või välise orkestreerimise abil juhtida.
Tehniline kontseptsioon: Multi-Head Latent Control (MHLC) koosneb kahest treenitud peast, mis analüüsivad külmutatud LLM-i või VLM-i varjatud olekute trajektoori genereerimise ajal. Capability Head prognoosib, kas praegune mudel suudab ülesande lahendada või peaks selle üle andma võimekamale mudelile. Resolution Head määrab, milline meede on sobiv: selguse taotlemine, väliste tööriistade kasutamine, vastamata jätmine (hoidumine) või otsene vastamine. Mõlemad pead treenitakse ainult sama külmutatud mudeli varjatud jälgede põhjal.
Praktilised järeldused: Mitme mudeliga agendisüsteeme haldavad insenerid saavad kasu väiksematest järeldamiskuludest ja kiirematest otsustest. Meetod võimaldab adaptiivset suunamist pärast esimest läbimist, ilma et baasmudelit oleks vaja muuta. See on DevOps-nõuete jaoks keskse tähtsusega: kohandamine tagantjärele ilma ümbertreenimise või promptide inseneritööta.
Empiirilised tulemused: Suunatud käitamise stsenaariumides (väike + suur mudel) vähenes suurema mudeli kasutamine kuni 90,7% võrra AndroidWorldi testis ning keskmiselt 27–53% kõigi võrdlustestide lõikes, säilitades seejuures suures osas suure mudeli jõudluse. Tööriistakasutuse otsuste puhul saavutas meetod kuni 158% suhtelise tulemuse kasvu ning vähendas vajalike, kuid vahele jäänud tööriistakutsete arvu 65,5% võrra.
Arhitektuuriline tähendus: Lähenemine loobub promptipõhisest suunamisest ja välistest orkestreerimiskihtidest, mis muutuvad mudelite uuendamisel hoolduskulukaks. Kuna kontrollsignaalid pärinevad stabiilsetest, sügavamal asuvatest esitustest, jääb süsteem vastupidavamaks promptide manipuleerimise suhtes ning vajab mudelivahetuse korral vähem korduvaid inseneritöö tsükleid.
Allikas: arxiv.org · Avaldatud 14. juuli 2026
Lumi AI News — tehisintellekti abiga kureeritud vastavalt tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.7.3 abil.