Lühidalt: Valideeritud kompaktimisstrateegiad võimaldavad tokenite lineaarset kasvu, säilitades samal ajal täpsuse, selle asemel et valida ruutsõltuvuses kulude ja täpsuse järsu languse vahel.
Production-keskkondades ei jää tehisintellekti agendid hätta mitte niivõrd puuduliku arutlusvõime, kuivõrd oma arutluskontekstide haldamise tõttu: vestlusajalood, mahukad promptid ja kasvavad tööriistade väljundid põhjustavad eksponentsiaalselt kasvavaid tokenikulusid ja kaotsi läinud mälestusi. Cornelli teadlaste rühma uus uurimissuund käsitleb konteksti mitte pelgalt salvestusprobleemina, vaid elutsükli arhitektuuri küsimusena.
Probleem on väga konkreetne: agendid kogunevad aja jooksul vestlusajalugu ja tööriistade väljundeid, mida tuleb iga uue päringu puhul uuesti töödelda. See toob kaasa tokenite ruutsõltuvuses kasvu vestluse pikkuse suhtes. Naiivsed kokkuvõtted vähendavad küll kulusid lineaarseks kasvuks, kuid toovad kaasa täpsuse järsu languse — teave läheb kaotsi ning agent unustab varasematest vestlustest pärit konteksti.
Uurimissuund defineerib agentse kontekstihalduse (Agentic Context Management, ACM) distsiplineeritud elutsükli probleemina, millel on viis põhielementi: arhitekteerimine (kuidas kontekst struktureeritakse), sisestamine (kuidas andmed sisse tulevad), piiritlemine (mis on asjakohane), ennetamine (mida hiljem vaja läheb) ning kompaktimine ja konsolideerimine (kuidas kontekst infot kaotamata kokku suruda). Production-keskkonnas peab see toimima mitte ainult iga kasutaja, vaid ka organisatsiooniliste hierarhiate ülesel tasandil — mitme rentniku (multi-tenant) stsenaariumides, kus kontekstinõuded erinevad.
Lahendus „valideeritud kompaktimine” (validated compaction) ühendab mõlemad maailmad: see tagab tokenite lineaarse kasvu, säilitades samal ajal täpsuse. Autorite andmetel saavutab võrdlusimplementatsioon Maximem Synap 92 protsenti LongMemEval testis ja 93,2 protsenti LoCoMo testis. Insenere silmas pidades on mõju märkimisväärne — tegemist ei ole üksikute nippidega, vaid põhimõttelise arhitektuurse ümbermõtestamisega selles, kuidas agendid oma teadmistebaasi aja jooksul korraldavad.
Praktiliste kasutuselevõttude puhul jäävad lahtiseks küsimused latentsusest, tokenite kasutuse tõhususest reaalse töökoormuse tingimustes ning vastupidavusest nn konteksti lagunemisele (context rot) — kuidas kvaliteet halveneb, kui konteksti pikema aja jooksul ei värskendata. Levinud võrdlusalused (benchmarkid) ei kata veel neid mõõtmeid.
Allikas: arxiv.org · Avaldatud 22. juuli 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.7.3 abil.