Lühidalt: AI-Infra-Guard käsitleb tehisintellektiagentide killustunud ründepinda kihipõhiste turvaparadigmade abil: reeglipõhine sobitamine infrastruktuuri jaoks, suurte keelemudelite auditid protokollide jaoks ning käitumispõhine testimine agentide käitumise jaoks.
Teadlased tutvustavad AI-Infra-Guardi — avatud lähtekoodiga raamistikku, mis kaitseb tehisintellektiagente mitmel arhitektuurilisel tasandil korraga. Tööriist ühendab reeglipõhise haavatavuste tuvastamise, suurte keelemudelite abil tehtava protokollikontrolli ja must kasti meetodil toimuva punase meeskonna testimise, sihtides sellega turvalünka kiiresti kasvavas tehisintellekti-infrastruktuuri maastikul.
Tänapäevaste tehisintellektiagentide ründepind hõlmab nelja tasandit: infrastruktuur (mudelite käitamine, agendiplatvormid), protokollid ja tööriistad (Model Context Protocol, MCP), agentide käitumine ning aluseks olevad keelemudelid ise. Senised turvavahendid on neid tasandeid käsitlenud eraldiseisvalt, mistõttu on praktilises kaitses tekkinud lünki.
AI-Infra-Guard korraldab punase meeskonna tegevusi lähtudes põhimõttest, et iga tasand nõuab erinevat tuvastusparadigmat. Raamistik ühendab deterministliku reeglipõhise sobitamise enam kui 75 tehisintellekti komponendi ja üle 1400 haavatavusreegli ulatuses, suurte keelemudelite abil toimiva agendipõhise auditeerimise MCP-serverite ja agentide oskuspakettide kontrollimiseks ning mitmevooruliste dialoogidega must kasti punase meeskonna testimise agentide käitumise vastu. Lisaks sisaldab raamistik jailbreak-testimise keskkonda, milles kasutatakse üle 26 ründeoperaatori kuueteistkümne andmestiku peal.
Lähenemise erilisus seisneb agentide oskuste tarneahela kontrollimises — need laiendused suurendavad üha enam tehisintellektiagentide funktsionaalsust, luues samal ajal uusi ründevõimalusi. Autorite sõnul teeb see raamistikust ainsa avatud lähtekoodiga lahenduse, mis katab kõiki tasandeid tervikuna. Süsteem on kogukonnale avatud lähtekoodiga kättesaadav, et luua ühine alus agentide turvalisuse tagamiseks.
Allikas: arxiv.org · Avaldatud 29. juuni 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt EU AI Acti artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.7.3 abil.