Kokkuvõtlikult: Vabalt laaditavad agendioskused võivad kompromiteerida tundlikele süsteemidele juurdepääsuga tehisintellekti agente, kui ettevõtted ei rakenda kaitsemeetmeid enne kasutuselevõttu, kontrollitud LLM-kasutust ja käitusaegset kaitset.
Tehisintellektisüsteemide jaoks vabalt laaditavad agendioskused kujutavad endast riski, kui ettevõtted võtavad tehisintellekti agendid kasutusele ilma turvalisuseta juba disaini tasandil (security by design). Kui nende oskuste päritolu ja käitumine ei ole kontrollitud, võivad manipuleeritud laiendused kompromiteerida agente, kellel on juurdepääs tundlikele süsteemidele.
Tehisintellekti agente saab üha enam täiendada nn oskuste (skills) abil – vabalt kättesaadavate moodulitega, mis pakuvad täiendavaid võimeid, näiteks süsteemile juurdepääsu, andmetöötlust või lõimimist kolmandate osapoolte rakendustega. Kui selliseid oskusi laaditakse kontrollimatult, tekib rünnete sissepääsutee: kahjulikud või manipuleeritud laiendused võivad sundida agente sooritama tegevusi, mis ületavad neile ette nähtud õigused. Kuna agentidel on sageli ulatuslikud juurdepääsuõigused tundlikele ettevõtte süsteemidele, on risk klassikalise tarkvara tarneahelaga võrreldes märkimisväärselt suurem.
CISOde jaoks nihkub ründepind seega puhtalt koodihaavatavustelt autonoomsete süsteemide käitumisriskidele. Agent, mis tegutseb iseseisvalt ja reageerib seejuures manipuleeritud oskustele või kontrollimatutele LLM-vastustele, võib väljuda kontrolli alt, ilma et klassikalised perimeetrikontrollid seda takistaksid. Vastutus ei lasu seega enam üksnes lõpp-punktide või võrkude kaitsel, vaid agendi käitumise kontrollimisel tervikuna – kogu selle elutsükli jooksul, alates kasutuselevõtust kuni käitusajani.
Vastumeetmena kirjeldatakse kaitsemeetmeid, mis toimivad kolmel tasandil: agentide ja oskuste kontroll enne kasutuselevõttu, aluseks olevate LLM-mudelite kontrollitud kasutamine ning käitusaegsed kaitsemehhanismid, mis jälgivad ja piiravad agentide käitumist töö käigus. Neid kaitsemeetmeid ei tuleks mõista puhtalt piiranguna, vaid eeltingimusena, et tehisintellekti agente saaks ettevõtte keskkondades üldse turvaliselt kasutusele võtta.
Turvajuhtidele tähendab see vajadust käsitleda agendioskusi samamoodi kui tarkvarasõltuvusi: päritolu kontrolli, õiguste kontrolli ja pideva jälgimisega. Kes võtab tehisintellekti agendid tootmiskeskkonda kasutusele ilma nende kontrollimeetmeteta, annab usalduse üle komponentidele, mille käitumine käitusajal ei ole prognoositav.
Allikas: www.security-insider.de · Avaldatud 7. augustil 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt EU tehisintellektimääruse art. 50-le. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.8.3 poolt.