Põhisõnum: CISOd ei peaks agentset tehisintellekti põhimõtteliselt tagasi lükkama, vaid looma ja piirama riske sihipäraselt nelja kontrollküsimuse abil (andmesisendid, tegevused, kahju ulatus, jälgitavus).
Agentsed tehisintellektisüsteemid levivad ettevõtetes kiiremini, kui turvameeskonnad suudavad neid kontrollida. Anthropic on välja töötanud raamistiku, et hoida need riskid mõõdetavad ja piiratud, selle asemel et need üldiste keeldudega varju suruda.
Agentse tehisintellekti kasutusjuhtumeid tekib kiiremini, kui juhtimisstruktuurid suudavad nendega sammu pidada. Klassikaline lähenemine — selliste rakenduste keelamine — viib varimõõtmiseni ilma telemeetria ja kontrollivõimalusteta. Samas põhjustab kaitsemeetmeteta heakskiitmine intsidente, mis võivad tehisintellekti programmi pikaajaliselt kahjustada. Seetõttu vajavad CISOd kolmandat positsiooni: muuta agentne risk jälgitavaks ja piiratuks, et ettevõte saaks teadlikult aktsepteerida vastuvõetavaid riske, selle asemel et IT-reeglitest mööda minna.
Riskimaastik jaguneb kaheks valdkonnaks. Väliselt kasvavad ohud tänu tipptasemel mudelitele nagu Claude Mythos Preview ja Claude Mythos 5: need süsteemid leiavad tõsiseid turvaauke väljakujunenud tarkvaras (OpenBSD, Linux Kernel, Mozilla Firefox), mis olid jäänud aastateks avastamata. Need lühendavad drastiliselt teed teadaolevast haavatavusest automatiseeritud rünnakuni. Sisemiselt tekivad riskid eelkõige andmelekete kaudu, kui süsteeme ühendatakse omavahel halvasti jälgitavate isiklike agentide vahendusel, ning viipesüsti (prompt injection) kaudu, kui ründajad põimivad varjatud käske sisusse, mida agent töötleb. Kuigi tänapäevased mudelid seisavad süstidele üha paremini vastu, ei ole määr siiski null.
Anthropic pakub välja neljaetapilise hindamisprotsessi. Iga agentse kasutusjuhtumi puhul selgitatakse: (1) millist sisu agent vastu võtab, mida ründaja võiks kontrollida (e-kirjad, veebisisu, kolmandate osapoolte dokumendid); (2) milliseid tegevusi ta saab teha ja millise identiteedi all — ainult lugemisõigus erineb põhimõtteliselt loe/kirjuta-õigusest, failitoimingutest või võrgujuurdepääsust; (3) kui suur on kahju ulatus vale joondumise (misalignment) või kuritarvitamise korral (mõned failid või kogu organisatsioon, anomaalia või tegelik intsident); (4) milline jälgitavus on olemas — kas agendi tegevusi saab eristada kasutaja tegevustest ning kas need jõuavad SIEM-süsteemi.
Nendest neljast vastusest kujuneb riskipilt. Minimaalse tegutsemisvabaduse põhimõte annab seejärel ette, kuidas reageerida: anda ainult nii palju õigusi, kui ülesande täitmiseks vajalik. Anthropicu standard on etapiviisiline juurutamine administraatori juhtimisel: aktiveerida väike rühm, jälgida käitumist, skaleerida järk-järgult. Nii muutub agentne tehisintellekt kontrollitud äривõimekuseks, mitte kontrollimatuks teguriks.
Allikas: claude.com · Avaldatud 16. juuli 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt EU tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.7.3 poolt.