Lühidalt: Ettevõtted peavad oma turvapoliitikad tehisintellektisüsteemide autonoomsusega põhjalikult kohandama ning kehtestama iga küpsusastme (assistent, agent, operaator) jaoks eristatud juhtimiskontrollid.
Kuigi ettevõtted arendavad tehisintellekti tööriistu pelgalt assistentidest autonoomseteks agentideks, jäävad turva- ja juhtimispraktikad sellele arengule jalgu. Senine, assistendi põhimõttel rajanev kontroll ei ole enam piisav, kui tehisintellektisüsteemid tegutsevad iseseisvalt ligipääsuõiguste ja tundlike andmetega.
Alates ChatGPT avaldamisest peaaegu neli aastat tagasi on lõhe tehisintellekti tööriistade leviku ja küpsete turvastruktuuride vahel üha kasvanud. Kasutajad laadivad rutiinselt ettevõtte andmeid, finantsdokumente ja terviseandmeid suurtesse keelemudelitesse, sageli ilma ametliku loa või turvakontrollita. Seni pole see risk paljudes organisatsioonides katastroofiliste tagajärgedeni viinud — kuid see ei tõenda praktikate turvalisust.
Üleminek abistavalt tehisintellekti kasutuselt autonoomsele muudab riskiprofiili põhjalikult. Stephen Wilson, HashiCorpi (IBM) valdkonna tehnikadirektor, eristab kolme küpsusastet: (1) tehisintellekt kui assistent — inimene jääb kontrolli alla ja kinnitab iga väljundi; (2) tehisintellekt kui agent — süsteem täidab ülesandeid osaliselt iseseisvalt, näiteks delegeerides tööd erinevate tehisintellektisüsteemide vahel; (3) tehisintellekt kui operaator — suuresti autonoomsed süsteemid teevad otsuseid minimaalse inimjärelevalvega. Probleem seisneb selles, et organisatsioonid ei uuenda oma juhtimismudeleid vastavalt.
Assistendi režiimis on ohud juba selgelt näha. Privilegeeritud kasutajad sisestavad kergekäeliselt promptidesse API-võtmeid, andmebaasi sisselogimisandmeid või ligipääsutokene, taipamata, et LLM-i kontekstiaknad salvestavad neid tundlikke andmeid ja need võivad sattuda kolmandate isikute kätte. Siin on vaja rangelt eristada identiteete: inimene säilitab oma õigused, masinidentiteet saab ainult minimaalsed, ülesande täitmiseks vajalikud õigused.
Agendid eeldavad astmelist mudelit ligipääsukontrolliks. Erinevad agendid vajavad erinevaid õigusi; igal agendil peab olema jälgitav identiteet ja auditijälg. Neid agentide identiteete tuleb hallata ning nende usaldusväärsust põhiülesannete täitmisel pidevalt hinnata. Alles siis saab ettevõte kindlalt inimjärelevalvest loobuda ja lasta agentidel üksteise järel töötada — näiteks kirjutamisagendil, kes annab töö üle toimetamisagendile.
Suurim väljakutse peitub järgmises etapis: tehisintellekti-operaatorid, kes teevad iseseisvalt äritegevuse jaoks kriitilisi otsuseid või pääsevad ligi süsteemidele. Selleks puudub praegu veel väljakujunenud juhtimisstandard. Otsustava tähtsusega on selgelt määratleda piirid, millal operaator tohib sekkuda, millised on eskaleerimisteed ning kes lõppkokkuvõttes vastutab, kui autonoomne süsteem tegutseb organisatsiooni nimel.
Allikas: www.csoonline.com · Avaldatud 6. juulil 2026
Lumi AI News — tehisintellekti abiga kureeritud vastavalt tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.7.3 abil.