Kokkuvõtvalt: Seisukohapaber nõuab, et tehisintellekti agentide turvalisus tuleks tagada mitte treeningfaasis, vaid jõustatava käitusaegse lepinguna, mis sisaldab ennetavaid ja tõenduspõhiseid kontrolle täitmiskeskkonnas (harness), toetudes 52 turvaintsidendi analüüsile ja treening- ning juurutusaegse turvalisuse vahelisele 8–12-kordsele avaldamistasakaalustamatusele.
Uus seisukohapaber väidab, et autonoomsete tehisintellekti agentide turvalisust ei saa tagada ainult treeningmeetoditega, nagu RLHF, DPO või Constitutional AI. Selle asemel tuleks turvalisus juurutada jõustatava käitusaegse lepinguna täitmiskeskkonnas (harness), kuna agendid käivitavad koodi, muudavad faile, saadavad sõnumeid ja manipuleerivad andmebaasidega.
Aadressil arxiv.org/abs/2608.11274 avaldatud paber kritiseerib valdavat paradigmat, mille kohaselt tehisintellekti turvalisus tekib peamiselt mudeli omadusena treeningu käigus. Autorid väidavad, et see lähenemine on autonoomsete agentide puhul struktuurselt ebapiisav, kuna need teevad käitusaja jooksul reaalseid tegevusi, millel on tagajärjed. Selle asemel pakuvad nad välja kaheosalise käitusaegse lepingu: ennetava poole, mis blokeerib ohtlikud tegevused eelnevalt liivakastide (sandbox), õiguste piirangute (permission gates), väljundfiltrite ja trajektoori jälgijate abil, ning tõenduspõhise poole, mis nõuab enne ülesande lõpetamist usaldusväärset tõendit tegevuste edukusest – näiteks testkäike, logikirjeid, failidiffe või tsiteerimispõhist alusandmete kontrolli (citation grounding).
Väite kinnitamiseks toetub paber neljale empiirilisele uuringule, mille algandmed on lisatud JSON-failidena: 52 dokumenteeritud tehisintellekti agentide ja suurte keelemudelite (LLM) turvaintsidendi analüüsile, valeedukate lõpetamiste (“false completions”) auditile, mis hõlmab 31 vaieldamatut põhijuhtumit ja üht vaieldavat näidisjuhtumit, 12 avaliku agendisüsteemi ja täitmiskeskkonna trajektooride skeemiauditile, ning kõigi 28 560 aastatel 2023–2025 NeurIPS, ICML ja ICLR konverentsidel vastu võetud artikli pealkirjade analüüsile. Viimane näitab treeningaegset turvalisust ja juurutusaegset turvalisust käsitlevate publikatsioonide vahel koondatud 8–12-kordset tasakaalustamatust.
Insenerimeeskondadele, kes viivad agendisüsteeme tootmisse, pakub paber konkreetseid tööriistu: formaliseeritud agendi trajektoori skeemi koos tõendusahelaga (evidence chain) ning kompositsioonilise väravamise (gating) väite, mis põhineb standardsete jälgijate kombineerimisel. Autorid tõmbavad paralleele arvutiturvalisuse ja eksperimentaalteadustega, mis mõlemad on ajaloos liikunud käitusaegsete lepingute suunas, mis sisaldavad ennetavaid ja tõenduspõhiseid elemente. Nende peamine väide on, et agendipõhise tehisintellekti puhul ei ole asjakohane turvalisuse üksus mudel ise, vaid trajektoor koos kontrollitava tõendusmaterjaliga – see on lähtepunkt täitmiskeskkonna arhitektuuride, jälgimispipeline’ide ja vastuvõtukriteeriumide kujundamisel tootmises kasutatavates agendisüsteemides.
Allikas: arxiv.org · Avaldatud 10. august 2026
Lumi AI News — tehisintellekti abil kureeritud sisu vastavalt tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.8.3 abil.