Lühidalt: Open Secure AI Alliance on avaldanud SAFE-suuniste kavandi tehisintellekti turvaintsidentide konfidentsiaalseks, kogu tööstusharu hõlmavaks jagamiseks ning täiendanud seda avatud tööriistadega kogu agentliku tehisintellekti turvapinu ulatuses.
Las Vegases toimuva Black Hat konverentsi avapäeval avaldas üle 120 liikmesorganisatsiooniga Open Secure AI Alliance kommentaaride esitamise kutse (Request for Comments) SAFE-suunistele (Shared AI Findings Exchange). Eesmärk on luua kogu tööstusharu hõlmav mehhanism, mille abil koguda ja hinnata konfidentsiaalselt agentliku tehisintellekti intsidente ning muuta need ühiseks kaitsemeetmeks kogu ökosüsteemi jaoks.
Linux Foundation on avaldanud SAFE-suuniste (Shared AI Findings Exchange) kavandi, mille koostas Open Secure AI Alliance’i töörühm. Koostamises osalevad muu hulgas NVIDIA, Cisco, CrowdStrike, Hugging Face ja Red Hat. Suunised näevad ette tehisintellekti turvaintsidentide ja peaaegu toimunud vahejuhtumite konfidentsiaalse registreerimise ja analüüsimise, mõjutatud osapoolte teavitamise, korduvate kontrollimehhanismide rikete tuvastamise ning nende põhjal tõenduspõhiste tegevussoovituste väljatöötamise, mille eesmärk on vähendada süsteemset riski.
Turvajuhtidele (CISO) on oluline see, et alliansi hinnangul ei tuleks tehisintellekti agente vaadelda üksiku mudelina, vaid süsteemina, mis koosneb identiteedikontrollidest, täitmiskeskkondadest (harness’id), kaitsemeetmetest (guardrails), logidest ja hindamismehhanismidest. Klassikalisest haavatavuste skaneerimisest üksi ei piisa agentliku tehisintellekti kaitsmiseks. Kogu tööstusharu hõlmav intsidendiandmete jagamine peaks aitama kaitsjatel pidada sammu ründajatega, kes kasutavad rünnakute jaoks üha rohkem tehisintellekti agente.
Paralleelselt SAFE-suunistega on alliansi liikmed teinud kättesaadavaks ka teised avatud tööriistad, mis katavad kogu tehisintellekti turvapinu. NVIDIA panustab sealjuures muu hulgas NOOA uurimisharness’iga (NVIDIA Labs Object-Oriented Agent) agentide käitumise analüüsimiseks, OpenShell-käitusaegse süsteemiga turva- ja andmekaitsekontrollide jõustamiseks agendi tasandil, samuti avatud mudeliperekondadega, nagu Nemotron, Cosmos, Isaac GR00T, BioNeMo ja Alpamayo, mille kaalud ja treeningandmed on avalikud. Sellele lisanduvad signeeritud agendioskused (agent skills), mis on kontrollitud selliste riskide suhtes kui viipa süstimine (prompt injection) ja tööriistade mürgitamine (tool poisoning), samuti andmekaitse ja poliitikate jõustamise tööriistad NeMo Guardrails, NeMo Anonymizer ja NeMo Safe Synthesizer, ning suurte keelemudelite haavatavuste skanner Garak.
Teatele kohaselt on ka teised alliansi liikmed andnud oma panuse valdkondades, mis hõlmavad identiteeti ja õigusi, käitusaegseid kaitsemeetmeid, turvalisuse tehisintellektimudeleid, jälgitavust (observability), hindamist, andmeturvet ning käideldavust ja vastupidavust; avaldamise ajal olid üksikute panuste üksikasjad esitatud vaid osaliselt. Ettevõtete turvavastutajatele annab SAFE-kavand võimaluse tutvuda võimaliku kogu tööstusharu hõlmava tehisintellekti turvaintsidentide jagamise standardiga juba varakult, enne selle lõplikku vastuvõtmist.
Allikas: blogs.nvidia.com · Avaldatud 4. august 2026
Lumi AI News — tehisintellekti abiga kureeritud vastavalt tehisintellektimääruse art. 50-le. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.8.3 poolt.