Lühidalt: Open Secure AI Alliance on esitanud SAFE-suunised tehisintellekti turvaintsidentide konfidentsiaalseks ja valdkonnaüleseks jagamiseks, täiendades neid avatud tööriistadega, mis hõlmavad kogu agentliku tehisintellekti turbepinu.
Las Vegases toimuva Black Hat konverentsi avapäeval avaldas Open Secure AI Alliance, kuhu kuulub üle 120 liikmesorganisatsiooni, avaliku kommentaaride esitamise kutse SAFE-suuniste (Shared AI Findings Exchange) kohta. Eesmärk on luua valdkonnaülene mehhanism, mille abil koguda ja analüüsida konfidentsiaalselt agentliku tehisintellekti turvaintsidente ning muuta need kogu ökosüsteemi ühiseks kaitsemeetmeks.
Linux Foundation avaldas SAFE-suuniste (Shared AI Findings Exchange) kavandi, mille töötas välja Open Secure AI Alliance’i töörühm. Väljatöötamises osalevad muu hulgas NVIDIA, Cisco, CrowdStrike, Hugging Face ja Red Hat. Suunised näevad ette tehisintellekti turvaintsidentide ja peaaegu toimunud vahejuhtumite konfidentsiaalset registreerimist ja analüüsimist, mõjutatud osapoolte teavitamist, korduvate kontrollimeetmete rikete tuvastamist ning nende põhjal tõenduspõhiste tegevussoovituste koostamist, mille eesmärk on vähendada süsteemseid riske.
Turbejuhtide jaoks on oluline, et Alliance’i hinnangul ei tuleks tehisintellekti agente vaadelda üksiku mudelina, vaid süsteemina, mis koosneb identiteedikontrollidest, täitmiskeskkondadest (harness’idest), turvapiirangutest (guardrails), logidest ja hindamismehhanismidest. Klassikalisest haavatavuste skaneerimisest üksi ei piisa agentliku tehisintellekti kaitsmiseks. Valdkonnaülene intsidendiandmete jagamine peaks aitama kaitsjatel pidada sammu ründajatega, kes kasutavad rünnakute läbiviimiseks järjest enam tehisintellekti agente.
Paralleelselt SAFE-suunistega on Alliance’i liikmed teinud kättesaadavaks veel teisi avatud tööriistu, mis katavad kogu tehisintellekti turbepinu. NVIDIA panustab muu hulgas NOOA-uurimisraamistikuga (NVIDIA Labs Object-Oriented Agent) agentide käitumise analüüsimiseks, OpenShell-käitusajaga turva- ja andmekaitsekontrollide jõustamiseks agendi tasandil, samuti avatud mudeliperekondadega nagu Nemotron, Cosmos, Isaac GR00T, BioNeMo ja Alpamayo, mille kaalud ja treeningandmed on avalikud. Lisaks pakutakse signeeritud agendioskusi (agent skills), mis on kontrollitud selliste riskide suhtes nagu viipasüst (prompt injection) ja tööriistade mürgitamine (tool poisoning), tööriistu NeMo Guardrails, NeMo Anonymizer ja NeMo Safe Synthesizer andmekaitse ja põhimõtete jõustamise tarbeks, ning suurte keelemudelite haavatavuste skanneri Garak.
Teatatud teiste Alliance’i liikmete panuste kohta hõlmavad need vastavalt teadaandele valdkondi identiteet ja õigused, käitusaegsed turvapiirangud, turbealased tehisintellektimudelid, jälgitavus (observability), hindamine, andmeturve ning käideldavus ja vastupidavus; avaldamise ajal olid üksikute panuste üksikasjad teatatud vaid osaliselt. Ettevõtete turbejuhtidele annab SAFE-kavand võimaluse tutvuda juba varakult võimaliku valdkondliku standardiga tehisintellekti turvaintsidentide jagamiseks, enne kui see lõplikult vastu võetakse.
Allikas: blogs.nvidia.com · Avaldatud 4. augustil 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt EL tehisintellektimääruse art. 50-le. Parafraas ja klassifikatsioon Lumi News Pipeline v1.8.3 abil.