Auf den Punkt: Die Open Secure AI Alliance hat mit den SAFE-Richtlinien einen Entwurf für den vertraulichen, branchenweiten Austausch von KI-Sicherheitsvorfällen vorgelegt und ergänzt diesen um offene Werkzeuge entlang des gesamten agentischen KI-Sicherheits-Stacks.
Zum Start der Black-Hat-Konferenz in Las Vegas hat die Open Secure AI Alliance mit über 120 Mitgliedsorganisationen einen Request for Comments zu den SAFE-Richtlinien (Shared AI Findings Exchange) veröffentlicht. Ziel ist ein branchenweiter Mechanismus, um Vorfälle bei agentischer KI vertraulich zu sammeln, auszuwerten und als gemeinsame Schutzmaßnahme für das gesamte Ökosystem nutzbar zu machen.
Die Linux Foundation hat den Entwurf der SAFE-Richtlinien (Shared AI Findings Exchange) veröffentlicht, der von einer Arbeitsgruppe der Open Secure AI Alliance erarbeitet wurde. An der Ausarbeitung sind unter anderem NVIDIA, Cisco, CrowdStrike, Hugging Face und Red Hat beteiligt. Die Richtlinien sehen vor, KI-Sicherheitsvorfälle und Beinahe-Zwischenfälle vertraulich zu erfassen und zu analysieren, betroffene Parteien zu informieren, wiederkehrende Kontrollversagen zu identifizieren und daraus evidenzbasierte Betriebsempfehlungen abzuleiten, die systemische Risiken reduzieren sollen.
Für CISOs ist relevant, dass KI-Agenten laut der Alliance nicht als einzelnes Modell zu betrachten sind, sondern als System aus Identitätskontrollen, Ausführungsumgebungen (Harnesses), Guardrails, Logs und Evaluierungsmechanismen. Klassisches Vulnerability-Scanning allein reicht demnach nicht aus, um agentische KI abzusichern. Ein branchenweiter Austausch von Vorfallsdaten soll Verteidigern helfen, mit der Geschwindigkeit von Angreifern mitzuhalten, die zunehmend KI-Agenten für Angriffe nutzen.
Parallel zu den SAFE-Richtlinien haben Mitglieder der Alliance weitere offene Werkzeuge entlang des gesamten KI-Sicherheits-Stacks bereitgestellt. NVIDIA steuert dabei unter anderem das NOOA-Research-Harness (NVIDIA Labs Object-Oriented Agent) zur Analyse von Agentenverhalten bei, die OpenShell-Runtime zur Durchsetzung von Sicherheits- und Datenschutzkontrollen auf Agentenebene sowie offene Modellfamilien wie Nemotron, Cosmos, Isaac GR00T, BioNeMo und Alpamayo mit offenen Gewichten und Trainingsdaten. Ergänzt wird dies durch signierte, auf Risiken wie Prompt-Injection und Tool-Poisoning geprüfte Agent-Skills, die Werkzeuge NeMo Guardrails, NeMo Anonymizer und NeMo Safe Synthesizer für Datenschutz und Richtlinien-Durchsetzung sowie den LLM-Schwachstellenscanner Garak.
Weitere Alliance-Mitglieder haben laut Ankündigung eigene Beiträge über die Bereiche Identität und Berechtigungen, Runtime-Guardrails, Sicherheits-KI-Modelle, Observability, Evaluierung, Datensicherheit sowie Verfügbarkeit und Resilienz geliefert; Details zu einzelnen Beiträgen wurden zum Zeitpunkt der Veröffentlichung nur teilweise genannt. Für Sicherheitsverantwortliche in Unternehmen liefert der SAFE-Entwurf einen Ansatzpunkt, um sich frühzeitig mit einem möglichen branchenweiten Standard für den Austausch von KI-Sicherheitsvorfällen auseinanderzusetzen, bevor dieser final verabschiedet wird.
Quelle: blogs.nvidia.com · Erschienen 4. August 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.