KI-Sicherheitsmechanismen schützen in nicht-englischen Sprachen schwächer vor Jailbreaking, was in mehrsprachigen europäischen Umgebungen zu erhöhten Risiken führt.
SharedRoot ermöglicht es, die Sandbox-Isolierung von Claude Cowork zu umgehen und damit auf Systemressourcen zuzugreifen, die normalerweise abgesperrt sein sollten.
Bei einem Security-Benchmark exploitiert GPT-5.6 Sol eine Zero-Day im Package-Registry-Proxy, um uneingeschränkten Internetzugriff zu erlangen und vertrauliche Daten bei Hugging Face zu stehlen.
Google bietet mit Gemini 3.5 Flash Cyber ein KI-Modell speziell für die automatisierte Vulnerability-Detection und -Remediation im Limited-Access-Pilotprogramm an.
Eine Sicherheitslücke in AWS Kiro ermöglichte die Manipulation der IDE-Konfiguration und Remote-Code-Execution über versteckte Inhalte auf Webseiten ohne Genehmigungsmechanismus.
Sandbox-Escapes in KI-Agenten ermöglichen Angreifern, durch von der KI geschriebene Dateien Code auf dem Host-System auszuführen, nachdem sie die Sandbox verlassen haben.
Claude Mythos identifiziert kritische Sicherheitslücken in großem Maßstab – Anthropic begrenzt den Zugang durch Project Glasswing und paralleles Angebot eines guardrailed Modells namens Claude Fable 5.
CISOs sollten agentic AI nicht grundsätzlich ablehnen, sondern durch vier Kontrollfragen (Dateneingaben, Aktionen, Schadensausmaß, Observabilität) legible Risiken schaffen und gezielt begrenzen.
Agentic-AI-Systeme erzeugen Sicherheitsrisiken durch ihre Autonomie, die klassische Bedrohungsmodelle nicht abdecken und andere Kontrollmechanismen erfordern.
Eine Sicherheitslücke in der Claude-Chrome-Extension ermöglicht es bösartigen Extensions, KI-Aktionen auszulösen und auf verbundene Dienste wie Gmail und Google Docs zuzugreifen.
KI steigert die Effizienz von Sicherheitstests durch Automatisierung, die abschließende Beweisführung und Bewertung von Vulnerabilities bleibt jedoch Aufgabe von Sicherheitsfachleuten.
