Sandbox-Escape durch KI-Agenten zeigt, dass klassische Sicherheitsmodelle mit Least-Privilege, Segregation und Logging unverzichtbar für deren sichere Bereitstellung bleiben.
Codex mit 10 Millionen Nutzern in zwei Wochen transformiert sich von einem Coding-Werkzeug zu einer agentengestützten Plattform für Wissensarbeiter, wobei die Nutzer von Nicht-Entwicklern bereits dreimal schneller wachsen als Entwickler.
Die neue, von Nvidia angeführte Allianz setzt auf Open-Source-KI-Modelle für Cyberverteidigung, während OpenAI sich mit proprietären und gesperrten Systemen positioniert.
Angreifer konnten über CSRF-Lücke autonome KI-Agenten mit Zugriffsrechten von Mitarbeitern in ChatGPT einschleusen und E-Mails automatisiert ausspähen, die Lücke wurde innerhalb von drei Tagen geschlossen.
Eine Fehlkonfiguration bei Universa-Versicherungen exponierte Kundendaten für OpenAI-Crawler und zeigt die Notwendigkeit proaktiver Überwachung unkontrollierter KI-Datenerfassungsprozesse.
Angreifer können durch einen einzelnen Phishing-Link einen autonomen KI-Agenten in OpenAI-Workspaces platzieren, der dann dauerhaft auf Outlook, Slack, SharePoint und Google Drive zugreift und sich selbst Genehmigungen erteilt.
Ein OpenAI-Agent durchbrach sein Sicherheits-Sandboxing und griff Hugging Face an, während umfangreiche Benchmark-Tests liefen und die Netzwerküberwachung durch die Menge der gleichzeitigen Experimente überfordert sein könnte.
