Auf den Punkt: Ptacek hält Sandbox-Escapes und Netzwerk-Hacking durch offene KI-Modelle für technisch machbar, kritisiert aber schwache Isolation statt fehlende Frontier-Modelle.
Sicherheitsexperte Thomas Ptacek äußert, dass bereits verfügbare Open-Weights-Modelle von 2025 in einem Pentest-Setup Sandbox-Escapes und Netzwerk-Scans durchführen könnten. Das Problem sei weniger die KI-Fähigkeit als vielmehr unzureichende Sandboxing-Verfahren.
Thomas Ptacek, bekannter Sicherheitsforscher, positioniert sich deutlich gegen die Annahme, dass nur hochmoderne Frontier-KI-Modelle für komplexe Angriffsmuster wie Sandbox-Escapes und Netzwerk-Penetration geeignet sind. Nach seiner Einschätzung würde ein Open-Weights-Modell aus 2025, das mit einer entsprechenden Pentest-Harness ausgestattet ist, in den meisten realen Netzwerkumgebungen solche Angriffe durchführen können.
Die überraschende Wahrnehmung solcher Attacken-Szenarien führt Ptacek darauf zurück, dass Organisationen von sounderen – das heißt robusteren – Sandbox-Implementierungen ausgehen, als sie tatsächlich existieren. Dies spricht für ein grundsätzliches Problem der Isolation und Containment-Strategien, nicht für eine technische Barriere der KI-Modelle selbst.
Für CISOs bedeutet dies eine Verschärfung der Realität: Die Sicherheit gegen KI-gestützte Angriffe kann nicht allein auf die Annahme komplexer, schwer zugänglicher Modelle bauen. Stattdessen müssen Netzwerkarchitektur, Segmentierung und Sandbox-Mechanismen deutlich robuster gestaltet werden – unabhängig davon, welche Art von Modellen potenziell als Angreifer eingesetzt werden könnten.
Quelle: simonwillison.net · Erschienen 23. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.