Auf den Punkt: Black Hat USA 2026 zeigte, dass KI-Agenten und deren Software-Lieferketten zur neuen Angriffsfläche werden, während bestehende Telemetriequellen wie GitHub und expertengeführte KI-Forschung zugleich neue Verteidigungsmöglichkeiten eröffnen.
Auf der Black-Hat- und DEFCON-Konferenz in Las Vegas standen KI als Sicherheitswerkzeug und autonome KI-Agenten als neue Angriffsfläche im Mittelpunkt. Fünf Vorträge liefern konkrete Ansatzpunkte für die Weiterentwicklung von Sicherheitsstrategien.
Microsoft-Manager David Weston argumentierte in seiner Keynote, dass KI die Entdeckung von Schwachstellen und die Entwicklung von Exploits zunehmend günstiger und schneller mache. Damit gerate die Grundannahme ins Wanken, Angreifer benötigten Zeit und Verteidiger könnten reaktiv nachziehen. Statt zu versuchen, schneller als Angreifer zu reagieren, forderte Weston, Systeme grundsätzlich widerstandsfähiger zu gestalten: durch den Einsatz speichersicherer Sprachen wie Rust, KI-gestützte Verbesserung bestehender Codebasen und automatisierte Remediation anstelle starrer monatlicher Patch-Zyklen.
Forscher von Zenity deckten eine groß angelegte Supply-Chain-Attacke auf: Manipulierte KI-„Skills“ – Anweisungs- und Konfigurationsdateien, die KI-Agenten den Umgang mit Tools vorgeben – wurden über den Marktplatz skills.sh verbreitet. Die schädlichen Skills imitierten per Typosquatting die populären Dienste Paperclip und Browser Use und wurden in weniger als einem Monat über 1,7 Millionen Mal heruntergeladen. Zenity ordnete den Vorfall in einen breiteren Trend von Angriffen auf die KI-Software-Lieferkette ein.
Microsofts Yossi Weizman und Mor Weinberger von Echo zeigten, dass GitHub bereits ausreichend Telemetriedaten liefert, um viele Supply-Chain-Angriffe zu erkennen. Vorfälle wie Shai-Hulud, Trivy und Megalodon folgten wiederkehrenden Mustern: gefälschte Commit-Identitäten, manipulierte Tags, Missbrauch von Workflows und OIDC-Tokens sowie Versuche, Spuren zu verwischen. Diese Merkmale lassen sich über GitHub-Webhooks, APIs und Git-Metadaten in verhaltensbasierte Detektionen übersetzen. Die Forscher veröffentlichten dazu das Open-Source-Tool GitHub Threat Detector mit 30 eingebauten Regeln, das nach einem EDR-ähnlichen Modell arbeitet, aber laut eigener Aussage noch Einschränkungen hat – etwa deaktivierbare Webhooks, ratenlimitierte APIs und fehlende Echtzeitprüfung.
PortSwigger-Forscher James Kettle demonstrierte, dass KI-gestützte Sicherheitsforschung dann am wirkungsvollsten ist, wenn menschliche Experten die Methodik vorgeben, schwache Ergebnisse aussortieren und deterministischen Code zur Eingrenzung nutzen, bevor die KI eigenständig weiterarbeitet. Sein System HTTP Terminator fand nach diesem Ansatz Hunderte aktive HTTP-Request-Smuggling-Schwachstellen (HTTP-Desync), erbeutete einen realen API-Schlüssel einer Bank und identifizierte eine neue Schwachstellenklasse namens „Shared-Parser Confusion“.
Für CISOs ergibt sich daraus die Notwendigkeit, KI-Agenten und deren Zulieferketten explizit in Risikobewertungen und Lieferantenprüfungen aufzunehmen, bestehende Telemetriequellen wie GitHub konsequenter für Detektion zu nutzen und beim Einsatz von KI in der eigenen Sicherheitsforschung auf kontrollierte, von Experten geführte Prozesse statt vollautonomer Systeme zu setzen.
Quelle: www.csoonline.com · Erschienen 14. August 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.