Auf den Punkt: Das neue Framework PHANTOM-B ergänzt STRIDE um acht LLM-spezifische Bedrohungskategorien und soll KI-Threat-Modeling in kurzen Zeitfenstern von etwa 15 Minuten praktikabel machen.
Threat-Modeling-Experte Adam Shostack hat mit PHANTOM-B ein Framework entwickelt, das speziell LLM-Risiken wie Halluzination und Bias adressiert – Probleme, die das etablierte STRIDE-Modell nicht abdeckt. Ziel ist es, Bedrohungsanalysen für KI-Komponenten so schnell und günstig zu machen, dass sie tatsächlich durchgeführt werden.
Adam Shostack, Entwickler des Threat-Modeling-Frameworks PHANTOM-B, beschreibt einen konkreten Anlassfall: Ein Kunde hatte eine per „Vibe Coding“ erstellte Anwendung mit Kundendaten in Betrieb genommen und wollte kurzfristig wissen, welche Risiken damit verbunden sind. Shostack nahm sich 15 Minuten Zeit und identifizierte mithilfe von PHANTOM-B eine Reihe relevanter Bedrohungen, darunter Halluzination und Bias – Probleme, die das weit verbreitete STRIDE-Framework für Applikationssicherheit nicht erfasst hätte. PHANTOM-B steht für acht Bedrohungskategorien: Prompt Injection, Hallucination, Anthropomorphization, Non-explainability, Training issues, Overreliance (inklusive Datenqualität bzw. „Poisoning“), Missing security engineering und Bias. Das Framework wurde bei Black Hat USA 2026 vorgestellt und soll STRIDE nicht ersetzen, sondern ergänzen: Während STRIDE die gesamte Anwendung betrachtet, fokussiert PHANTOM-B gezielt auf die Komponenten, die mit LLMs interagieren.
Für CISOs entsteht laut Shostack ein Spannungsfeld zwischen dem Druck, KI-Systeme schnell abzusichern, und der Schwierigkeit, bestehende Sicherheitswerkzeuge auf diese Systeme anzuwenden. Er plädiert dafür, Threat-Modeling-Aufwände bewusst niedrig zu halten, etwa durch Formate, die in ein einstündiges Meeting oder ein zehnminütiges Gespräch mit einer Führungskraft passen. Jeff Williams, Gründer von OWASP und CTO von Contrast Security, ordnet die Dringlichkeit ein: KI habe Threat Modeling nicht kaputt gemacht, sondern bereits vorhandene Schwächen offengelegt. Die Praxis habe sich traditionell auf Umfragen, Fragebögen, Interviews, veraltete Visio-Diagramme und Tabellen gestützt – Modelle, die schon vor Projektabschluss unvollständig und mit jeder Anwendungsänderung obsolet seien.
Der zentrale Unterschied zu klassischer Software liegt in der Nichtdeterminiertheit generativer und agentischer KI-Systeme. Während herkömmliche Software Regeln folgt, die sich von Eingabe zu Ausgabe nachvollziehen lassen, interpretieren KI-Systeme natürlichsprachliche Anweisungen und erzeugen probabilistische Antworten – identische Anfragen können unterschiedliche Ergebnisse liefern. Erhalten Agenten zusätzlich Zugriff auf Daten oder Werkzeuge, können diese Ergebnisse Aktionen an anderer Stelle auslösen. Brian Glas, Vice President of Consulting Services bei CODIFIC und Projektleiter des OWASP Top 10, betont, dass traditionelles Threat Modeling für generell deterministische Systeme konzipiert wurde und die Risikobetrachtung für moderne generative und agentische KI-Systeme entsprechend angepasst werden müsse.
Für CISOs liegt der praktische Nutzen von Ansätzen wie PHANTOM-B darin, eine niedrigschwellige Einstiegsmöglichkeit für die Risikobewertung von KI-Komponenten zu schaffen, ohne dabei auf vollständige, zeitintensive Threat-Modeling-Prozesse angewiesen zu sein. Angesichts der zunehmenden Verbreitung von KI-Anwendungen in Unternehmen – häufig auch außerhalb etablierter Entwicklungs- und Freigabeprozesse, wie im geschilderten Fall des vibe-codierten Tools – gewinnt eine schnelle, wiederholbare Erstbewertung an Bedeutung.
Quelle: www.csoonline.com · Erschienen 19. August 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.