Auf den Punkt: Bei Deepfakes, kompromittierten KI-Anwendungen, Prompt Injection und Supply-Chain-Angriffen haben Angreifer derzeit einen strukturellen Vorteil gegenüber Verteidigern.
Gartner hat auf seinem Security & Risk Management Summit vier Bedrohungen identifiziert, bei denen Organisationen Angreifern deutlich unterlegen sind: Deepfakes, kompromittierte KI-Anwendungen, Prompt Injection und Angriffe auf die Software-Lieferkette. Generative KI verschärft die Situation für Verteidiger erheblich.
Das Marktforschungsunternehmen Gartner ordnet diese Bedrohungen in einer Analysematrix namens „ThreatScape“ ein, die zwei Dimensionen abbildet: zum einen die Menge belastbarer Informationen (Threat Signal) zu einer Bedrohung, zum anderen die Fähigkeit von Organisationen, sie mit eigenen Mitteln zu bewältigen. Analyst John Watts weist darauf hin, dass ausgerechnet die Sicherheitsinitiativen großer KI-Anbieter erhebliches Rauschen in der ohnehin lauten Bedrohungslandschaft erzeugen. Sicherheitsverantwortliche müssen das Signal im Rauschen erkennen, um auf Verschiebungen reagieren zu können.
Kompromittierte KI-Anwendungen entstehen durch die wachsende Produktivnutzung von KI-Werkzeugen und deren ausgedehnte Angriffsfläche. Betroffen sind nicht mehr nur öffentlich erreichbare Dienste, sondern auch intern gebaute Agenten, Integrationen von Drittanbietern und Anwendungen für Mitarbeitende. Bei schwachen Kontrollen liegen sensible Daten und Zugangsdaten offen. Gartner empfiehlt, sichere Entwicklungszyklen mit Threat Modeling auf KI-Anwendungen anzuwenden, Datensicherheit durch bessere Klassifizierung zu stärken, Purpose-Based Access Control (PBAC) einzuführen und Laufzeitverhalten zu überwachen. Für diesen Aufbau bietet der Markt zahlreiche Werkzeuge von Startups an.
Deepfakes haben durch generative KI massiv an Menge, Qualität und Verfügbarkeit zugenommen, sowohl als vorproduzierte Inhalte als auch in Echtzeit. Angreifer nutzen sie zur Überwindung biometrischer Authentifizierung, zu Real-Time-Social-Engineering gegen Beschäftigte und zur Unterwanderung von Bewerbungsprozessen. Eine einzelne Schutzmaßnahme reicht nicht aus. Erforderlich ist ein Bündel an Kontrollen: gehärtete Geschäftsprozesse, geschärftes Bewusstsein der Belegschaft und verfügbare Erkennungstechnologie. Bei biometrischer Verifikation sollte der Fokus auf Erkennung von Präsentations- und Injection-Angriffen liegen, ergänzt um Kontextsignale. Onlinemeetings lassen sich über Conditional-Access-Richtlinien und Metadaten-Analyse absichern.
Angriffe auf die Software-Lieferkette werden durch die Entwicklung generativer KI weiter zunehmen, insbesondere über Schwachstellen in Open-Source-Software. Gartner empfiehlt Organisationen, auf vertrauenswürdige Komponenten-Registries hinzuarbeiten, ihre CI/CD-Pipelines zu härten und robuste Erkennungsfähigkeiten aufzubauen.
Quelle: www.it-daily.net · Erschienen 3. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.2.9.