Aktuelle Sicherheitsvorfälle bei namhaften KI-Herstellern zeigen, wie stark generative KI die IT-Sicherheitslage verändert. Juraj Janosik, Vice President of AI bei ESET, ordnet die Lage ein und fordert verbindliche Schutzmechanismen von KI-Anbietern.
Der europäische IT-Sicherheitshersteller ESET verweist über seinen Vice President of AI, Juraj Janosik, auf jüngste Sicherheitsvorfälle bei bekannten KI-Herstellern als Beleg dafür, dass generative KI-Systeme zunehmend selbst zum Angriffsvektor und Risikofaktor werden. Konkrete Details zu einzelnen Vorfällen nennt die Quelle nicht, betont aber, dass die Häufung solcher Ereignisse den Handlungsdruck auf Anbieter erhöht.
Für CISOs verschiebt sich damit die Risikobewertung: KI-Produkte, die in Unternehmensprozesse integriert werden, bringen nicht nur klassische Schwachstellen mit, sondern auch neue Angriffsflächen durch die Modelle selbst – etwa durch Prompt-Manipulation, Fehlverhalten bei Edge Cases oder unzureichend getestete Trainingsdaten. Wer solche Systeme testet oder freigibt, trägt laut Janosik auch Verantwortung für die Folgen eines Fehlverhaltens im Produktivbetrieb. Das betrifft nicht nur Hersteller, sondern auch Unternehmen, die KI-Systeme evaluieren und in eigene Umgebungen einbinden.
Die zentrale Forderung lautet, dass KI-Unternehmen von Beginn an angemessene Schutzmechanismen („Leitplanken“) in ihre Produkte einbauen müssen, um zu verhindern, dass diese selbst zur Gefahrenquelle werden. Für Sicherheitsverantwortliche in Unternehmen bedeutet dies, bei der Auswahl und Freigabe von KI-Tools verstärkt auf dokumentierte Sicherheitstests, Haftungsklauseln in Verträgen und klare Zuständigkeiten für den Fall von Fehlfunktionen zu achten, bevor Systeme in produktive Umgebungen überführt werden.
ESET-Experte Juraj Janosik fordert angesichts aktueller Sicherheitsvorfälle bei KI-Herstellern verbindliche Schutzmechanismen und klare Haftungsregeln für Tester und Anbieter von KI-Systemen.
Quelle: itwelt.at · Erschienen 3. August 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.