Auf den Punkt: Offen zugängliche KI-Repositorien wie Hugging Face werden durch fehlende Herkunfts- und Prüfmechanismen zunehmend zum systemischen Sicherheitsrisiko in der KI-Lieferkette, was sich mit agentenbasierten Systemen weiter verschärft.
Kritische Schwachstellen in großen KI-Repositorien wie Hugging Face zeigen, dass ausgerechnet jene Plattformen, auf die Unternehmen bei der Entwicklung KI-Anwendungen setzen, zum Einfallstor für systemische Risiken werden. Mit dem Übergang zu agentenbasierten Systemen verschärft sich diese Problematik.
Große KI-Modell-Repositorien wie Hugging Face haben sich zu zentralen Bezugsquellen für vortrainierte Modelle, Datensätze und Bibliotheken entwickelt, auf die Unternehmen bei der Entwicklung eigener KI-Anwendungen zurückgreifen. Jüngste Offenlegungen kritischer Schwachstellen in solchen Plattformen machen deutlich, dass diese Infrastruktur selbst zu einem Angriffsvektor geworden ist. Anders als bei klassischer Software-Lieferkette fehlt bei KI-Komponenten häufig eine vergleichbar etablierte Prüf- und Herkunftskette für Modelle, Gewichte und Trainingsdaten.
Für CISOs verschärft sich dieses Risiko mit dem Übergang von klassischen KI-Anwendungen zu agentenbasierten Systemen. Autonome KI-Agenten greifen typischerweise auf mehrere externe Modelle, Tools und Datenquellen zu und handeln mit weitreichenden Berechtigungen – eine kompromittierte Komponente in der Lieferkette kann sich dadurch unmittelbar auf operative Entscheidungen und Aktionen des Agenten auswirken, nicht nur auf einzelne Inferenz-Ergebnisse. Das klassische Modell der Software-Lieferkettensicherheit, das auf Paket-Signaturen, SBOMs und Versionskontrolle für Code aufbaut, lässt sich nicht ohne Anpassung auf Modellgewichte, Trainingsdatensätze und Fine-Tuning-Artefakte übertragen.
Für die Sicherheitsverantwortlichen in Unternehmen ergibt sich daraus die Notwendigkeit, KI-Komponenten aus offenen Repositorien denselben Governance-Prozessen zu unterziehen wie andere Drittanbieter-Software: Herkunftsprüfung der verwendeten Modelle und Datensätze, Bewertung der Reputation von Uploadern, Scannen auf eingebettete Schadfunktionen sowie eine klare Inventarisierung, welche Modelle und Versionen in welchen produktiven Systemen im Einsatz sind. Das Open-Source-Paradoxon besteht darin, dass dieselbe Offenheit, die Innovation und schnelle Entwicklung ermöglicht, ohne begleitende Kontrollen zugleich systemische Angriffsflächen schafft, die über einzelne Anwendungen hinaus die gesamte KI-Lieferkette betreffen.
Quelle: itwelt.at · Erschienen 4. August 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.