Auf den Punkt: KI-generierte, aber inhaltsleere Schwachstellenberichte überlasten Triage-Teams so stark, dass Projekte wie cURL, CycloneDX und Log4j ihre Bug-Bounty-Programme einstellen oder einschränken mussten.
Große Sprachmodelle senken die Kosten für das Erstellen scheinbar plausibler Schwachstellenberichte auf nahezu null – mit der Folge, dass Triage-Teams namhafter Open-Source-Projekte in einer Flut unbrauchbarer Meldungen versinken. Mehrere Projekte haben ihre Bug-Bounty-Programme deshalb bereits eingestellt oder stark eingeschränkt.
Daniel Stenberg, Maintainer des Open-Source-Tools cURL, stellte im Januar 2026 das Bug-Bounty-Programm des Projekts ein. Als Grund nannte er keine Budget- oder Kapazitätsprobleme, sondern eine faktische Überlastung durch unbrauchbare Einsendungen: Bis 2025 identifizierten weniger als fünf Prozent der Meldungen eine echte Schwachstelle. Allein in den ersten 21 Tagen des Jahres 2026 gingen zwanzig Meldungen ein – keine davon stichhaltig. Stenberg beschrieb die Bearbeitung der Flut als psychisch belastend und als Verschwendung von Zeit und Energie.
cURL steht damit nicht allein. Auch das Sicherheitsteam von Django erhielt vermehrt KI-generierte Meldungen. Das Projekt CycloneDX hat sein Programm komplett eingestellt. Beim Log4j-Projekt der Apache Software Foundation prüfte ein ehrenamtliches Team 67 Meldungen innerhalb weniger Monate, wobei der Großteil allein in den letzten beiden Monaten einging. Google hat KI-generierte Einreichungen für seine Open-Source-Schwachstellenprämien ausgeschlossen. GitHub verschärfte seine Anforderungen an Einreichungen, nachdem eigene Triage-Teams echte Funde nicht mehr zuverlässig von Störsignalen unterscheiden konnten, und bestätigte, dass das Problem branchenweit auftritt und einzelne Programme deswegen bereits komplett eingestellt wurden.
Ursache ist laut Bericht die Funktionsweise großer Sprachmodelle: Sie generieren Text auf Basis statistischer Mustervorhersage statt faktenbasierter Analyse und produzieren dadurch schlüssig klingende, aber erfundene Schwachstellenbeschreibungen. Der bislang informelle Qualitätsfilter für Einreichungen – das Erfordernis, die Codebasis zu verstehen, ein Problem tatsächlich zu reproduzieren und den Fund fachlich sauber zu dokumentieren – entfällt damit weitgehend. Die Kosten für die Erstellung eines professionell wirkenden Berichts sinken gegen null, während der Aufwand für die Triage gleich bleibt oder sogar steigt, da gut formatierte KI-Einsendungen schwerer als offensichtlich unbrauchbar zu erkennen sind als früher übliche Fehlmeldungen.
Für CISOs, die eigene Bug-Bounty- oder Vulnerability-Disclosure-Programme betreiben oder auf Open-Source-Komponenten mit solchen Programmen angewiesen sind, verschiebt sich damit die Risikolage: Steigende Triage-Last bindet Kapazitäten, die für die Bearbeitung echter Meldungen fehlen, und schafft blinde Flecken in Bereichen der eigenen Angriffsfläche, die zuvor durch Community-Testing abgedeckt wurden. Programme sollten Einreichungsprozesse überprüfen – etwa durch verschärfte Nachweispflichten, Reputationssysteme für Einreicher oder gezielte Vorfilterung –, um die Funktionsfähigkeit dieses Sicherheitsmechanismus zu erhalten.
Quelle: www.it-daily.net · Erschienen 13. August 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.