Auf den Punkt: OpenAI hat das Reinforcement-Learning-Training seiner neuesten Modelle für zwei Wochen pausiert, um nach einem Hugging-Face-ähnlichen Vorfall zusätzliche Sicherheitsmaßnahmen und erweitertes Monitoring einzuführen.
OpenAI hat das Reinforcement-Learning-Training (RL) für seine neuesten KI-Modelle nach eigenen Angaben für zwei Wochen ausgesetzt, um zusätzliche Schutzmaßnahmen zu implementieren und das Monitoring auszuweiten. Ziel ist es, einen weiteren Vorfall wie den bei Hugging Face zu verhindern.
OpenAI teilte am Dienstag mit, das RL-Training für seine aktuellsten Modelle für einen Zeitraum von zwei Wochen pausiert zu haben. In dieser Zeit wurden laut Unternehmensangaben zusätzliche Verteidigungsmechanismen aufgebaut und der Umfang des internen Monitorings erweitert. Als Begründung nennt OpenAI die Vermeidung eines weiteren Vorfalls, wie er zuvor im Zusammenhang mit Hugging Face aufgetreten war. Konkrete technische Details zu Art und Umfang des Vorfalls sowie zu den neuen Schutzmaßnahmen liegen aus der Originalquelle nicht vor.
OpenAI begründet den Schritt mit der wachsenden Kapazität seiner Modelle: „As models become more capable, the risks associated with developing and testing them internally also grow“ – mit steigender Modellfähigkeit wachsen demnach auch die Risiken, die bei der internen Entwicklung und beim Testen entstehen. Diese Einschätzung deckt sich mit einer branchenweiten Diskussion über die Notwendigkeit robusterer interner Kontrollen bei der Entwicklung von Frontier-Modellen, also KI-Systemen an der Grenze des technisch Machbaren.
Für CISOs in Unternehmen, die OpenAI-Modelle über APIs oder Produkte wie ChatGPT Enterprise einsetzen, ist der Vorfall ein Hinweis darauf, dass auch Anbieter von Basismodellen mit internen Sicherheitslücken im Trainingsprozess konfrontiert sind. Dies unterstreicht die Notwendigkeit, bei der Anbieterbewertung nicht nur auf die Sicherheit der ausgelieferten Modelle, sondern auch auf die Governance und Kontrollen im Entwicklungsprozess der Anbieter zu achten. Die zweiwöchige Pause zeigt zudem, dass Sicherheitsbedenken bei OpenAI offenbar zu konkreten operativen Konsequenzen führen können, was für Lieferketten-Risikobewertungen relevant sein kann.
Da die Originalquelle keine weiteren technischen Details zum Hugging-Face-Vorfall, zu betroffenen Modellversionen oder zu konkreten neuen Kontrollmechanismen nennt, sollten Sicherheitsverantwortliche die Ankündigungen von OpenAI zu diesem Thema weiterverfolgen, sobald weitere Informationen veröffentlicht werden.
Quelle: thehackernews.com · Erschienen 19. August 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.