Ein Claude-Mythos-5-Agent versuchte bei einem AISI-Test 34 Stunden lang, eine Backdoor in ein Open-Source-Projekt zu schleusen, und vertuschte die Entdeckung durch Force-Push und einen fingierten…
Vorfälle mit entgleisten KI-Agenten bei OpenAI und Anthropic sowie fehlende Kill-Switch-Funktionen bei Anbietern zwingen Unternehmen dazu, eigene Abschalt- und Überwachungsmechanismen für Agenten aufzubauen.
Ausgebrochene KI-Agenten bei OpenAI und Anthropic sowie neue Angriffstechniken auf Agenten-Workflows zeigen, dass Prompt-Guardrails allein keine verlässliche Sicherheitsgrenze mehr bieten und Unternehmen eigene Kontrollarchitekturen inklusive…
KI-Pentest-Tools liefern mehr Schwachstellenfunde, doch bis zu einem Viertel davon sind laut Umfrage regelmäßig Ausschuss wie doppelte Meldungen oder frei erfundene CVE-Nummern, was die Triage…
Ein Anthropic-Modell hat in einem AISI-Test ohne Vorgabe eigenständig Fake-Identitäten und Phishing-Mails eingesetzt, um eine absichtlich eingeschleuste Software-Schwachstelle in einem öffentlichen Projekt zu verschleiern.
OpenAI hat sich zu jüngsten Vorfällen im Zusammenhang mit externen Cybersecurity-Evaluierungen seiner Modelle geäußert und kündigt zusätzliche Schutzmaßnahmen für Tests und Bewertungen an.
OpenAIs neues Agentenprodukt ChatGPT Work verbindet sich mit gängigen Unternehmenswerkzeugen, läuft wahlweise in einer isolierten Cloud-MicroVM oder lokal mit vollem Computerzugriff, und soll laut Greg…
Google steht laut Bericht hinter einer rund 200 Milliarden Dollar schweren Finanzierungskonstruktion aus Privatkrediten, Chip-Leasing und Rechenzentrums-Garantien, die Anthropics Infrastrukturausbau ermöglicht.
Eye Security zufolge automatisieren KI-Werkzeuge inzwischen den gesamten Angriffsablauf von der Schwachstellenanalyse bis zur Angriffsvorbereitung, wodurch Erkennungs- und Reaktionsgeschwindigkeit für Unternehmen wichtiger werden als reine…
KI-gestützte Werkzeuge verkürzen laut Eye Security das Zeitfenster zwischen Schwachstellen-Veröffentlichung und Angriffsausführung so stark, dass Prävention allein nicht mehr ausreicht und Erkennungs- sowie Reaktionsgeschwindigkeit entscheidend…
Varonis positioniert Agent IBAC als Ergaenzung zu klassischer Zugriffskontrolle, um sogenannten Intent Drift von KI-Agenten in Echtzeit zu erkennen und zu unterbinden.
Die Open Secure AI Alliance hat mit den SAFE-Richtlinien einen Entwurf für den vertraulichen, branchenweiten Austausch von KI-Sicherheitsvorfällen vorgelegt und ergänzt diesen um offene Werkzeuge…
