Klassische Incident-Response-Frameworks greifen bei AI-Incidents zu kurz, weil sie probabilistische Fehler nicht erfassen und ein neues Klassifizierungsschema mit separaten Playbooks für modell- und extern induzierte Ausfallszenarien erforderlich ist.
NeuroCogMap bildet interne Repräsentationen von LLMs in funktionale Systeme ab, identifiziert mechanistisch Ausfallmuster wie Halluzinationen und Bias, und verbessert zugleich die Vorhersage von menschlichen Hirnaktivitäten.
Sechs verbreitete KI-Coding-Assistenten können durch bösartige Repositories mit versteckten Symlinks dazu gebracht werden, Dateien außerhalb ihrer Sandbox zu manipulieren, wobei Bestätigungsdialoge die tatsächliche Aktion verschleiern.
Malware für AI-Coding-Agenten kann durch einfache Packungstechniken statische Scanner zu über 90 Prozent umgehen, erfordert aber komplementäre Runtime-Überprüfungen zur Detektion.
Während die USA und befreundete Länder bereits KI-Modelle zur Cyberabwehr testen, kontrolliert die Trump-Administration gezielt den europäischen Zugang, was strategische Asymmetrien in der NATO schafft.
Große Sprachmodelle halluzinieren regelmäßig nicht existierende Webadressen, die Angreifer preemptiv registrieren und mit Phishing-Seiten missbrauchen. Palo Alto Networks Unit 42 dokumentiert das Phänomen „Phantom Squatting“ erstmals in der Praxis.
Zehn der elf getesteten Open-Source-KI-Agenten lassen sich durch eine klassische Shell-Injection-Technik dazu bringen, Sicherheitsprüfungen zu umgehen.
