Sprachmodelle reagieren stärker auf die Formatierung von Text als auf dessen tatsächlichen Inhalt und können dadurch durch geschickt stilisierte Eingaben manipuliert werden, die wie interne Systembefehle aussehen.
Finanzinstitute benötigen dedizierte KI-Governance, Zero-Trust-Architekturen und kontinuierliche Sicherheitsvalidierung, um die Vertraulichkeit, Integrität und Verfügbarkeit von KI-Anwendungen zu schützen.
Grammar-Constrained Decoding (GCD), ein Verfahren zur Sicherung syntaktisch korrekten Codes, eröffnet Angreifern eine neue Jailbreak-Methode mit Erfolgsrate über 30 Prozentpunkte höher als bisherige Ansätze.
KI-Systeme erfordern wegen ihrer probabilistischen Natur völlig neue Red-Teaming-Ansätze, die sich grundlegend von klassischer Penetrationstestung unterscheiden.
