Auf den Punkt: Google beschreibt fuer sein Agent Development Kit eine Zero-Trust-Architektur aus kryptografisch signierten Datenbankschreibvorgaengen, gVisor-Sandboxing und semantischen Gateways, um KI-Agenten gegen Prompt-Injections und Codeausfuehrungsangriffe abzusichern.
Google zeigt in einem Entwickler-Blogbeitrag, wie sich autonome KI-Agenten, die produktive Systemzustaende veraendern, mit einer Zero-Trust-Architektur gegen Prompt-Injections und boesartige Codeausfuehrung absichern lassen. Im Zentrum steht das Agent Development Kit (ADK), das ueber weiche System-Prompts hinaus auf infrastrukturelle Sicherheitsmechanismen setzt.
Laut dem Google-Blogbeitrag reicht es fuer Agenten, die Produktionsdaten schreiben oder Code ausfuehren, nicht mehr aus, sich allein auf Anweisungen im System-Prompt zu verlassen. Stattdessen empfiehlt Google eine robuste Zero-Trust-Architektur mit drei konkreten technischen Bausteinen: hardwaregestuetzte kryptografische Signaturen fuer Datenbankschreibvorgaenge, Kernel-Level-Sandboxing mittels gVisor fuer dynamisch ausgefuehrten Code sowie deterministische semantische Gateways zur Validierung von Ein- und Ausgaben.
Fuer Engineering-Teams, die mit dem Agent Development Kit mehrstufige, werkzeugnutzende Agenten in Produktivumgebungen betreiben, ist das relevant, weil Prompt-Injection-Angriffe gezielt versuchen, Agenten zu nicht autorisierten Datenmanipulationen oder zur Ausfuehrung schaedlichen Codes zu verleiten. Ein reiner Prompt-basierter Schutz gilt als unzureichend, da er sich durch geschickt formulierte Eingaben umgehen laesst. Die von Google beschriebenen Massnahmen verlagern die Absicherung auf die Infrastrukturebene, wo sie nicht durch Manipulation der Modellausgabe ausgehebelt werden kann.
Konkret bedeutet das fuer die Implementierung: Datenbankschreibvorgaenge werden durch kryptografische Signaturen abgesichert, die auf Hardware-Vertrauensankern basieren, sodass ein kompromittierter Agent keine unbemerkten Aenderungen vornehmen kann. Fuer die Ausfuehrung von dynamischem Code kommt gVisor als Kernel-Level-Sandbox zum Einsatz, die den Zugriff auf das darunterliegende System begrenzt. Semantische Gateways pruefen zudem deterministisch, ob Ein- und Ausgaben der Agenten den erwarteten Mustern entsprechen, bevor sie weiterverarbeitet werden. In der Kombination sollen diese drei Ebenen es ermoeglichen, Multi-Tool-Agenten produktiv einzusetzen, ohne das Risiko einer Serverkompromittierung oder unautorisierten Datenmanipulation einzugehen.
Quelle: developers.googleblog.com · Erschienen
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.