Lühidalt: Google kirjeldab oma Agent Development Kiti jaoks null-usalduse arhitektuuri, mis koosneb krüptograafiliselt allkirjastatud andmebaasi kirjutustoimingutest, gVisori liivakastist ja semantilistest väravatest, et kaitsta tehisintellekti agente viipainjektsioonide ja koodi käivitamise rünnakute eest.
Google näitab arendajatele suunatud blogipostituses, kuidas kaitsta autonoomseid tehisintellekti agente, mis muudavad tootmissüsteemide olekuid, null-usalduse arhitektuuri abil viipainjektsioonide ja pahatahtliku koodi käivitamise eest. Kesksel kohal on Agent Development Kit (ADK), mis toetub lisaks pehmetele süsteemikäskudele ka infrastruktuuripõhistele turvamehhanismidele.
Google’i blogipostituse kohaselt ei piisa enam agentidele, kes kirjutavad tootmisandmeid või käivitavad koodi, sellest, kui tugineda üksnes süsteemikäsu juhistele. Selle asemel soovitab Google kindlat null-usalduse arhitektuuri kolme konkreetse tehnilise ehituskivi abil: riistvarapõhised krüptograafilised allkirjad andmebaasi kirjutustoimingute jaoks, gVisoril põhinev tuuma tasandi liivakast dünaamiliselt käivitatava koodi jaoks ning deterministlikud semantilised väravad sisend- ja väljundandmete valideerimiseks.
Inseneriülesannete meeskondadele, kes kasutavad Agent Development Kiti abil tootmiskeskkondades mitmeetapilisi tööriistu kasutavaid agente, on see oluline, kuna viipainjektsiooniründed püüavad sihipäraselt meelitada agente volitamata andmemanipulatsioonideni või kahjuliku koodi käivitamiseni. Puhtalt viipapõhist kaitset peetakse ebapiisavaks, kuna seda saab osavalt sõnastatud sisenditega mööda hiilida. Google’i kirjeldatud meetmed nihutavad kaitse infrastruktuuri tasandile, kus seda ei saa mudeli väljundi manipuleerimisega kõrvale hiilida.
Konkreetselt tähendab see rakendamisel järgmist: andmebaasi kirjutustoimingud on kaitstud krüptograafiliste allkirjadega, mis põhinevad riistvaralistel usaldusankrutel, nii et kompromiteeritud agent ei saa teha märkamatuid muudatusi. Dünaamilise koodi käivitamiseks kasutatakse gVisorit tuuma tasandi liivakastina, mis piirab juurdepääsu aluseks olevale süsteemile. Semantilised väravad kontrollivad lisaks deterministlikult, kas agentide sisend- ja väljundandmed vastavad oodatud mustritele, enne kui neid edasi töödeldakse. Koos peaksid need kolm kihti võimaldama mitme tööriistaga agentide tootmislikku kasutamist ilma serveri kompromiteerimise või volitamata andmemanipulatsiooni riskita.
Allikas: developers.googleblog.com · Avaldatud
Lumi AI News — tehisintellekti abil kureeritud vastavalt tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.8.3 poolt.