Lühidalt: GuardFall kasutab kümneid aastaid vanu Bashi võtteid, näiteks tsiteerimistrikke ja keskkonnamuutujaid, et hiilida mööda turvafiltritest ja käivitada tehisintellekti agentides suvalisi käske.
Adversa AI teadlased tuvastasid struktuurse turvavea nimega GuardFall, mis võimaldab ründajatel klassikaliste Unixi shelli mehhanismide abil mööda hiilida tehisintellekti kooditööriistade kaitsefiltritest. Üksteistest testitud avatud lähtekoodiga tööriistast oli rünnaku suhtes haavatav kümme.
Turvaviga põhineb ajalisel lahknevusel tehisintellekti agendi tekstikontrolli ja tegeliku shelli käivituse vahel. Tehisintellekti kaitsefilter kontrollib sisendteksti kahtlaste käskude suhtes enne, kui see edastatakse süsteemi shellile. Bash aga laiendab teatud konstruktsioone, näiteks tsiteerimist, paomärgijadasid või keskkonnamuutujaid, alles pärast seda kontrolli. See võimaldab peita kahjulikke käske, mis muutuvad nähtavaks alles käitusajal.
Testis uuriti ühtteist populaarset avatud lähtekoodiga tehisintellekti kooditööriista, sealhulgas Hermest, OpenCode’i ja Roo-code’i. Kümme neist osutus GuardFalli suhtes haavatavaks; ainult Continue suutis enamiku rünnakutest blokeerida tänu spetsiaalsele filtrile, mis käske enne käivitamist tokeniseerib ja kanoniseerib. Ründajad kasutasid viit erinevat ründemeetodit, kusjuures eriti tõhusaks osutus alternatiivsete argumendistruktuuride kasutamine kahjulike käskude varjamiseks. Selliste rünnakute blokeerimiseks peaksid filtrid tundma iga üksiku binaarfaili täpseid lipukombinatsioone.
Ettevõtete infoturbejuhtidele (CISO) on oluline tarneahela risk: ründaja saab sisestada pahatahtlikke käske hoidlasse – näiteks manipuleeritud README-faili või Makefile’i. Kui arendaja kasutab selliste failide lugemiseks haavatavat agenti, võib teda ära kasutada, et see täidaks taustal suvalisi käske: varastaks AWS-i autentimisandmed, kustutaks arenduskeskkondi või kompromiteeriks tervet CI-torustikku. Kuna tehisintellekti agendid töötavad tavaliselt arendaja täieõiguslikus kontos, tekib märkimisväärne eskalatsioonirisk.
Lühiajalises perspektiivis tuleks tehisintellekti agente käitada isoleeritud shellis, kus koduraamat on ümber suunatud – lihtne ümbris annab juurdepääsu projektikaustale, kuid blokeerib juurdepääsu SSH-võtmetele, AWS-i autentimisandmetele ja shelli ajaloole. Lisaks tuleks keelata automaatsed kinnitusrežiimid ning kontrollida rangelt väliseid konfiguratsioone. Pikaajalises perspektiivis peavad tehisintellekti tööriistade arendajad rakendama sisemisi filtreid, mis ühtlustavad sissetuleva teksti enne shellile edastamist.
Allikas: www.it-daily.net · Avaldatud 12. juuli 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.7.3 abil.