Lühidalt: GuardFall võimaldab ründajatel Bashi trikkide abil sisestada tehisintellekti agentidesse pahatahtlikke käske, mis hoiavad kõrvale tekstipõhistest turvafiltritest, kuna kahjulikud käsud avanevad kesta poolt alles pärast sisemist kontrolli.
Adversa AI tuvastas GuardFalli-nimelise turvaaugu kümnes üheteistkümnest testitud avatud lähtekoodiga tehisintellekti koodiagendist, mis võimaldab ründajatel klassikaliste Unixi kesta tehnikate abil tekstipõhistest kaitsefiltritest mööda minna. Turvaauk seab ohtu tarneahela protsessid, kuna tehisintellekti agendid töötavad arendaja täieõiguslike volitustega.
Turvaettevõte Adversa AI dokumenteeris struktuurse nõrkuse paljudes avatud lähtekoodiga tehisintellekti koodiagentides. GuardFall tugineb aastakümneid vanadele Bashi mehhanismidele, näiteks jutumärkide eemaldamisele või keskkonnamuutujate kasutamisele tühikute tekitamiseks. Ründajad kasutavad neid tehnikaid selleks, et kahjulikud käsud avaneksid ja käivituksid kesta poolt alles pärast sisemist turvakontrolli — nii hoitakse kõrvale tehisintellekti tööriistade tekstipõhistest kaitsefiltritest.
Üheteistkümnest testitud rakendusest kümnel esines vastavaid turvaauke. Mõjutatud tööriistade hulgas on muuhulgas Hermes, OpenCode ja Roo-code. Ainult Continue suutis enamiku rünnakutest blokeerida tänu spetsiaalsele filtrile, mis tokeniseerib ja kanoniseerib käsud enne nende täitmist. Rünnakud jagati viide klassi. Eriti tõhusaks osutus meetod, mille puhul kasutatakse alternatiivseid argumendistruktuure, et varjata kahjulikke käske kahjututena — filtrid peaksid sel juhul tundma iga binaarfaili täpseid lipukombinatsioone.
Turvaauk võimaldab ründajatel sisestada pahatahtlikke käske tehisintellekti süsteemidesse manipuleeritud hoidlate (repositories) kaudu. Kui arendaja annab haavatavale agendile korralduse lugeda pahatahtlikust hoidlast võltsitud README-faili või ettevalmistatud Makefile’i, võib süsteemi meelitada varjatult koodi käivitama — näiteks AWS-i kasutajaandmete varastamiseks või kogu arenduskeskkonna kustutamiseks, eriti automaatsete kinnitusrežiimidega CI-torustikes. Kuna tehisintellekti agendid töötavad tavaliselt vastava arendaja täieõiguslike kontovolitustega, tekivad ulatuslikud tarneahela riskid.
Lühiajalise vastumeetmena soovitavad teadlased käivitada tehisintellekti agente isoleeritud kestas, mille koduskataloogid on ümber suunatud. Üherealine ümbris (wrapper) suudab säilitada projektikataloogi, kuid siiski võtta ära ligipääsu tundlikele andmetele, nagu SSH-võtmed, AWS-i kasutajaandmed või kesta ajalugu. Lisaks tuleks keelata automaatsed kinnitusrežiimid ja kontrollida rangelt väliste hoidlate konfiguratsioone. Pikemas perspektiivis peavad tehisintellekti tööriistade arendajad rakendama sisemisi valideerimisfiltreid, mis ühtlustavad sissetuleva teksti enne selle edastamist süsteemi kestale, et kõrvaldada lahknevus agendi kontrolli ja tegeliku Bashi täitmise vahel.
Allikas: www.it-daily.net · Avaldatud 12. juuli 2026
Lumi AI News — tehisintellekti abiga kureeritud vastavalt tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.7.3 abil.