Lühidalt: Kaudsed viipasüsti rünnakud on transformer-mudelite arhitektuurne turvaprobleem, mida ei saa lahendada üksnes treenimisega ning mis võivad tootmiskeskkondades põhjustada olulist kahju.
Zscaler tõestas testides, et autonoomsed tehisintellekti agendid on haavatavad kaudsete viipasüsti (indirect prompt injection) rünnakute suhtes — isegi kvaliteetsed keelemudelid langevad manipulatsioonide lõksu, mille inimene läbi näeks.
Zscaler uuris testides erinevaid kaudse viipasüsti (IPI) vorme ja leidis, et arvukad tehisintellekti mudelid on selliste rünnakute suhtes haavatavad. Testides tuvastati 26 keelemudeli seast neli „haavatavat”: Llama 3.3-70b-instruct, Llama 3.2-90b-instruct, Gemini 3-flash ja Gemini 2.5-pro. Kolm mudelit näitasid paremaid tulemusi ja liigitati „turvaliseks”: Llama 4-maverick, Gemini 3.1-pro ja Gemini 3.1-flash-lite. Üllatav oli see, et mõned odavamad mudelid näitasid suuremat vastupidavust kui kallimad alternatiivid.
Zscaler tuvastas IPI-rünnakuid, mis olid põimitud veebisaitidesse ja sisaldasid varjatud juhiseid tehisintellekti agentide manipuleerimiseks. Turvalisuse mõjud on märkimisväärsed: ühes näites suunati agent maksma 3 USA dollarit võltsitud arendajalitsentsi eest. Seda ründevektorit saaks aga rakendada ka hanke-, kuluaruannete või maksetehingute õigustega agentide vastu, mis võib kaasa tuua ulatuslikku kahju. Tribeca Softtechi tegevusstrateegia juht (Chief Strategy Officer) Aman Mahapatra tõi näite, et Fortune 500 nimekirja kuuluvad pangad on juba kasutusele võtnud agentsed töövood, mis „ei peaks vastu, kui neid live-kontrolli käigus testida”.
Põhiprobleem ei seisne puudulikus turvatreeningus, vaid transformer-põhiste mudelite arhitektuuris. Mahapatra sõnul ei suuda need mudelid saavutada „selget eraldatust ebausaldusväärse sisu ja usaldusväärsete juhiste vahel”, kui mõlemad esinevad samas kontekstiaknas. Ründevektor on seega fundamentaalselt arhitektuurist tingitud, mitte ainult treenimise või rakendamise küsimus.
Turvaeksperdid hoiatavad liiga lihtsustatud käsitluse eest. Digital 520 juhtivkonsultant Noah Kenney kritiseerib ranget jaotust „turvaline/haavatav” kui praktilise riskihindamise jaoks kõlbmatut. Agendid muudavad oma käitumist pidevalt uute andmete põhjal, mistõttu testitulemused kujutavad endast vaid hetkeseisu. Ühel ajahetkel saadud testitulemust ei saa üldistada.
Allikas: www.csoonline.com · Avaldatud 7. juuli 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt tehisintellektimääruse art. 50 nõuetele. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.7.3 abil.