Lühidalt: Agentjackingi rünnakud näitavad, et tehisintellekti agente saab süstemaatiliselt ära kasutada, kui need ei suuda eristada käsklusi andmesisust.
Turvateadlased kirjeldavad mõiste „agentjacking” all, kuidas ründajad saavad võltsitud vearaportite abil tehisintellekti koodiagendid enda kontrolli alla võtta. Rünnak kasutab ära tehisintellektisüsteemide võimetust eristada andmesisu juhtimiskäsklustest.
Ründemuster „agentjacking” toob esile autonoomsete tehisintellekti agentide arhitektuuri põhimõttelise nõrkuse: nad ei suuda usaldusväärselt eristada, kas tekst kujutab endast käsklust või pelgalt sisu. Sihipäraselt manipuleeritud vearaportite või sarnaste struktureeritud sisendite abil saab neid süsteeme meelitada soovimatuid toiminguid tegema — ilma et inimene säilitaks kontrolli.
Tehnoloogiajuhtidele tähendab see operatiivset riski tehisintellekti agentide integreerimisel arendus- ja juurutusprotsessidesse. Süsteemid, mis käivitavad iseseisvalt koodi või teevad infrastruktuurimuudatusi, võivad muutuda ründepinnaks, kui nad töötavad väljaspool liivakastikeskkondi või pääsevad ligi ebaturvalistele andmeallikatele. Kompromiteeritud agent võib auditijäljes nähtamatuna muutuda ründajaks süsteemi enda sees.
Riskide maandamiseks on vaja mitmekihilisi kontrollimehhanisme: agendid peaksid pääsema ligi ainult oma funktsiooniks vajalikele ressurssidele (vähima privileegi põhimõte), nende tegevused peavad olema auditeeritavad ja tagasipööratavad ning kriitilised toimingud, nagu koodi juurutamine, nõuavad inimese heakskiitu. Lisaks tuleks sisendallikaid valideerida ja isoleerida, et piirata viipainjektsiooni ründevektoreid.
Allikas: www.darkreading.com · Avaldatud 30. juuni 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.7.2 abil.