Lühidalt: Ründetehnika „CoSnitch” näitab, et Microsoft Copilotit saab viipade manipuleerimise teel panna avaldama teavet oma turbearhitektuuri kohta.
Turvateadlased on tutvustanud meetodit, mida nimetatakse „metahäkkimiseks” ja mis suudab Microsoft Copiloti panna paljastama teavet oma turbearhitektuuri kohta. Tehnika näitab, et tehisintellektiteenused võivad muutuda ründeobjektiks ka siis, kui neilt küsitakse teavet nende sisemiste kaitsemehhanismide kohta.
Ründetehnika „CoSnitch” väljatöötanud teadlaste sõnul on Copilotit võimalik sihipärase viipade manipuleerimise abil eksitada nii, et see avaldab üksikasju oma aluseks olevast turbearhitektuurist. Lähenemist liigitatakse „metahäkkimiseks”, kuna see ei ole suunatud otseselt andmetele või juurdepääsuandmetele, vaid ajab tehisintellektiteenuse avaldama teavet oma kaitsemehhanismide ja nõrkuste kohta.
Turvavaldkonna vastutajatele on see juhtum oluline, kuna see toob esile mustri, mis läheb kaugemale klassikalistest viipainjektsiooni rünnetest: selle asemel, et panna Copilot avaldama ettevõtte andmeid, kasutatakse süsteemi luuretööriistana iseenda vastu. Teave enda arhitektuuri ja turbeloogika kohta võib ründajatele olla aluseks edasistele, sihitumatele rünnakutele, näiteks olemasolevate kaitsemeetmete sihipärasele kõrvalehiilimisele.
Algallikas ei nimeta tehnilisi üksikasju rünnakuahela konkreetse teostuse kohta, mõjutatud Copiloti versioone ega andmeid selle kohta, kas Microsoft on turvaauku juba käsitlenud. CISO-d, kes kasutavad ettevõttes Copilotit või sarnaseid generatiivseid tehisintellektiteenuseid, peaksid sellest juhtumist hoolimata võtma põhjuse üle vaadata tehisintellekti assistentide jälgimis- ja kaitsemehhanismid, pidades silmas eriti päringuid, mis on suunatud süsteemi sisemistele andmetele, mitte kasutajaandmetele.
Allikas: www.darkreading.com · Avaldatud 18. august 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.8.3 kaudu.