Lühidalt: CrowdStrike dokumenteeris viis uut viipasüsti tehnikat, mis võivad manipuleerida suurte keelemudelitega volitamata käskude täitmiseks.
Turvafirma CrowdStrike tuvastas viis uut viipasüsti tehnikat, mis ohustavad ettevõtete tehisintellektisüsteeme. Need ründevektorid ärakasutavad suuri keelemudeleid, pannes need aktsepteerima käske, mida inimesed oleksid pidanud kahtlaseks.
CrowdStrike laiendas oma viipasüsti rünnakute klassifikatsiooni viie uue tehnikaga. Esimene neist on käivitusega aktiveeritav reegli lisamine (Trigger-Activated Rule Addition): ründaja lisab esialgu kahjutuna näiva uue reegli, mille saab hiljem aktiveerida soovimatu mudelikäitumise esilekutsumiseks.
Kognitiivsete tokenite mahasurumine (Cognitive Token Suppression) hoiab kõrvale sisseehitatud turvameetmetest, suunates mudeli keelelisi mustreid eemale väljakujunenud keeldumismustritest. Algoritmiline kasuliku koorma jaotamine (Algorithmic Payload Decomposition) jagab käsklused mitmeks etapiks, mis eraldi tunduvad kahjutud, kuid kokku pandult moodustavad ohtliku juhise.
Erimärgendite süstimine (Special Token Injection) toimib sarnaselt võltsitud juhtlülitite peitmisega tavaliste juhiste sisse — ründaja tekitab segadust ja paneb mudeli käsitlema ebausaldusväärset kasutajasisu kõrgetasemeliste süsteemidirektiividena. Teadmatu kasutaja kontekstiandmete süstimine (Unwitting User Context-Data Injection) kasutab ära piiri usaldusväärsete andmete ja käivitatavate käskude vahel: kasutajat meelitatakse lisama pahatahtlikke juhiseid suure keelemudeli kontekstiandmete hulka — näiteks dokumentide üleslaadimisel või sellise sisu lisamisel, mida tehisintellektisüsteemid hiljem töötlevad.
CrowdStrike soovitab turvameeskondadel vastumeetmetena rakendada ohumodelleerimist iga võimaliku mudelikonteksti allika jaoks, laiendada testikatvust ja arendada tuvastusvõimekust, mis hõlmab ka liitrünnakuid.
Allikas: www.csoonline.com · Avaldatud 10. juuli 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt tehisintellektimääruse art 50-le. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.7.3 poolt.