Lühidalt: Text-salting-tehnikad võimaldavad ründajatel mööda hiilida tehisintellektil põhinevatest e-posti filtritest, lisades sõnumitesse peidetud tekstilõike, mida LLM-id ei tuvasta.
Üle miljoni e-kirja kasutab peidetud teksti, et petta tehisintellektil põhinevaid turvafiltreid ja toimetada õngitsussõnumeid postkastidesse. Tehisintellektimudelid ja LLM-id on selle niinimetatud text-salting-tehnika suhtes üllatavalt haavatavad.
Turvateadlased on dokumenteerinud, et üle miljoni e-kirja kasutab text-salting-meetodit, et petta tehisintellektil põhinevaid õngitsuse tuvastamise süsteeme. See ründemeetod tugineb inimesele nähtamatutele või tugevalt varjatud tekstiosadele, mis põimitakse e-kirja sisusse.
Probleemi tuum peitub suurte keelemudelite ja tehisintellektipõhiste filtrite põhimõttelises nõrkuses: need töötlevad teksti teisiti kui inimlugejad ning seetõttu on neid võimalik eksitada osavalt paigutatud, visuaalselt varjatud tekstielementide abil. Kui inimene suudaks õngitsuskirja ära tunda paigutuse ja visuaalse mulje põhjal, siis automatiseeritud tehisintellektifiltrid selle taktika ees läbi kukuvad.
Turvavastutajate jaoks tähendab see, et pelgalt tehisintellektil põhinevast e-posti turbest ei piisa. Text-salting-ründed näitavad, et kaasaegseid turvafiltreid tuleb täiendada mitmekihiliste lähenemistega, mis ei tugine üksnes tehisintellekti tekstituvastusele. Üha olulisemaks muutuvad täiendavad meetodid, nagu renderdamisel põhinev analüüs, saatja autentimine ja kasutajate koolitamine.
Allikas: www.darkreading.com · Avaldatud 16. juuli 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.7.3 abil.