Lühidalt: Suured keelemudelid hallutsineerivad tuntud kaubamärkide väljamõeldud domeene, mida ründajad registreerivad ja kasutavad tarneahela rünnakuteks – see kujutab endast raskesti tuvastatavat turvariski tehisintellektipõhistes arendus- ja uurimistöövoogudes.
Suured keelemudelid (LLM-id) genereerivad oma vastustes korduvalt olematuid veebidomeene legitiimsete kaubamärkide ja ettevõtete kohta – ründajad registreerivad seejärel need domeenid pahavara levitamiseks ja muudeks rünnakuteks. See uus tarneahela rünnakuvariant on raskesti tuvastatav.
Suured keelemudelid (LLM-id) toodavad oma väljundites järjepidevalt väljamõeldud veebidomeene väljakujunenud kaubamärkide ja ettevõtete kohta. Kui need registreerimata domeenid tegelikult olemas on, saavad ründajad neid ära kasutada pahavara levitamiseks, õngitsemiseks või muudeks rünnakuteks – ilma et turvatööriistad seda tegevust kohe kahtlasena tuvastaksid.
Seda nähtust nimetatakse „phantom squatting’uks”: LLM-idest saavad tahtmatud realistlikult kõlavate, kuid väljamõeldud domeeninimede generaatorid. Kasutajad, kes kopeerivad neid hallutsineeritud domeene näiteks kolmandate osapoolte tarkvara kontrollimiseks, satuvad teadmatult ründaja kontrolli all olevatele domeenidele.
Infoturbejuhtidele (CISOdele) on see oluline, sest see rünnakuvariant hoiab kõrvale traditsioonilistest turvarikkumiste indikaatoritest: domeen ei ole blokeeritud, liiklus näib usaldusväärne ning LLM-põhised tööriistad on arendus- ja turvameeskondades üha enam juurdunud. Eriti kriitiline on see risk tarneahela stsenaariumides, näiteks kui arendajad kasutavad LLM-põhiseid assistente konfiguratsioonide või sõltuvuste kohta teabe otsimiseks.
Probleem seisneb selles, et phantom squatting ei ole ühegi süsteemi tehniline viga, vaid tuleneb LLM-ide tõenäosuslikust olemusest: need genereerivad usutavat teksti, kontrollimata selle tõesust. Sellest saab struktuurne turvarisk organisatsioonidele, kes integreerivad tehisintellektimudeleid oma töövoogudesse.
Allikas: www.darkreading.com · Avaldatud 1. juulil 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.7.2 abil.