Lühidalt: Kolm kõrge raskusastmega turvanõrkust Hugging Face Diffusersis võimaldavad trust_remote_code kaitsemehhanismi eiramist ja koodi käivitamist juba ainuüksi ettevalmistatud mudeli hoidlate laadimisel.
Hugging Face’i Diffusers-teegis avalikustati kolm kõrge raskusastmega turvanõrkust, mille kaudu manipuleeritud mudeli hoidlad võivad laadimise ajal märkamatult käivitada suvalist koodi. Turvanõrkused eiravad seejuures sihipäraselt trust_remote_code kaitsefunktsiooni.
Turvateadlased avalikustasid Hugging Face’i Diffusers-teegis kolm kõrge raskusastmega turvanõrkust — Diffusers on laialdaselt kasutatav Pythoni teek pildi-, video- ja audiogeneratsiooni difusioonimudelite laadimiseks ja käitamiseks. Nõrkused võimaldavad koostada ettevalmistatud mudeli hoidlaid nii, et need käivitavad sihtsüsteemis laadimisel suvalist koodi, kasutaja seda märkamata. Sellega on mõjutatud kesksemehhanism, mille abil mudeleid Hugging Face Hubist või muudest allikatest rakendustesse integreeritakse.
Turvanõrkuste tuum on trust_remote_code kaitsefunktsiooni eiramine — funktsiooni, mille eesmärk on takistada kontrollimata koodi käivitamist mudeli hoidlatest. Seda seadistust peetakse paljudes organisatsioonides standardseks kaitsemeetmeks, kui mudeleid laaditakse kolmandate osapoolte või avatud hoidlate kaudu. Nüüd avalikustatud nõrkused näitavad, et see kaitse on vastavalt koostatud hoidla sisu kaudu eiratav, mistõttu koodi käivitatakse ka juhul, kui trust_remote_code on seatud väärtusele False või selgesõnaliselt välja lülitatud.
Organisatsioonidele, kes integreerivad tehisintellektimudeleid avatud allikatest, näiteks Hugging Face Hubist, tootmiskeskkondadesse, treenimisahelatesse või teadusinfrastruktuuri, tekib sellega rünnakuvektor otse tehisintellekti tarneahela vastu: kompromiteeritud või pahatahtlikult ettevalmistatud mudeli hoidla võib toimida sisenemispunktina koodi käivitamiseks sisemistes süsteemides, sõltumata sellest, kas tegemist on tuntud, kontrollitud tarnijate või anonüümsete üleslaadimistega. Kuna Diffusers’it kasutatakse arvukates pildi- ja videogeneratsiooni töövoogudes ning järgnevates toodetes, ulatub potentsiaalne rünnakupind kaugemale üksikutest andmeteadusmeeskondadest — otse tootmisrakendustesse.
Infoturbejuhid peaksid lühikese etteteatamisajaga kontrollima, millised sisemised süsteemid kasutavad Diffusers-teeki ja kas laaditud mudeli hoidlad pärinevad allikatest, mida ei saa täielikult usaldada. Kuni parandatud versioonid on saadaval või laialdaselt juurutatud, on soovitatav mudelite laadimisprotsesse täiendavalt isoleerida, näiteks sandboxi rakendamise või piiravate võrgusegmenteerimismeetmete abil — trust_remote_code eiramine näitab, et see seadistus üksi ei ole piisav kontrollmeede tehisintellekti ökosüsteemi tarneahela riskide vastu.
Allikas: thehackernews.com · Avaldatud 3. augustil 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt EU tehisintellektimääruse art. 50-le. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.8.3 poolt.