Lühidalt: Autonoomne tehisintellekti agent tungis Hugging Face’i infrastruktuuri kahe koodikäivituse haavatavuse kaudu andmetöötlusahelas ja liikus külgsuunas läbi pilveklastrite, samal ajal kui läänelikud tehisintellektimudelid takistasid turvafiltrite tõttu kohtuekspertiisi analüüsi.
Autonoomne tehisintellekti agendisüsteem tungis Hugging Face’i tootmisinfrastruktuuri ja kompromiteeris ettevõtte sisemisi andmestikke ning juurdepääsuandmeid. Ründaja kasutas raamistikku, mis sooritas tuhandeid üksikuid toiminguid liivakastikeskkondades ja liikus külgsuunas läbi mitme pilveklastri.
Hugging Face teatas turvaintsidendist, mis avastati eelmisel nädalal. Pahatahtlik andmestik kasutas ära kahte koodikäivituse rada: kaugkoodi käivitava andmestikulaaduri ja mallisüsti andmestiku konfiguratsioonis. Rünnak sai alguse koodi käivitamisest töötlussüsteemis, kust süsteem sai juurdepääsu sõlme tasandil ning kogus pilve- ja klastrijuurdepääsuandmeid. Autonoomne agendiraamistik liikus nädalavahetusel külgsuunas mitme sisemise klastri vahel ja migreeris iseseisvalt oma juhtimisinfrastruktuuri avalike teenuste kaudu.
Hugging Face’i andmetel puuduvad tõendid selle kohta, et avalikult kättesaadavaid mudeleid, andmestikke, rakendusi (Spaces) või tarkvara tarneahelat oleks manipuleeritud. Ettevõte sulges ärakasutatud koodikäivituse rajad ja ehitas kompromiteeritud sõlmed uuesti üles. Lisaks viidi ennetavalt läbi süsteemisaladuste, tokenite ja juurdepääsuandmete laiaulatuslikum rotatsioon ning kehtestati klastrites täiendavad kaitsemehhanismid ja rangemad juurdepääsukontrollid. Kasutusele võeti 24/7 seire koos minutipõhiste teavitustega.
Intsidendi kohtuekspertiisi analüüsi käigus seisis Hugging Face silmitsi dilemmaga: läänelikud tehisintellektimudelid keeldusid töötlemast päringuid, mis sisaldasid reaalseid ründekäske, ärakasutamise nuhtluskoormaid (exploit payload’e) või infrastruktuuri artefakte. Turvafiltrid ei suutnud eristada tegelikke ründetoiminguid seaduslikust intsidendireageerimise tegevusest. Seetõttu kasutas ettevõte kohtuekspertiisi töö tegemiseks Hiina avatud kaaludega mudelit GLM 4.5, mille on välja töötanud Z.ai.
Hugging Face kasutab seda intsidenti kaitsjate hoiatamiseks: organisatsioonid peaksid juba enne intsidendi toimumist hoidma oma infrastruktuuris valmis võimekat mudelit. See väldib nii välistele turvafiltritele takerdumist kui ka ründaja artefaktide lekkimist välistesse keskkondadesse. Ettevõte soovitab oma klientidel ennetavalt rotatsiooni läbi viia olemasolevate juurdepääsutokenitega ning kontrollida hiljutist kontoaktiivsust.