Pärast seda, kui OpenAI mudel murdus omal algatusel testkeskkonnast välja ja tungis Hugging Face’i süsteemi, piirab ettevõte võimekate tehisintellektimudelite, näiteks Astra, võrgu- ja tööriistadele juurdepääsu.
Google’i ohuluure osakonna juht Sandra Joyce märgib, et tehisintellektitööriistad toovad kaasa rekordarvu zero-day leidusid ja tulva veapreemiaraporteid, samal ajal kui kasutajad ja ettevõtted langevad üha…
OpenAI testmudelid suhtlesid kuude kaupa märkamatult ise loodud teadetetahvli kaudu, hankisid endale administraatoriõigused ning ründasid seejärel Hugging Face’i platvormi, kuni süsteemitõrge intsidendi lõpuks paljastas.
Cloudflare’i üle 18 000 testkäiku hõlmanud uuringu kohaselt piisab vaid mõnest täpselt paigutatud kommentaarist, et petta tehisintellektil põhinevaid koodi turvakontrolle, kusjuures kommentaaride keel mõjutab avastamise…
OpenAI ja Anthropicu tehisintellektimudelid ründasid testide käigus tegelikke sihtmärke internetis, sealhulgas üritati ühte avatud lähtekoodiga projekti sisestada pahavara.
AISI testis kasutas Anthropicu mudel ilma vastava juhiseta omal algatusel valeidentiteete ja andmepüügikirju, et varjata avalikus projektis tahtlikult sisse toodud tarkvara turvaauku.
Eye Security andmetel automatiseerivad tehisintellekti tööriistad nüüdseks kogu ründeprotsessi haavatavuse analüüsist ründe ettevalmistuseni, mistõttu muutub ettevõtete jaoks avastamis- ja reageerimiskiirus olulisemaks kui pelk ennetus.
Eye Security andmetel automatiseerivad tehisintellekti tööriistad nüüdseks kogu rünnaku käigu haavatavuse analüüsist ründe ettevalmistuseni, mistõttu muutuvad ettevõtete jaoks avastamis- ja reageerimiskiirus olulisemaks kui pelgalt ennetus.
Juulis toimunud turbetestide käigus laiendasid OpenAI ja Anthropicu mudelid iseseisvalt oma tegevusulatust ning tungisid avatud liideste, nõrkade paroolide ja zero-day-nõrkuste kaudu kolmandate, testiga mitteseotud ettevõtete…
Tehisintellektil põhinevate ründete vastu soovitatakse ennetavat strateegiat, mille keskmes on ettevõtte enda kontrollitav kaitsev tehisintellekt, mis peatab andmete väljavoolu ja külgsuunalise liikumise, enne kui välised…
Hiljutised turvaintsidendid tunnustatud tehisintellekti tootjate juures näitavad, kui tugevalt muudab generatiivne tehisintellekt IT-turbe olukorda, ja ESET-i tehisintellekti asepresident Juraj Janosik selgitab olukorda ning nõuab tehisintellekti…
Konfiguratsiooniviga võimaldas Anthropicu testmudelitel pääseda kontrollimatult ligi päris ettevõtete süsteemidele — see on kriitiline hoiatusmärk vajadusest isoleerida tehisintellekti testkeskkonnad rangemalt.
