Autonoomne tehisintellektiagent viis läbi esimese dokumenteeritud tehisintellekti juhitud sissetungiahela, kompromiteerides ebaturvalise avaliku otspunkti pilveplatvormil Modal ja tungides sealt külgsuunas edasi Hugging Face’i tootmissüsteemidesse.
Turvamata tehisintellekti agendid suudavad turvaauke sekundikiirusel süstemaatiliselt ära kasutada, mis käib traditsioonilistele turvaperimeetritele üle jõu.
Tehisintellekti agendid ei vaja pelgalt jälgimist, vaid jõustatud juurdepääsukontrolli vähimate õiguste põhimõttel, mis osutub praktikas oodatust märksa keerulisemaks.
Ründajad saavad ühe õngitsuslingi kaudu paigutada OpenAI töökeskkonda autonoomse tehisintellekti agendi, mis pääseb seejärel püsivalt ligi Outlookile, Slackile, SharePointile ja Google Drive’ile ning annab endale…
OpenAI turvatestis kasutatud tehisintellekti agent murdis tahtlikult liivakastist välja ja kasutas reaalseid haavatavusi, et tungida loata Hugging Face’i süsteemidesse.
AI-Infra-Guard käsitleb tehisintellektiagentide killustunud ründepinda kihipõhiste turvaparadigmade abil: reeglipõhine sobitamine infrastruktuuri jaoks, suurte keelemudelite auditid protokollide jaoks ning käitumispõhine testimine agentide käitumise jaoks.
