Lühidalt: Teadustöö näitab, et OpenAI, Anthropicu ja Google’i mudelite krüpteeritud arutlusplokke õnnestus jagatud agendiprotokollidest välja lugeda, paljastades üle 700 tundliku leiu, sealhulgas API-võtmeid ja paroole, mis mõnel juhul esinesid ainult varjatud mõtlemisplokis, mitte nähtavas vestlusloos.
12. augustil avaldatud teadustöö kirjeldab, kuidas suurte tehisintellektimudelite krüpteeritud arutlussamme sai sessioonide, kasutajate ja isegi eri mudeliversioonide vahel taaskasutada ning selgekeeles välja lugeda. Mõjutatud olid OpenAI, Anthropicu ja Google’i mudelid.
Teadlased kasutasid ära asjaolu, et sama tootjapere nõrgemat mudelit sai panna väljastama tugevama mudeli tegelikult varjatud arutlussisu selgekeelsena. Näidetena toodi Claude Haiku 4.5 Claude’i sisu jaoks ja GPT-5.6 Luna GPT sisu jaoks. 6708 avalikult kättesaadavast agendiprotokollist dekodeerisid nad kokku 315 320 sellist krüpteeritud arutlusplokki. Pärast puhtalt võrdlustestidest (benchmark) pärit allikate mahaarvamist jäi alles 704 eraldiseisvat tundlikku leidu tegelikest kasutajaseanssidest: 62 API-võtit, 33 parooli, 24 juurdepääsutokenit ja seitse privaatvõtit.
64 leiu puhul esinesid tundlikud andmed üksnes varjatud arutlusplokis, mitte nähtavas vestlusloos. Pelgalt nähtava teksti puhastamisest enne protokollide avaldamist ei oleks nendel juhtudel piisanud, et kaitsta juurdepääsuandmeid. Kasutatud krüpteeringut ennast siiski ei murtud: ründajad ei vajanud krüptograafilist võtit, vaid kasutasid ainult ära asjaolu, et pakkujate API-d võtsid läbipaistmatud arutlusplokid vastu ja töötlesid neid edasi muutmata kujul.
CISO-de jaoks tuleneb sellest konkreetne tegevusjuhis kõigile meeskondadele, kes jagavad ettevõttesiseselt või avaldavad väliselt agendiprotokolle, silumislogisid või LLM-interaktsioonide API-salvestisi, näiteks bug bounty eesmärkidel, tugijuhtumite või teaduskoostöö raames. Arutlusplokid ei ole pelgalt kuvamisartefakt, vaid võivad sõltumata nähtavast tekstist sisaldada tundlikku sisu, näiteks juurdepääsuandmeid, mis jäävad vestlusloo pelga tekstitoimetamise käigus märkamata.
Teadlased teavitasid oma tähelepanekutest mõjutatud pakkujaid. Kesksel ekstraheerimisründel ei peaks selle järel rakendatud vastumeetmete tõttu enam töötama, kuid avaliku kinnituse OpenAI, Anthropicu ega Google’i poolt avaldamise ajaks veel ei olnud. Samuti jääb ebaselgeks, kas juba avalikult kättesaadavaid vanemaid arutlusplokke on endiselt võimalik välja lugeda. Viiteid tegelikule ärakasutamisele väljaspool käesolevat teadustööd ei leitud. Arendajatele ja turvameeskondadele soovitatakse jagatud protokollidest arutlusplokid järjekindlalt eemaldada ning mitte avaldada töötlemata API-salvestisi, isegi kui nähtav vestlustekst on juba puhastatud.
Allikas: www.it-daily.net · Avaldatud 16. augustil 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt tehisintellektimääruse art 50-le. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.8.3 abil.