Lühidalt: 3249 süsteemipromptide juhise süstemaatiline audit 88 tehisintellektitootes näitab, et umbes 40 protsenti sisaldab vähemalt üht kasutajale kahjulikku juhist ning ainult 24 protsenti katab kõik kaheksa kontrollitud kaitsedimensiooni.
Uurimisrühm analüüsis süstemaatiliselt 3249 juhist 88 kommertsliku tehisintellektitoote süsteemipromptidest. Tulemus näitab, et kasutajakaitse tase erineb tootjate lõikes suuresti ning umbes 40 protsenti toodetest sisaldab vähemalt üht juhist, mis toimib kasutaja huvide vastu.
Süsteemipromptid on juhised, millega arendajad suunavad alusmudelite käitumist tehisintellektirakendustes. Neid kasutatakse praktiliselt kõigis kommertslikes tehisintellektitoodetes, kuid avalikkusele ja järelevalveasutustele avaldatakse neid harva. Uuring tutvustab selleks raamistikku Artificial Intelligence System Prompt Assurance (AISPA), mis hindab süsteemipromptide juhiseid kaheksa kasutajale olulise dimensiooni alusel ning liigitab need “kaitsvateks” (“protective”) või “problemaatilisteks” (“problematic”).
88 toote 3249 juhise analüüs tõi esile neli peamist tähelepanekut. Esiteks erineb promptide koostamine organisatsioonide lõikes märkimisväärselt: mõned tootjad lisavad tootesse keskmiselt üle 60 kaitsva juhise, teised aga alla viie. Teiseks on kaitsvad juhised küll laialt levinud – 98,9 protsenti toodetest sisaldab vähemalt üht –, kuid sisult sageli mittetäielikud: ainult 24 protsenti toodetest katab kõik kaheksa AISPA dimensiooni. Kolmandaks on süsteemipromptid aja jooksul muutunud pikemaks ja kasutajat rohkem kaitsvaks, mis viitab kasvavale teadlikkusele kasutajakaitsest kommertslike promptide koostamisel. Neljandaks on problemaatilised juhised siiski jätkuvalt levinud: umbes 40 protsendil uuritud toodetest esineb vähemalt üks juhis, mis on suunatud kasutaja huvide vastu, kusjuures kaitsvad ja problemaatilised juhised esinevad sageli samas promptis kõrvuti.
Ettevõtete vastavusspetsialistidele, kes kasutavad või pakuvad tehisintellektitooteid, annab uuring esmase süstemaatilise aluse süsteemipromptide tavade hindamiseks – valdkonnas, mis on siiani olnud vähestandarditud ja raskesti auditeeritav. Kaheksa dimensiooni ebaühtlane katvus näitab, et pelgalt tootjate enda kinnitus “vastutustundlikust” promptide koostamisest ei ole piisav tõestamaks tegelikku kaitsemõju. Autorid nõuavad seetõttu suuremat läbipaistvust, standardimist ja sõltumatut järelevalvet kommertslike tehisintellektitoodete süsteemipromptide üle – aspekt, mille tähtsus tõenäoliselt kasvab tehisintellektimääruse ja sarnaste läbipaistvuskohustuste kontekstis.
Allikas: arxiv.org · Avaldatud 29. juuli 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt tehisintellektimääruse art 50-le. Parafraseerimine ja klassifikatsioon Lumi News Pipeline v1.8.3 poolt.