Lühidalt: Uus raamistik PHANTOM-B täiendab STRIDE mudelit kaheksa LLM-spetsiifilise ohukategooriaga ning peaks muutma tehisintellekti ohumodelleerimise teostatavaks umbes 15-minutiliste seansside jooksul.
Ohumodelleerimise ekspert Adam Shostack on välja töötanud raamistiku PHANTOM-B, mis käsitleb spetsiaalselt selliseid LLM-idega seotud riske nagu hallutsinatsioonid ja kallutatus (bias) – probleeme, mida väljakujunenud STRIDE mudel ei kata. Eesmärk on muuta tehisintellekti komponentide ohuanalüüsid nii kiireks ja odavaks, et neid ka tegelikult läbi viidaks.
Ohumodelleerimise raamistiku PHANTOM-B looja Adam Shostack kirjeldab konkreetset juhtumit: klient oli võtnud kasutusele “vibe coding” meetodil loodud rakenduse, mis töötles kliendiandmeid, ja soovis kiiresti teada, milliste riskidega see kaasneb. Shostack võttis aega 15 minutit ja tuvastas PHANTOM-B abil rea asjakohaseid ohte, sealhulgas hallutsinatsioonid ja kallutatuse – probleemid, mida laialt levinud rakenduste turvalisuse raamistik STRIDE poleks tuvastanud. PHANTOM-B tähistab kaheksat ohukategooriat: Prompt Injection (viipasüst), Hallucination (hallutsinatsioon), Anthropomorphization (inimlikustamine), Non-explainability (mitteseletatavus), Training issues (treenimisprobleemid), Overreliance (ülemäärane usaldamine, sealhulgas andmekvaliteet ehk “mürgitamine”), Missing security engineering (puuduv turbedisain) ja Bias (kallutatus). Raamistik esitleti Black Hat USA 2026 konverentsil ning selle eesmärk ei ole asendada STRIDE mudelit, vaid seda täiendada: kui STRIDE käsitleb kogu rakendust tervikuna, siis PHANTOM-B keskendub konkreetselt komponentidele, mis suhtlevad LLM-idega.
Shostacki sõnul tekib CISO-de jaoks pinge surve vahel kindlustada tehisintellektisüsteemid kiiresti ning raskuste vahel rakendada olemasolevaid turbevahendeid nende süsteemide peal. Ta soovitab hoida ohumodelleerimise mahtu teadlikult madalal, näiteks vormingutes, mis mahuvad ühetunnisesse koosolekusse või kümneminutilisse vestlusesse juhtkonna liikmega. OWASP-i asutaja ja Contrast Security tehnikadirektor Jeff Williams paneb kiireloomulisuse konteksti: tehisintellekt ei ole ohumodelleerimist ära rikkunud, vaid on paljastanud juba varem eksisteerinud nõrkused. Praktikas on senini toetutud küsitlustele, ankeetidele, intervjuudele, vananenud Visio-diagrammidele ja tabelitele – mudelitele, mis on juba enne projekti lõpetamist mittetäielikud ja muutuvad iga rakenduse muudatusega aegunuks.
Peamine erinevus tavapärasest tarkvarast seisneb generatiivsete ja agentsete tehisintellektisüsteemide mittedeterministlikkuses. Kui tavaline tarkvara järgib reegleid, mille põhjal saab sisendist väljundini jälgitava jälje luua, siis tehisintellektisüsteemid tõlgendavad loomuliku keele juhiseid ja loovad tõenäosuslikke vastuseid – identsed päringud võivad anda erinevaid tulemusi. Kui agentidele on lisaks antud ligipääs andmetele või tööriistadele, võivad need tulemused käivitada toiminguid ka mujal. CODIFIC-i konsultatsiooniteenuste asepresident ja OWASP Top 10 projektijuht Brian Glas rõhutab, et traditsiooniline ohumodelleerimine on loodud üldiselt deterministlike süsteemide jaoks ning riskikäsitlust tuleb kaasaegsete generatiivsete ja agentsete tehisintellektisüsteemide puhul vastavalt kohandada.
CISO-de jaoks seisneb selliste lähenemiste nagu PHANTOM-B praktiline väärtus madala sisenemislävega võimaluses hinnata tehisintellekti komponentide riske, ilma et oleks vaja toetuda täiemahulistele ja aeganõudvatele ohumodelleerimise protsessidele. Arvestades tehisintellekti rakenduste üha laialdasemat levikut ettevõtetes – sageli ka väljaspool väljakujunenud arendus- ja heakskiiduprotsesse, nagu kirjeldatud vibe-koodiga loodud tööriista näites –, muutub kiire ja korratav esmane hindamine üha olulisemaks.
Allikas: www.csoonline.com · Avaldatud 19. augustil 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.8.3 poolt.