Lühidalt: GRAM jaotab kahesuguse kasutusotstarbega teadmised (näiteks virusloogia või küberturvalisus) eraldiseisvatesse ja kustutatavatesse neuronmoodulitesse, mistõttu saab treenitud mudelit paindlikult konfigureerida erinevate turvanõuete jaoks, ilma et oleks vaja treenida eraldi mudeleid.
Anthropic ja AE Studio on välja töötanud meetodi nimega GRAM, mis võimaldab isoleerida ja kontrollida tehisintellektimudelites sisalduvaid ohtlikke kahesuguse kasutusotstarbega teadmisi eraldiseisvates, vahetatavates moodulites. See võiks võimaldada ühe treenitud mudeli konfigureerimist erinevate turvaprofiilide jaoks.
Tipptasemel tehisintellektimudelid salvestavad suurel hulgal teadmisi, sealhulgas nn kahesuguse kasutusotstarbega teadmisi – oskusi, mida saab kasutada nii konstruktiivsel kui ka kahjulikul eesmärgil. Näideteks on küberturvalisuse alased teadmised turvaaukude parandamiseks või nende ärakasutamiseks, samuti virusloogia-alased teadmised vaktsiinide väljatöötamiseks või patogeensete ainete loomiseks.
Senised kaitsemeetmed, nagu treeningaegne keeldumine ja sisend-/väljundfiltrid, jäävad liiga nõrgaks: need ei muuda mudelisse salvestatud teadmisi ennast, mistõttu piisavalt sihikindlad ründajad võivad jailbreak-tehnikate abil kahesuguse kasutusotstarbega teadmistele juurde pääseda. Töökindlam lahendus seisneb selle kontrollimises, mida mudel üldse teab. Seni oli treeningandmete filtreerimine või nende isoleerimine „eemaldatavatesse osadesse” ebapraktiline, kuna iga erineva konfiguratsiooni jaoks tuli treenida eraldi, väga kulukas mudel.
GRAM (Gradient-Routed Auxiliary Modules) lahendab selle dilemma: meetod lisab transformeri igasse kihti täiendavaid neuroneid, mis on organiseeritud moodulitesse vastavalt kahesuguse kasutusotstarbega kategooriatele. Treenimise ajal aktiveeritakse ja uuendatakse neid mooduleid ainult siis, kui mudel puutub kokku kahesuguse kasutusotstarbega andmetega (näiteks virusloogia-alaste tekstidega). Üldised kaalud jäävad muutumatuks. Nii koonduvad kahesuguse kasutusotstarbega teadmised spetsialiseeritud moodulitesse, selle asemel et levida üle kogu võrgu. Pärast treenimist saab moodulid lihtsalt kustutada või usaldusväärsete kasutuselevõttude jaoks aktiveerida. Nii saab ühte treenitud mudelit paindlikult konfigureerida: nelja kahesuguse kasutusotstarbega kategooria puhul tekib 16 erinevat konfiguratsiooni (iga kategooria kas „sees” või „väljas”).
Anthropic rõhutab, et senised tulemused on esialgsed. GRAM-i ei ole veel Anthropicu tootmismudelites kasutusele võetud ning on ebaselge, kas seda tulevikus tehakse.
Allikas: www.anthropic.com · Avaldatud 8. juuli 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt tehisintellektimääruse artiklile 50. Parafraseerimise ja klassifitseerimise teostas Lumi News Pipeline v1.7.3.