Anthropic liigitab tehisintellekti küberturvalisuse kasutuse nelja kategooriasse ja loob jailbreak’ide raskusastme raamistiku, et võimaldada kaitseotstarbelisi rakendusi ja tõkestada väärkasutust.
Ründajad hoidsid mitmikautentimisest kõrvale MFA-d mittetoetava ROPC-protokolli abil, kuna paljud organisatsioonid olid oma tingimusliku juurdepääsu põhimõtted puudulikult seadistanud.
Saksamaa kavatseb luua tehisintellekti julgeolekuinstituudi ja andmekeskuse, investeerides 11 miljardit eurot, et vähendada tehnoloogilist sõltuvust USA pakkujatest.
Skill Engineering määratleb disainikäsklused nagu „julgem” või „vaiksem” agentide jaoks konkreetsete tegevusparameetrite kaudu, mitte hägusate juhiste abil, et suurendada kvaliteeti ja järjepidevust.
Hiljuti dokumenteeritud viipesüsti-meetod manipuleerib tehisintellekti-brausereid väljamõeldud mängustsenaariumide abil, et lülitada välja nende turvafiltrid ja varastada kasutajate sisselogimisandmeid; OpenAI on augu parandanud, teised pakkujad mitte.
Valmis lahendab tehisintellekti agentide turvaprobleemi puhverserveri arhitektuuriga, kus konteineritesse paigutatud agendid saavad API-päringuid esitada üksnes turvalise mandaatide halduse kaudu.
Cloudflare võimaldab tehisintellekti roomikute üle täpsemat kontrolli, mitte enam täielikku blokeerimist, ning eristab erinevaid kasutuseesmärke, näiteks treening- ja otsingupäringuid.
IBM ja Red Hat panevad avatud lähtekoodiga tarkvara turvaaukude kõrvaldamiseks appi 20 000 arendajat, pärast seda kui Anthropicu Mythos-projekt paljastas selles haavatavusi.
Avatud lähtekoodiga tehisintellektimudel, mida saab kohapeal käitada ja mille kulutõhusus on poole väiksem, langetab küberründetööriistade kättesaadavuse läve senisest laiemale ringile osalejatele.
Avalikud treeningandmed muutuvad napiks ja kalliks, mistõttu suured keelemudelite pakkujad on sunnitud konkureerima omanduslike andmete pärast, süvendades sellega turu koondumist.
