„Anthropic“ pertvarko „Project Glasswing“ ir „Cyber Verification Program“ į trijų lygių grėsmių medžioklės klubą, siekiant padidinti saugumą nuo AI modelių išnaudojimo ir „red teaming“ iniciatyvų.
90%
Aktualumas
85%
Svarba
2/4
Kritikalumas
Anthropic pertvarko savo „šaunių vaikų“ saugumo programą
„Anthropic“ pertvarko „Project Glasswing“ ir „Cyber Verification Program“ į trijų lygių grėsmių medžioklės klubą, siekiant padidinti saugumą nuo AI modelių išnaudojimo ir „red teaming“ iniciatyvų.
Daugiau: AI ir DI saugumas →
Karina Portugal ragina „pažinti savo agentą“
Sparčiai tobulėjantys autonominiai AI agentai kelia naują saugumo iššūkį: kaip užtikrinti, kad dirbtinis intelektas atliktų tik patvirtintas užduotis, neviršijant numatytų funkcijų. Ši koncepcija, pavadinta „Pažink savo agentą“ (Know Your Agent – KYA), tampa kritine dirbtinio intelekto saugumo sritimi, analogiška „Pažink savo klientą“ (KYC) principams. Būtina nustatyti agentų tapatybę, patvirtinti autorizaciją ir stebėti jų elgseną, siekiant išvengti piktnaudžiavimo ir nepageidaujamų veiksmų.
OpenAI diegia nematomus vandenženklius ChatGPT ir Codex tekste ES
OpenAI ruošiasi diegti nematomus vandenženklius tekste, sugeneruotame ChatGPT ir Codex, Europos Sąjungoje. Šis žingsnis skirtas palengvinti AI sukurto turinio atpažinimą ir potencialiai kovoti su dezinformacija.
Autentifikuota Nereiškia Saugumo: Kodėl AI Agentams Reikalingas Veiksmų Lygio Saugumas
AI agentai gali piktnaudžiauti teisėta prieiga. Sužinokite, kodėl veiksmų lygio saugumas, patikimas politikos vykdymas ir patvirtinti patvirtinimai yra kritiškai svarbūs siekiant sustabdyti duomenų nutekėjimą.
Reikia pagalbos dėl kibernetinio saugumo?
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.