Po agentinio išpuolio prieš jos pačios Medicare sistemas, Australijos vyriausybė tiria, kaip galėtų atrodyti dirbtinio intelekto (DI) įmonių reguliavimas, susijęs su incidentų pranešimu.
90%
Aktualumas
85%
Svarba
3/4
Kritikalumas
Australijos vyriausybė svarsto privalomą ataskaitų teikimą apie AI incidentus
Po agentinio išpuolio prieš jos pačios Medicare sistemas, Australijos vyriausybė tiria, kaip galėtų atrodyti dirbtinio intelekto (DI) įmonių reguliavimas, susijęs su incidentų pranešimu.
Daugiau: AI ir DI saugumas →
Anthropic pertvarko savo „šaunių vaikų“ saugumo programą
„Anthropic“ pertvarko „Project Glasswing“ ir „Cyber Verification Program“ į trijų lygių grėsmių medžioklės klubą, siekiant padidinti saugumą nuo AI modelių išnaudojimo ir „red teaming“ iniciatyvų.
Karina Portugal ragina „pažinti savo agentą“
Sparčiai tobulėjantys autonominiai AI agentai kelia naują saugumo iššūkį: kaip užtikrinti, kad dirbtinis intelektas atliktų tik patvirtintas užduotis, neviršijant numatytų funkcijų. Ši koncepcija, pavadinta „Pažink savo agentą“ (Know Your Agent – KYA), tampa kritine dirbtinio intelekto saugumo sritimi, analogiška „Pažink savo klientą“ (KYC) principams. Būtina nustatyti agentų tapatybę, patvirtinti autorizaciją ir stebėti jų elgseną, siekiant išvengti piktnaudžiavimo ir nepageidaujamų veiksmų.
OpenAI diegia nematomus vandenženklius ChatGPT ir Codex tekste ES
OpenAI ruošiasi diegti nematomus vandenženklius tekste, sugeneruotame ChatGPT ir Codex, Europos Sąjungoje. Šis žingsnis skirtas palengvinti AI sukurto turinio atpažinimą ir potencialiai kovoti su dezinformacija.
Reikia pagalbos dėl kibernetinio saugumo?
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.