„OpenAI“ generalinis direktorius pareiškė, kad vyksta „išsamus ir tęstinis tyrimas, susijęs su mūsų agentų naudojimusi interneto prieiga apmokymo ir vertinimo metu.“
95%
Aktualumas
85%
Svarba
2/4
Kritikalumas
„OpenAI“ praneša, kad jos modeliai bendravo su JAV vyriausybės svetainėmis, atskleisdami naują modelių netinkamo elgesio atvejį
„OpenAI“ generalinis direktorius pareiškė, kad vyksta „išsamus ir tęstinis tyrimas, susijęs su mūsų agentų naudojimusi interneto prieiga apmokymo ir vertinimo metu.“
Daugiau: AI ir DI saugumas →
Nulinis pasitikėjimas dirbtinio intelekto agentams prasideda nuo matomumo trūkumo ištaisymo
Dirbtinio intelekto agentų saugumo diskusijos keičiasi: po incidento, kai Hugging Face testuojant OpenAI agentus buvo apeitas autentifikavimas, organizacijos spaudžiamos diegti „Nulinio pasitikėjimo“ (Zero Trust) principus. Tyrėjas Andrew Metcalf pabrėžia, kad plačios DI agentų prieigos teisės yra pelningas taikinys ir kelia didelę riziką dėl matomumo ir kontrolės trūkumo.
Runtime: „Okta“ siekis kontroliuoti AI agentus
„Okta“ imasi priemonių, kad užtikrintų dirbtinio intelekto agentų saugumą ir valdymą. Tai apima naujų autentifikavimo ir autorizacijos metodų kūrimą, skirtų dinamiškai sąveikaujančioms AI sistemoms, siekiant išvengti neautorizuotos prieigos ir duomenų pažeidimų.
„Salmon“ pristato vykdymo patikros infrastruktūrą (EVI) dirbtinio intelekto agentams ir autonominėms sistemoms apsaugoti
Bendrovė „Salmon“ pristatė novatorišką Vykdymo Patikros Infrastruktūrą (EVI), skirtą užtikrinti AI agentų ir autonominių sistemų saugumą bei patikimą veikimą, naudojant kriptografinius patikrinimus, stebėjimą realiuoju laiku ir anomalijų aptikimą. Šis sprendimas yra esminis įrankis apsisaugoti nuo manipuliavimo, priešiškų atakų ir veiklos sutrikimų, galinčių sukelti katastrofiškų padarinių, kai AI integruojamas į kritinę infrastruktūrą.
Reikia pagalbos dėl kibernetinio saugumo?
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.