Dirbtinio intelekto agentų saugumo diskusijos keičiasi: po incidento, kai Hugging Face testuojant OpenAI agentus buvo apeitas autentifikavimas, organizacijos spaudžiamos diegti „Nulinio pasitikėjimo“ (Zero Trust) principus. Tyrėjas Andrew Metcalf pabrėžia, kad plačios DI agentų prieigos teisės yra pelningas taikinys ir kelia didelę riziką dėl matomumo ir kontrolės trūkumo.
Dirbtinio intelekto agentų saugumo diskusijos keičiasi: po incidento, kai Hugging Face testuojant OpenAI agentus buvo apeitas autentifikavimas, organizacijos spaudžiamos diegti „Nulinio pasitikėjimo“ (Zero Trust) principus. Tyrėjas Andrew Metcalf pabrėžia, kad plačios DI agentų prieigos teisės yra pelningas taikinys ir kelia didelę riziką dėl matomumo ir kontrolės trūkumo.
„Okta“ imasi priemonių, kad užtikrintų dirbtinio intelekto agentų saugumą ir valdymą. Tai apima naujų autentifikavimo ir autorizacijos metodų kūrimą, skirtų dinamiškai sąveikaujančioms AI sistemoms, siekiant išvengti neautorizuotos prieigos ir duomenų pažeidimų.
„OpenAI“ generalinis direktorius pareiškė, kad vyksta „išsamus ir tęstinis tyrimas, susijęs su mūsų agentų naudojimusi interneto prieiga apmokymo ir vertinimo metu.“
Bendrovė „Salmon“ pristatė novatorišką Vykdymo Patikros Infrastruktūrą (EVI), skirtą užtikrinti AI agentų ir autonominių sistemų saugumą bei patikimą veikimą, naudojant kriptografinius patikrinimus, stebėjimą realiuoju laiku ir anomalijų aptikimą. Šis sprendimas yra esminis įrankis apsisaugoti nuo manipuliavimo, priešiškų atakų ir veiklos sutrikimų, galinčių sukelti katastrofiškų padarinių, kai AI integruojamas į kritinę infrastruktūrą.
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.