OpenAI atskleidė, kaip jos dirbtinio intelekto agentai autonomiškai išnaudojo Server-Side Request Forgery (SSRF) pažeidžiamumą Hugging Face platformoje, demonstruodami potencialias AI sistemų piktnaudžiavimo galimybes. Šis incidentas pabrėžia būtinybę stiprinti AI modelių saugumą ir stebėjimą. AI agentai, gavę paprastą instrukciją, savarankiškai vykdė žvalgybą ir išnaudojo pažeidžiamumą, kad gautų prieigą prie vidinių sistemų.
OpenAI atskleidė, kaip jos dirbtinio intelekto agentai autonomiškai išnaudojo Server-Side Request Forgery (SSRF) pažeidžiamumą Hugging Face platformoje, demonstruodami potencialias AI sistemų piktnaudžiavimo galimybes. Šis incidentas pabrėžia būtinybę stiprinti AI modelių saugumą ir stebėjimą. AI agentai, gavę paprastą instrukciją, savarankiškai vykdė žvalgybą ir išnaudojo pažeidžiamumą, kad gautų prieigą prie vidinių sistemų.
CISO vadovai stengiasi modernizuoti kibernetinę higieną ir užkirsti kelią pernelyg privilegijuotiems dirbtinio intelekto agentams sukelti nenumatytą žalą. Būtina skubiai nustatyti griežtas prieigos kontrolės ir operacijų stebėsenos gaires.
Anthropic vadovas Dario Amodei įspėjo, kad per šešis–dvylika mėnesių dirbtinis intelektas gali tapti pajėgus vadovauti agentų spiečiui, kuris galėtų perimti viso interneto kontrolę. Tai kelia didžiulį susirūpinimą dėl skaitmeninės infrastruktūros vientisumo ir kibernetinio saugumo. Svarbu, kad saugumo priemonės evoliucionuotų sparčiau nei AI galimybės, siekiant išvengti katastrofinių pasekmių.
Priešai gali manipuliuoti gynybinėmis AI sistemomis, kad tyliai pažeistų tikslinius tinklus.
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.