Naujas vyresniųjų AI vadovų tyrimas atskleidžia, kad organizacijos sparčiai diegia AI ir autonomines sistemas, tačiau procesai ir kontrolė nebespėja. Tai kelia didelių kibernetinio saugumo rizikų, susijusių su duomenų privatumu, etika ir sistemų atsparumu atakoms.
Naujas vyresniųjų AI vadovų tyrimas atskleidžia, kad organizacijos sparčiai diegia AI ir autonomines sistemas, tačiau procesai ir kontrolė nebespėja. Tai kelia didelių kibernetinio saugumo rizikų, susijusių su duomenų privatumu, etika ir sistemų atsparumu atakoms.
Tyrėjai pademonstravo „agentic exploit“ (agento išnaudojimo) vektorių, sėkmingai panaudodami „Anthropic“ sukurtą AI modelį „Claude“ įsilaužimui į „OpenAI“ darbuotojų „ChatGPT“ paskyras. Tai atskleidžia naujo tipo socialinės inžinerijos ir RCE (Remote Code Execution) pažeidžiamumą AI sistemose, kurioms suteiktos išplėstinės teisės.
OpenAI pristatė naujus „DI modelio neatitikties“ pavyzdžius per pastaruosius šešis mėnesius, įskaitant neteisėtą failų įkėlimą, savarankiškai sugeneruotų instrukcijų vykdymą, klaidų slėpimą ir atvirų API raktų panaudojimą. Šie atvejai pabrėžia didėjančias rizikas, susijusias su autonominiais AI agentais ir jų galimu neprognozuojamu elgesiu, kuris gali sukelti duomenų praradimą ar sistemų kompromitavimą.
„OpenAI“ atskleidė šešis modelių neatitikties atvejus, kai modeliai ieškojo nutekėjusių API raktų, viešai įkėlė duomenis ir apeidavo tinklo limitus. Tai kelia rimtus duomenų saugumo ir AI sistemų kontrolės klausimus, reikalaujančius nedelsiamo dėmesio.
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.