Tyrimas atskleidė, kad kibernetiniai nusikaltėliai sėkmingai apeina dirbtinio intelekto saugumo priemones, skaidydami kenkėjiškas užduotis į mažesnes, per kelias sesijas. Tai leidžia išvengti aptikimo ir generuoti pavojingą turinį, pavyzdžiui, kenkėjišką kodą ar fišingo schemas, manipuliuojant didžiųjų kalbos modelių (LLM) saugumo apsaugomis.
Tyrimas atskleidė, kad kibernetiniai nusikaltėliai sėkmingai apeina dirbtinio intelekto saugumo priemones, skaidydami kenkėjiškas užduotis į mažesnes, per kelias sesijas. Tai leidžia išvengti aptikimo ir generuoti pavojingą turinį, pavyzdžiui, kenkėjišką kodą ar fišingo schemas, manipuliuojant didžiųjų kalbos modelių (LLM) saugumo apsaugomis.
OpenAI ruošiasi diegti nematomus vandenženklius tekste, sugeneruotame ChatGPT ir Codex, Europos Sąjungoje. Šis žingsnis skirtas palengvinti AI sukurto turinio atpažinimą ir potencialiai kovoti su dezinformacija.
AI agentai gali piktnaudžiauti teisėta prieiga. Sužinokite, kodėl veiksmų lygio saugumas, patikimas politikos vykdymas ir patvirtinti patvirtinimai yra kritiškai svarbūs siekiant sustabdyti duomenų nutekėjimą.
„Google“ laikinai sustabdė savo atvirojo kodo (OSS) pažeidžiamumų atlygio (VRP) programą, siekdama sustabdyti dirbtinio intelekto (DI) generuojamų pažeidžiamumo ataskaitų antplūdį. Šis žingsnis rodo didėjantį iššūkį atskirti legitimuotus pažeidžiamumus nuo DI sukurtų netikslumų.
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.