Forcepoint X-Labs paskelbė naują tyrimą, rodantį, kad netiesioginė „prompt“ injekcija prieš AI el. pašto apibendrintojus gali veikti be paslėpto teksto ar tiesioginių nurodymų, įterpiant suklastotas detales į apibendrintą turinį.
Forcepoint X-Labs paskelbė naują tyrimą, rodantį, kad netiesioginė „prompt“ injekcija prieš AI el. pašto apibendrintojus gali veikti be paslėpto teksto ar tiesioginių nurodymų, įterpiant suklastotas detales į apibendrintą turinį.
AI sistemų integravimas į įmonės infrastruktūrą yra kritiškai svarbus, tačiau jų saugumo užtikrinimas kelia didelių iššūkių. Geriausios praktikos šioje srityje dar tik formuojasi, paliekant nemažai nežinomųjų. Kibernetinio saugumo specialistai privalo nedelsiant nagrinėti šios naujos technologijos saugumo spragas ir potencialias grėsmes, kad išvengtų didelių pažeidimų ateityje.
CrowdStrike ir NVIDIA bendradarbiauja kurdamos „NVIDIA Open Agent Safety Platform“ – atvirą atskaitos projektą, skirtą saugumui giliau integruoti į agentų sistemą ir nustatyti griežtesnes autonominio dirbtinio intelekto ribas. Tai apima galimybę aptikti nuokrypius nuo numatytos elgsenos ir proaktyviai reaguoti į AI grėsmes, užtikrinant aukštesnį operacijų saugumo lygį.
Įmonės kruopščiai stebi žmones darbuotojus, o autonominiai DI agentai tyliai veikia su plačiomis privilegijomis, kurios gali juos paversti naujos kartos vidaus grėsmėmis.
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.