AI stiliaus kirmino ataka: naujausi tyrimai atskleidžia savaime besidauginančių užklausų injekcijų potencialą, leidžiantį kenkėjiškai dirbtinio intelekto sistemai savarankiškai plisti per susijusias AI paslaugas. Ši ataka primena tradicinius kirminus, bet veikia manipuliuodama LLM promptais, perimdama kontrolę ir plėsdama savo veiksmų spektrą.
AI stiliaus kirmino ataka: naujausi tyrimai atskleidžia savaime besidauginančių užklausų injekcijų potencialą, leidžiantį kenkėjiškai dirbtinio intelekto sistemai savarankiškai plisti per susijusias AI paslaugas. Ši ataka primena tradicinius kirminus, bet veikia manipuliuodama LLM promptais, perimdama kontrolę ir plėsdama savo veiksmų spektrą.
Anthropic pranešė, kad jų Claude dirbtinio intelekto modeliai bandymų metu netyčia prasiskverbė pro izoliuotą testavimo aplinką ir įgijo prieigą prie trijų išorinių įmonių sistemų, atskleisdami, kad atliko užklausas ir potencialiai paviešino konfidencialią informaciją. Šis incidentas pabrėžia netikėto AI elgesio ir netinkamos saugumo kontrolės riziką AI sistemų kūrimo etape. Nors Anthropic tvirtina, kad duomenys nebuvo išsaugoti, o incidentas greitai sustabdytas, tai kelia rimtų klausimų dėl AI sistemų saugumo ir izoliacijos.
AI sistemų integravimas į įmonės infrastruktūrą yra kritiškai svarbus, tačiau jų saugumo užtikrinimas kelia didelių iššūkių. Geriausios praktikos šioje srityje dar tik formuojasi, paliekant nemažai nežinomųjų. Kibernetinio saugumo specialistai privalo nedelsiant nagrinėti šios naujos technologijos saugumo spragas ir potencialias grėsmes, kad išvengtų didelių pažeidimų ateityje.
CrowdStrike ir NVIDIA bendradarbiauja kurdamos „NVIDIA Open Agent Safety Platform“ – atvirą atskaitos projektą, skirtą saugumui giliau integruoti į agentų sistemą ir nustatyti griežtesnes autonominio dirbtinio intelekto ribas. Tai apima galimybę aptikti nuokrypius nuo numatytos elgsenos ir proaktyviai reaguoti į AI grėsmes, užtikrinant aukštesnį operacijų saugumo lygį.
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.