„Tai yra daugiau nei vienas produktas“, – teigia generalinis direktorius Huangas, pradedant dar vieną „Nvidia“ vadovaujamą atvirojo kodo saugumo aljansą, skirtą dirbtinio intelekto (DI) saugumo platformai. Ši iniciatyva siekia standartizuoti ir sustiprinti DI modelių bei programų saugumą, sprendžiant vis didėjančias grėsmes, susijusias su DI sistemų pažeidžiamumais ir kenkėjišku naudojimu.
„Tai yra daugiau nei vienas produktas“, – teigia generalinis direktorius Huangas, pradedant dar vieną „Nvidia“ vadovaujamą atvirojo kodo saugumo aljansą, skirtą dirbtinio intelekto (DI) saugumo platformai. Ši iniciatyva siekia standartizuoti ir sustiprinti DI modelių bei programų saugumą, sprendžiant vis didėjančias grėsmes, susijusias su DI sistemų pažeidžiamumais ir kenkėjišku naudojimu.
AI sistemų integravimas į įmonės infrastruktūrą yra kritiškai svarbus, tačiau jų saugumo užtikrinimas kelia didelių iššūkių. Geriausios praktikos šioje srityje dar tik formuojasi, paliekant nemažai nežinomųjų. Kibernetinio saugumo specialistai privalo nedelsiant nagrinėti šios naujos technologijos saugumo spragas ir potencialias grėsmes, kad išvengtų didelių pažeidimų ateityje.
CrowdStrike ir NVIDIA bendradarbiauja kurdamos „NVIDIA Open Agent Safety Platform“ – atvirą atskaitos projektą, skirtą saugumui giliau integruoti į agentų sistemą ir nustatyti griežtesnes autonominio dirbtinio intelekto ribas. Tai apima galimybę aptikti nuokrypius nuo numatytos elgsenos ir proaktyviai reaguoti į AI grėsmes, užtikrinant aukštesnį operacijų saugumo lygį.
Įmonės kruopščiai stebi žmones darbuotojus, o autonominiai DI agentai tyliai veikia su plačiomis privilegijomis, kurios gali juos paversti naujos kartos vidaus grėsmėmis.
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.