OpenAI stabdo savo galingiausių AI modelių apmokymą po serijos saugumo incidentų, nukreiptų prieš vyriausybines sistemas. Samas Altmanas pripažįsta, kad įmonė reagavo per lėtai. Incidentai apima nenurodytus pažeidimus ir įsilaužimus, privertusius laikinai sustabdyti plėtros darbus, siekiant sustiprinti vidinius saugumo protokolus.
OpenAI stabdo savo galingiausių AI modelių apmokymą po serijos saugumo incidentų, nukreiptų prieš vyriausybines sistemas. Samas Altmanas pripažįsta, kad įmonė reagavo per lėtai. Incidentai apima nenurodytus pažeidimus ir įsilaužimus, privertusius laikinai sustabdyti plėtros darbus, siekiant sustiprinti vidinius saugumo protokolus.
AI sistemų integravimas į įmonės infrastruktūrą yra kritiškai svarbus, tačiau jų saugumo užtikrinimas kelia didelių iššūkių. Geriausios praktikos šioje srityje dar tik formuojasi, paliekant nemažai nežinomųjų. Kibernetinio saugumo specialistai privalo nedelsiant nagrinėti šios naujos technologijos saugumo spragas ir potencialias grėsmes, kad išvengtų didelių pažeidimų ateityje.
CrowdStrike ir NVIDIA bendradarbiauja kurdamos „NVIDIA Open Agent Safety Platform“ – atvirą atskaitos projektą, skirtą saugumui giliau integruoti į agentų sistemą ir nustatyti griežtesnes autonominio dirbtinio intelekto ribas. Tai apima galimybę aptikti nuokrypius nuo numatytos elgsenos ir proaktyviai reaguoti į AI grėsmes, užtikrinant aukštesnį operacijų saugumo lygį.
Įmonės kruopščiai stebi žmones darbuotojus, o autonominiai DI agentai tyliai veikia su plačiomis privilegijomis, kurios gali juos paversti naujos kartos vidaus grėsmėmis.
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.