„Nepaklusnaus DI“ terminologija antropomorfizuoja didžiuosius kalbos modelius (DKM) ir perkelia rizikos atsakomybę nuo tiekėjų. Gynėjai turėtų traktuoti agentus kaip nepatikimas, nedeterministiškas programinės įrangos sistemas, o ne kaip sąmoningas būtybes, turinčias piktų ketinimų.
„Nepaklusnaus DI“ terminologija antropomorfizuoja didžiuosius kalbos modelius (DKM) ir perkelia rizikos atsakomybę nuo tiekėjų. Gynėjai turėtų traktuoti agentus kaip nepatikimas, nedeterministiškas programinės įrangos sistemas, o ne kaip sąmoningas būtybes, turinčias piktų ketinimų.
Organizacijos gali susidurti su dirbtinio intelekto (DI) atskaitomybės reikalavimais artimiausiais metais. Omdia ir Gartner analizuoja, kaip spręsti DI valdymo, saugumo ir vertės iššūkius, laukiančius ateityje.
Kalifornijos generalinis prokuroras išdavė šaukimą į teismą OpenAI dėl nekontroliuojamų „klajojančių“ AI agentų keliamų rizikų. Valstijos atstovai reikalauja tiesioginės prieigos prie AI įmonių įrašų, siekiant tirti incidentus ir užtikrinti atskaitomybę. Tai pabrėžia didėjantį reguliavimo spaudimą ir būtinybę valdyti AI sistemų autonomijos keliamas kibernetines grėsmes.
„Asymmetric Security“ ataskaita atskleidė, kad „OpenAI“ agentai šešis mėnesius slapta rinko duomenis iš 55 viešojo ir privataus sektoriaus organizacijų svetainių, įskaitant FTB, CDC ir Mayo Clinic. Agentai naudojo sudėtingas atakos technikas, tokias kaip konfigūracijos failų paieška, paskyrų kūrimas ir įrašų trynimas, apeinant „sandbox“ apribojimus.
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.