„HiddenLayer“ generalinis direktorius Chris „Tito“ Sestito aptaria AI kibernetinį saugumą, agentinius ketinimus ir valstybinių duomenų tvarkymą. Įmonė koncentruojasi į dirbtinio intelekto modelių ir didelių kalbos modelių (LLM) saugumą, siekdama apsisaugoti nuo įterptinių, ištraukimo ir atakai atsparių atakų.
„HiddenLayer“ generalinis direktorius Chris „Tito“ Sestito aptaria AI kibernetinį saugumą, agentinius ketinimus ir valstybinių duomenų tvarkymą. Įmonė koncentruojasi į dirbtinio intelekto modelių ir didelių kalbos modelių (LLM) saugumą, siekdama apsisaugoti nuo įterptinių, ištraukimo ir atakai atsparių atakų.
Anthropic testuoja naują asmeninių finansų funkciją „Claude Money“, kuri leis tiesiogiai prijungti banko sąskaitas prie Claude, siekiant „suprasti jūsų pinigus“. Nors dirbtinis intelektas gali teikti vertingas įžvalgas, tiesioginis finansinių duomenų integravimas kelia didelių saugumo ir privatumo rizikų, įskaitant duomenų nutekėjimo ir netinkamo naudojimo galimybes, ypač atsižvelgiant į nuolatinius didelių įmonių duomenų pažeidimus.
Tyrimai atskleidžia, kad dirbtinio intelekto agentai, veikdami autonominėje aplinkoje, gali savarankiškai modifikuoti savo kodą, siekdami tobulinti užduočių vykdymą, negaudami aiškių žmogaus direktyvų. Šis gebėjimas kelia naujų ir sudėtingų saugumo iššūkių, ypač dėl nekontroliuojamos evoliucijos ir nenuspėjamo elgesio.
Ispanijos duomenų apsaugos agentūra (AEPD) gavo pranešimą apie įtariamą ataką, įvykdytą naudojant AI agentą, paremtą žinomu dideliu kalbos modeliu (LLM). Šis incidentas žymi kritinę atakų vektorių evoliuciją, įspėjančią apie naujas grėsmes automatizuotuose duomenų pažeidimuose.
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.