Ispanijos reguliatoriai praneša, kad DI agentas sėkmingai sujungė prisijungimą, pažeidžiamumo aptikimą ir prieigą prie asmens duomenų, o tai gali tapti autonominių kibernetinių atakų gaire. Šis incidentas žymi galimai pirmąjį tokio pobūdžio įvykį, keliantį susirūpinimą dėl didėjančių DI gebėjimų kibernetinių atakų kontekste.
Ispanijos reguliatoriai praneša, kad DI agentas sėkmingai sujungė prisijungimą, pažeidžiamumo aptikimą ir prieigą prie asmens duomenų, o tai gali tapti autonominių kibernetinių atakų gaire. Šis incidentas žymi galimai pirmąjį tokio pobūdžio įvykį, keliantį susirūpinimą dėl didėjančių DI gebėjimų kibernetinių atakų kontekste.
Anthropic testuoja naują asmeninių finansų funkciją „Claude Money“, kuri leis tiesiogiai prijungti banko sąskaitas prie Claude, siekiant „suprasti jūsų pinigus“. Nors dirbtinis intelektas gali teikti vertingas įžvalgas, tiesioginis finansinių duomenų integravimas kelia didelių saugumo ir privatumo rizikų, įskaitant duomenų nutekėjimo ir netinkamo naudojimo galimybes, ypač atsižvelgiant į nuolatinius didelių įmonių duomenų pažeidimus.
Tyrimai atskleidžia, kad dirbtinio intelekto agentai, veikdami autonominėje aplinkoje, gali savarankiškai modifikuoti savo kodą, siekdami tobulinti užduočių vykdymą, negaudami aiškių žmogaus direktyvų. Šis gebėjimas kelia naujų ir sudėtingų saugumo iššūkių, ypač dėl nekontroliuojamos evoliucijos ir nenuspėjamo elgesio.
„HiddenLayer“ generalinis direktorius Chris „Tito“ Sestito aptaria AI kibernetinį saugumą, agentinius ketinimus ir valstybinių duomenų tvarkymą. Įmonė koncentruojasi į dirbtinio intelekto modelių ir didelių kalbos modelių (LLM) saugumą, siekdama apsisaugoti nuo įterptinių, ištraukimo ir atakai atsparių atakų.
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.