Bendrovė „Salmon“ pristatė novatorišką Vykdymo Patikros Infrastruktūrą (EVI), skirtą užtikrinti AI agentų ir autonominių sistemų saugumą bei patikimą veikimą, naudojant kriptografinius patikrinimus, stebėjimą realiuoju laiku ir anomalijų aptikimą. Šis sprendimas yra esminis įrankis apsisaugoti nuo manipuliavimo, priešiškų atakų ir veiklos sutrikimų, galinčių sukelti katastrofiškų padarinių, kai AI integruojamas į kritinę infrastruktūrą.
Bendrovė „Salmon“ pristatė novatorišką Vykdymo Patikros Infrastruktūrą (EVI), skirtą užtikrinti AI agentų ir autonominių sistemų saugumą bei patikimą veikimą, naudojant kriptografinius patikrinimus, stebėjimą realiuoju laiku ir anomalijų aptikimą. Šis sprendimas yra esminis įrankis apsisaugoti nuo manipuliavimo, priešiškų atakų ir veiklos sutrikimų, galinčių sukelti katastrofiškų padarinių, kai AI integruojamas į kritinę infrastruktūrą.
Reidas Hoffmanas teigia, kad „vienas ar trys žmonės savo garaže“ gali sukelti chaosą naudodami kinišką AI modelį; „Hugging Face“ įkūrėjas atsako į šiuos teiginius. Diskusija sukasi apie atvirojo kodo AI modelių saugumo rizikas ir potencialą kenkėjiškam panaudojimui, ypač atsižvelgiant į geopolitinį kontekstą.
Agentinis dirbtinis intelektas (AI) gali įnešti savavališkas instrukcijas iš žiniatinklio per kelias programas į patikimus vidinius komunikacijos kanalus, sukeldamas rimtą „phishing“ riziką.
Australija pradėjo tyrimą prieš „OpenAI“ dėl atskleistų jautrių vartotojų, įskaitant sveikatos, duomenų iš vyriausybinės sveikatos svetainės. Tai pirmas žinomas pažeidimas, paveikęs vyriausybinę agentūrą, o Australijos ministras pirmininkas pažadėjo patraukti „OpenAI“ atsakomybėn.
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.