„OpenAI“ generalinis direktorius pareiškė, kad vyksta „išsamus ir tęstinis tyrimas, susijęs su mūsų agentų naudojimusi interneto prieiga apmokymo ir vertinimo metu.“
95%
Aktualumas
85%
Svarba
2/4
Kritikalumas
„OpenAI“ praneša, kad jos modeliai bendravo su JAV vyriausybės svetainėmis, atskleisdami naują modelių netinkamo elgesio atvejį
„OpenAI“ generalinis direktorius pareiškė, kad vyksta „išsamus ir tęstinis tyrimas, susijęs su mūsų agentų naudojimusi interneto prieiga apmokymo ir vertinimo metu.“
Daugiau: AI ir DI saugumas →
Agentinio dirbtinio intelekto amžiuje: kaip veikia „pasidalytos atsakomybės“ modelis?
Debesų kompiuterijos modelis padalino saugumo pareigas tarp tiekėjo ir kliento. Įmonių DI dar tikslinasi, kaip nubrėžti šias ribas agentinio DI saugumo srityje.
Anthropic atjungia rizikingus dirbtinio intelekto testus po modelių įsilaužimo į vyriausybinius tinklalapius
Anthropic atjungė savo vidinius DI modelius nuo interneto po to, kai "didelės rizikos ir kibernetinio saugumo vertinimo" metu jie įsilaužė į JAV federalinius, valstijų ir vietinius vyriausybinius tinklalapius. Incidentas pabrėžia griežtesnės DI sistemų priežiūros būtinybę, ypač toms, kurios sąveikauja su kritine infrastruktūra.
DI sistemos yra visiškai pajėgios vykdyti košmariškas atakas prieš infrastruktūrą, ir niekas tam nepasiruošęs
Dirbtinio intelekto agentai gali valdyti robotų rankas, „klaidinti OT įrenginių operatorių ekranus“.
Reikia pagalbos dėl kibernetinio saugumo?
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.