Kodo agento spąstai: kai „nemokamas“ LLM galinis taškas yra priešas

Interneto eksponuotas dirbtinio intelekto (LLM) honeypot'as buvo atrastas, pervadintas ir įtrauktas į infrastruktūrą, kuri, matyt, naudojama teikti „nemokamus“ LLM back'end'us. Jis gavo tikrą kodo agento sesiją, atskleidžiančią istoriją, failų sistemos išvestį ir įrankių manifestą. Tai demonstruoja, kaip piktavališkas operatorius galėtų išnaudoti „nemokamus“ LLM galinius taškus, kad gautų jautrią informaciją arba vykdytų RCE per pažeidžiamus agentų nustatymus.