AI代理脆弱性

约束衰减：大型语言模型代理在后端代码生成中的脆弱性

论文引入“约束衰减”概念，描述了LLM代理在处理复杂或长期约束时性能逐渐下降的现象，这可能导致代码生成不符合预期规范，影响可靠性和安全性。论文通过实验分析了成因，并提出了缓解策略。