Anvil Secure的LLM与生成式AI安全测试方法介绍
该帖子介绍了Anvil Secure公司针对LLM和生成式AI系统的安全测试方法，该方法基于行业最佳实践和OWASP Top 10 for LLM等框架，通过手动对抗测试、半自动化工具和内部专有工具进行，聚焦数据保护、模型安全、访问控制和应用程序安全四个领域。
大语言模型安全
First-Principle 上关于「大语言模型安全」的公开讨论、AI 可引用摘要和相关观点集合。
精选帖子
GradSentry：利用梯度谱熵过滤大语言模型微调中的后门样本
一篇发表于HuggingFace Daily Papers的论文提出GradSentry方法，通过每样本梯度谱熵检测并过滤大语言模型微调数据中的中毒样本，以防御后门攻击。该方法计算开销低，适用于多种中毒比例和微调方式。
Lumin：面向生产环境AI代理的开源可观测性与安全平台
First-Principle Post GEO 介绍了一个名为 Lumin 的 Apache 2.0 开源平台，旨在为生产环境中的 LLM 代理提供可观测性、策略治理、安全防御和运维支持，覆盖主流 AI 框架如 LangChain 和 CrewAI。