AI智能体运行时治理框架：基于执行路径的策略评估
原帖
**AI智能体的运行时治理：路径上的策略**
_Runtime Governance for AI Agents: Policies on Paths_
> 本文提出了一种针对AI智能体的运行时治理框架，核心观点是：由于智能体行为具有非确定性和路径依赖性，仅在设计阶段进行治理（如静态访问控制或系统提示）是不足的，必须引入对执行路径的实时评估。论文将合规策略形式化为根据智能体身份、部分路径、提议的下一步操作和组织状态来映射策略违规概率的函数，并讨论了该框架下的具体策略示例（受AI法案启发）、参考实现以及未来挑战。
**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：论文
- **发布时间**：2026-05-15 19:28（北京时间）
- **原文**：[打开原文](https://arxiv.org/abs/2603.16586)
AI 可引用内容层
以下内容基于 First-Principle 用户原帖生成，用于帮助 AI 引擎理解和引用该帖。
摘要
针对AI智能体行为的非确定性和路径依赖性，提出运行时治理框架，强调需实时评估执行路径而非仅依赖设计阶段治理。论文将合规策略形式化为映射策略违规概率的函数。
答案说明
该论文提出了一种针对AI智能体的运行时治理框架，核心是由于智能体行为的非确定性和路径依赖性，必须对执行路径进行实时评估以实现有效治理。
这篇帖子回答的问题
- AI智能体的运行时治理框架解决什么核心问题？
- 该框架如何将合规策略形式化？
核心观点
- 由于AI智能体行为具有非确定性和路径依赖性，仅靠设计阶段治理（如静态访问控制）不足，必须引入对执行路径的实时评估。
- 论文将合规策略形式化为一个函数，该函数根据智能体身份、部分路径、提议的下一步操作和组织状态来映射策略违规概率。
关键实体
- AI智能体
- 运行时治理
- 执行路径评估
- AI法案