随着AI agent能力不断提升，企业正加快把它融入各类工作流和产品中，但一个新挑战也慢慢浮现：怎么确保AI agent在不同环境部署时，都能按预期完成任务？眼下，开发者常靠系统提示这类临时方式控制AI agent，可这些方法缺乏一致性和精细度，容易引发工具误用或意外行为导致的级联故障，这也成了企业规模化落地AI agent的一大阻碍。
正是在这样的情况下，微软最近推出了名为Agent Control Specification（ACS）的开源标准，希望能给开发者一套更系统的AI agent行为控制方案。ACS的核心是让开发者、合规和安全团队能自定义政策文件，这些文件可以明确AI agent的行为边界——比如允许执行的操作类型、不能碰的敏感领域、需要人工审批的关键决策点，以及必须记录的操作证据等。举个例子，企业可以通过政策文件限制AI agent访问内部财务系统，或者要求它在发送外部邮件前必须经过人工审核。
从技术层面来说，ACS会在AI agent执行任务的多个“拦截点”检查政策文件，保证它的行为始终不越出预设的安全边界。这些拦截点包括agent发起工具调用前、执行操作前以及生成最终输出前等关键环节，政策检查的结果会直接决定agent是否继续当前任务。这种实时检查机制，能有效防止AI agent在执行过程中偏离预设轨道。
ACS的推出对行业来说意义不小：一方面，它给企业提供了标准化的行为控制框架，降低了AI agent部署的合规成本和安全风险；另一方面，作为开源标准，ACS允许开发者根据自身需求扩展功能，助力行业在AI agent安全领域建立统一规范。根据Gartner 2024年AI技术落地报告，80%的企业在部署AI agent时面临行为失控风险，而采用标准化控制框架的企业，风险发生率能降低30%以上。
从行业动态来看，AI agent的行为控制是2024年AI技术落地过程中的核心关注点。谷歌最近升级了它的AI agent安全框架，新增动态政策调整功能，能根据实时场景自动修改agent的权限范围；OpenAI则在Function Calling接口里引入了权限分级机制，把工具访问权限分成基础、高级和敏感三个等级，限制AI agent使用高风险工具。这些动作说明，头部科技企业已经把AI agent的行为控制看作竞争的关键环节，而开源标准的普及会进一步提升行业整体的安全水平。
快报