OpenAI 把 AI 规则写成五条价值观,最难的选择留给了开发者

2026.10.30 02:33
2026 年 10 月 29 日,OpenAI 将 Model Spec 从大量具体行为条款收束为五大价值观框架:忠实于人类意图、伤害最小化、诚实、人类自主权、关怀。这次修订回应了模型从聊天转向自主行动的趋势,把对齐责任沿产业链向下游转移至开发者与企业——平台守住不可覆盖的红线,红线之内的可接受行为由配置默认值的开发者界定。批评者认为这只是重组而非真正变革,真正的考验在于 OpenAI 未来能否推出可衡量、基于价值观的评估基准。

一份一百页的行为规范,最后被压缩成五条价值观。

2026 年 10 月 29 日,OpenAI 更新了它的 Model Spec。据报道,这份原本用大量具体条款告诉模型“什么能做、什么不能做”的文档,被改写成一套以价值观为优先的框架:忠实于人类意图、伤害最小化、诚实、人类自主权、关怀。规则变薄了,裁量权变厚了。而真正被推上前台的,不是模型,而是坐在模型下游的开发者与企业。

这不是修辞游戏。当 AI 从陪人聊天的对话框,变成能自主调用工具、执行任务、替人做决定的智能体时,任何写在纸面上的规则都不可能穷尽现实世界的全部情形。OpenAI 的选择是把判断权分层:平台守住不可逾越的红线,红线之内的具体取舍,交给配置默认值的开发者去定义。对齐的责任,就这样沿着产业链向下游转移。

批评者说这只是重组,不是变革。安全边界还在那里,模型依然会拒绝它认为危险的请求。真正的考验在于,OpenAI 未来会不会拿出一套可衡量的、基于价值观的评估基准。否则,“价值观”三个字很容易沦为一句好听的免责声明。

现象层:规则退场,价值观登场

把这次修订放进时间线里看,能更清楚地看到 OpenAI 的思路转折。

Model Spec 最早以“行为接口”的姿态公开。2026 年 3 月,《时代》周刊的报道披露,这份文档已经膨胀到约一百页,协调着模型对社会、对 OpenAI、对开发者、对终端用户之间相互冲突的义务。它的写法更像案例法汇编,而不是道德宣言——大量具体场景、正例反例、合规与违规的边界样本。同一时期,Anthropic 在 1 月发布了八十页的“Claude Constitution”,气质截然不同,读起来像一篇道德哲学论文。剑桥大学 AI 对齐方向的研究者 Sharan Maiya 当时的评价很直接:“Anthropic 的宪法更哲学,OpenAI 的 Spec 更行为化。”

到了 2026 年 10 月 29 日,OpenAI 把这套案例法式的规则体系,收束成五条价值观。据报道,这次修订的直接动因是模型使用场景的迁移:过去模型主要回答人类提出的问题,现在它们开始作为自主智能体(agentic AI)行动,替用户调用工具、执行流程、做出会影响现实世界的决定。在聊天场景里,一条书面指令或许够用;在自主行动场景里,模型会遇到大量指令撰写者根本预料不到的情境。规则永远追不上场景,价值观必须顶上去。

这背后是一场静默的范式转移。论文《The Shift to Agentic AI: Evidence from Codex》记录了一个可量化的侧面:2025 年 12 月到 2026 年 4 月,OpenAI 内部从以对话式 AI 为主的使用模式,快速切换为以 Codex 为代表的智能体工具主导;到 2026 年 6 月 11 日,普通员工当天有约两个半小时处于 Codex 智能体任务的运行中。产业侧的变化更快——客户支持自动化、内部知识检索、金融数据聚合,自主智能体在 2026 年年中已经从研究新奇物变成生产环境里的常规组件。

当模型开始“做事”,它就不再只是回答问题,而是在替人承担后果。一个帮用户订票的智能体,会在航班取消时自行改签;一个帮企业处理工单的代理,会在权限内直接操作客户数据;一个金融分析代理,可能在不询问的情况下调用交易接口。这些动作里没有一条是“写坏的指令”,它们恰恰是指令被忠实地执行了。问题于是变成:谁来判断这个动作该不该做?

OpenAI 的答案是分层。平台层划出不可覆盖的红线,红线之内,开发者和企业通过可配置的默认设置,去界定自己产品里“可接受的行为”。

分析层一:为什么规则管不住自主智能体

规则的本质是枚举。它假设世界是可预见的,假设所有危险情形都能被提前写进条款。这个假设在聊天时代勉强成立——用户的问题再刁钻,输出也只是一段文本,伤害半径有限。

自主智能体打破了这个假设。它的输出不是文本,而是动作。动作会改变外部系统的状态,会花钱、会发信、会修改数据、会触发物理世界的连锁反应。更关键的是,智能体的动作序列是组合爆炸的:单条指令安全,工具 A 安全,工具 B 安全,但 A 和 B 以某种顺序组合起来,就可能产生设计者从未设想过的后果。

这就是所谓“书面指令无法预见的情形”。你无法为每一种组合写一条规则,规则的数量永远追不上动作的组合数。于是 OpenAI 换了一种治理语言:不再试图枚举所有禁止项,而是给出几条高阶原则,让模型在遇到规则空白时,用原则去做情境判断。

这听起来像进步,但它有一个代价:判断的主观性上升了。“伤害最小化”在不同文化、不同行业、不同风险偏好下的含义并不相同。一个医疗场景里的“最小伤害”,和一个电商营销场景里的“最小伤害”,权重完全不同。当规则退场,这些差异不会再被平台统一规定,而是被下沉到每一个具体产品里,由配置默认值的人来决定。

分析层二:对齐责任被转嫁给下游

这才是本次修订最锋利的部分。

OpenAI 的 Model Spec 一直有一套“指挥链”(chain of command)设计:平台(OpenAI)的指令优先级最高,其次是开发者,最后是终端用户。平台级规则不可被覆盖,而大部分行为指南可以被开发者和用户自定义。《时代》周刊的报道点出了这套设计的核心:对“高严重性伤害”的禁止,优先于开发者或用户的任何指令。OpenAI 的帮助文档进一步明确了权威顺序:Root → System → Developer → User → Guideline,其中 Root 层被置于 System 之上,意味着有一部分规则被明确为“任何对话中都不可覆盖”的刚性边界。

这次修订把这条指挥链的意义放大了。平台守住红线——人类安全与人权优先,不得用于大规模监控、定向排斥、操纵人类、侵蚀公民参与,还要保护用户隐私——这些是 OpenAI 自己扛住的“经营许可”(license to operate)问题。红线之内,模型应当如何在具体情境中权衡“忠实于人类意图”与“伤害最小化”,如何在“诚实”与“关怀”之间取舍,则变成开发者和企业的责任。

红线为什么必须由平台自己扛?因为这是 OpenAI 的政治与法律底线。2026 年初的一个插曲很有说服力:Anthropic 拒绝为美国国防部移除关于国内大规模监控和自主武器的红线,OpenAI 随后签下了这份合同,又在舆论压力下后退。山姆·阿尔特曼公开承认这笔交易看起来“投机且草率”,更新后的协议写明“AI 系统不得被有意用于对美国公民和国民的国内监控”。但法律专家对这类保证的效力至今仍有分歧。Model Spec 里那句“模型绝不应被用于协助大规模监控”,就是在这种拉扯中被反复打磨出来的。

换句话说,OpenAI 在说:我告诉你底线在哪里,也给你一套价值观词汇和可配置的默认值;但你的产品在你的行业里到底什么行为算可接受,你自己界定。

这对企业意味着什么?意味着对齐不再是“调一个 API 参数”就能完成的事。企业需要建立自己的 AI 治理层:为自己的行业风险定义默认行为,为智能体的动作序列设置审批与回滚机制,为价值观冲突准备升级路径。合规团队、风险管理、法务的角色会显著上升——因为现在他们要写的,不再是“员工能不能用 ChatGPT”这种边界政策,而是“我们的智能体在什么情况下可以替客户做决定”这种产品级治理。

这也解释了为什么批评者说这只是重组。安全边界没有消失,OpenAI 依然握着最终的解释权和红线的定义权。变化的只是责任分配:平台从“替你决定什么是对错”,变成“告诉你底线,剩下的你自己负责”。对 OpenAI 来说,这是一种风险隔离;对开发者来说,这是一份必须接住的考卷。

分析层三:价值观框架的真正考验是“可衡量”

把价值观写进文档很容易,难的是证明模型真的按价值观行事。

这正是批评者最不放心的地方。如果一次更新只是把“禁止事项清单”重组为“五条原则”,而没有任何配套的评估手段,那么价值观框架就可能只是一种话语层面的升级——听起来更高级,约束力却没有增强。真正的考验在于后续的更新里,OpenAI 会不会引入可衡量的、基于价值观的评估基准(eval benchmarks):用一组标准化的情境测试,量化模型在“诚实 vs 关怀”“意图忠实 vs 伤害最小化”这类冲突中的表现,并公开追踪这些指标随版本的变化。

OpenAI 在这方面并非没有铺垫。早在 2025 年 2 月分享 Model Spec 更新时,公司就公布过模型在各类场景中对 Spec 原则的遵循度早期结果,并把该版本以 CC0 协议放入公共领域,供开发者和研究者自由使用、改编。这套思路如果延续到价值观框架上,方向是对的:把“模型是否符合价值观”从一句口号,变成一条可以追踪、可以对比、可以问责的曲线。

但这里有一个更深的难题:价值观本身难以被标准化。“关怀”在一个心理健康产品里和一个军事辅助系统里,含义天差地别。可衡量的基准由谁制定?如果基准由平台单方面制定,开发者只是被动应试,那么责任下放就只完成了一半——开发者承担了行为后果,却没有参与规则制定的话语权。如果基准由行业共同制定,那又需要跨公司、跨司法辖区的协调机制,这恰恰是目前最缺的基础设施。

这也是为什么这次修订的影响会溢出 OpenAI 自身。它实际上在给整个行业出题:当 AI 开始自主行动,治理的重心应该放在哪里?是继续堆砌禁止清单,还是建立一套可量化、可审计、可配置的价值观评估体系?OpenAI 选了后一条路,但它能不能走通,取决于它接下来会不会把“价值观”变成可测量的工程对象,而不是停留在文档里的五个名词。

结论层:谁会赢,谁危险

这次修订之后,赢家不会是那些只把智能体当聊天机器人用的公司。真正的受益者是已经为 AI 治理铺好基础设施的企业:有明确行业风险定义、有动作审批与回滚机制、有合规团队深度参与产品设计的组织。对他们来说,OpenAI 下放的裁量权不是负担,而是差异化竞争的空间——在同样的红线之内,谁能把价值观配置得更贴合自己的行业,谁就能做出更可信的产品。

危险的是另一类玩家:以为接上 API 就能自动获得“对齐”的企业。价值观框架把默认值交给了开发者,也把责任交给了开发者。一旦产品里的智能体在自主行动中越界,追问会首先落到企业头上,而不是 OpenAI。到那时,“我们用的是 OpenAI 的模型”不会是一张有效的免责牌。

从更长的周期看,2026 年 10 月 29 日的这次修订,可能会被记成 AI 治理从“平台家长制”转向“分层共治”的一个节点。平台守住底线,开发者定义场景,评估机制负责问责——三层结构如果真能建立起来,自主智能体才有可能在不妨碍创新的前提下被关进笼子。如果建立不起来,价值观框架就只是一次漂亮的重组。

规则能告诉模型什么不能做,只有价值观能告诉它在无人看见时该怎么做。OpenAI 把选择权交给了开发者,也把审视的目光一起交了出去——从今天起,评判一家 AI 公司的,不再是它写了多少条禁令,而是它敢不敢把自己的价值观放进可被测量的光里。

作品声明:内容由AI生成