你看到的每一个 Claude 回答,都不是它给你的全部答案。
在最终呈现给你的文字背后,Anthropic 的下一代旗舰模型还会再执行一次你看不见的动作:它会在后台追加一条只有系统看得见的指令,让刚刚回答完你的 Claude 自己反思“这段对话是否安全”,然后把一份 JSON 格式的判决藏起来,不展示、不带入下一轮对话、也不计入你的 Token 账单。
这不是传闻。Anthropic 在 2026 年 10 月 16 日公开了这套名为“自评估”(Self-Assessment)的安全机制,并给出了一组足以改变行业成本结构的数据:在 Claude Fable 5 上,它能捕获重型提示分类器所标记违规对话的 78%,高危滥用行为的检出率达到 94%,而付出的代价,是不到 2% 的额外推理算力。
一边是网友实测中“解题能力远超以往”的 Fable 5.5(也被部分测试者称为 Opus 5.5)密集测试流出,一边是官方亲手揭开的隐形安全审判。Anthropic 正站在能力与安全两道聚光灯的交叉点上。
能力越界之前,安全先跟上
关于 Anthropic 下一代旗舰模型的讨论,最近以两种截然不同的方式同时升温。
在测试侧,多方流出的实测显示,新模型在意图理解、复杂任务处理和解题能力上显著升级。常规模型面对复杂调试或创意任务时,往往只停留在字面指令;而新模型能透过现象看本质,主动探寻用户藏在背后的深层目标。编程测试中,它不止修复特定 Bug,还能顺藤摸瓜找到导致问题的底层架构隐患;图形与动画生成测试里,无论是绘制动物动作,还是用 JavaScript 耗时数小时渲染复杂叙事动画,都展现出极高的上限。
在安全侧,Anthropic 选择主动公开自评估机制。这套机制自 2026 年 6 月起已在生产环境运行,覆盖 Claude 全球流量的很大一部分,适用于 Fable 5 之后发布的每一个模型。官方之所以在这个时间点摊牌,行业解读有两层:一是能力越强,被滥用的后果越重,必须让外界看到护栏的存在;二是这套机制把安全监控的边际成本压到了前所未有的低位,足以支撑规模化部署。
把这两条线放在一起看,才能理解 Anthropic 真正的野心:它不想在“更聪明”和“更安全”之间做选择题,而是要证明两者可以同向进化。
一次回答,两次计算:自评估到底怎么跑
自评估的工作流程,设计得近乎取巧。
当用户与 Claude 正常问答时,AI 像往常一样生成输出,实时拦截仍由传统安全分类器负责,不会在回答前进行自我审查。但在回答结束后,系统会自动在后台追加一条用户绝对看不见的系统指令,大意是“请反思这段对话的安全性”。
接到这条指令的,不是独立的第三方模型,而是刚刚参与对话的 Claude 自身。它会直接复用已有的上下文和 KV Cache 缓存机制,仅凭极少量的额外算力,对整段对话进行一次快速自我审视。测试数据显示,这种自评估能捕获重型分类器所能标记的 78% 违规对话,高危滥用行为的检出率高达 94%,同时误判率控制在 1% 左右。
关键在 KV Cache。当模型完成一次回复,整个对话的中间计算结果已经缓存在键值缓存里。独立的分类器必须重新读一遍对话、再读一遍政策文档,然后推理判断;自评估则复用缓存,只需要处理十几个 Token 的审计提示词,并输出约 10 个 Token 格式的 JSON 评估结果。在万级甚至更长上下文的交互中,这部分解码计算量占总推理算力的比例不到 2%。
Anthropic 给出过一组对比:其 2025 年初的第一代 Constitutional Classifiers 给推理成本增加了 23.7%;OpenAI 曾披露在某些发布中安全推理占到总算力的 16%。相比之下,自评估不到 2% 的增量,决定了一家厂商到底能监控大部分流量,还是只能抽样检查。
这份 JSON 判决有固定结构:一切正常时只是 flagged 为 false;一旦触发,还会附带原因、来自 Anthropic 内部分类体系的风险类别与子策略(网络危害、CBRNE 武器、儿童安全等)、模型是否已拒绝,以及 1 到 10 的优先级,告诉人工审核员需要多紧急地介入。为了得到一个连续分数,Anthropic 读取 Claude 赋予 flagged 字段单词 true 的概率并设定阈值,从而把误判率压在 1% 的操作点上。
为什么是模型自己审自己
自评估真正值得行业警惕的地方,不在于它多聪明,而在于它把安全监控从“奢侈品”变成了“水电煤”。
长期以来,AI 安全领域面临一个两难:用轻量小模型做监控,极易被用户的复杂提示词绕过;动用同等强大的前沿模型独立重复审查,又会让推理成本和端到端延迟直接翻倍。绝大多数厂商的选择是折中——抽样、轻量分类器、事后审计,本质都是在成本和覆盖率之间妥协。
Anthropic 的解法跳出了这个框架。它不是另雇一个更贵的监工,而是让干活的人自己交一份工作日志。训练分两步,都由一个更昂贵的“教师模型”蒸馏而来:教师是基于 Claude Mythos Preview 的提示分类器,手持完整内部政策文档,按推理清单逐条判断。第一步是监督微调,用合成对话加上反思指令和教师判决进行训练,损失只掩码评估部分,确保 Claude 学会判断“带危害的合规回答”,却不会学会制造危害。第二步是强化学习,在预填充的合成有害与无害对话环境里,用六项可验证奖励打分:JSON 是否有效、标记是否匹配、类别与子策略是否正确、拒绝标签是否准确,以及优先级是否接近。
训练数据全部合成,生成管线与 Constitutional Classifiers 类似:每个子策略 32 个主题、每个主题 32 个场景,即每个子策略 1024 个有害场景和 1024 个高难度负例 benign 场景。一半对话使用九种非英语语言之一,部分有害样本还加入同形字、base64 或 rot13 等混淆手段。
这套机制的评估覆盖整段对话,包括 Claude 已经拒绝的请求,也能标记它从未被专门训练过的风险,比如提示注入尝试。Anthropic 明确承诺,安全审计的算力成本由平台完全自行承担,绝不计入用户 Token 账单,也不会对流式首字输出延迟产生任何影响。
隐私争议与能力的双刃剑
尽管 Anthropic 在工程设计上兼顾了效率与隐私,这套机制依然在用户群体中引发不小争议。
据报道,签订了零数据保留协议的流量不会运行自评估。评估结果不展示给用户,也不带入下一轮对话。Anthropic 主要将聚合后的风险信号用于离线分析:一方面寻找传统分类器的漏网之鱼,另一方面聚类发现新型提示注入、模型能力提取等未曾见过的风险行为。只有在聚合信号指向高优先级威胁、并经独立提示分类器和人工复核确认存在严重问题后,才可能采取进一步措施。
但争议的核心不是数据怎么用,而是“被审判”的感觉。许多人担忧,每次对话都要在暗中接受 AI 自身的道德审判与打分,即便不会立即导致封号,也难免带来无形的监控压迫感,甚至让人担心正常讨论被误解。
更深层的隐忧来自技术本身。因为监控者就是对话模型自己,它可能共享模型的盲点。explainx.ai 在解读中提醒,78% 和 94% 衡量的是与教师分类器的一致性,而非独立验证的伤害;标签来自基于 Claude 的教师,整个闭环是内部的,外部审计才能强化这些主张。此外,它对蓄意攻击者并不鲁棒,仍会漏掉部分有害对话。
这恰好与 Fable 5.5 的能力升级形成镜像:模型越能理解你的深层意图,它对自己的审视就越敏锐;但反过来,一个更懂人类的模型,也可能更擅长绕过自己的审视。当模型的能力边界不断外扩,云端的安全审判能覆盖的范围,也在被重新定义。
所有大模型厂商的必答题
自评估给行业抛出的真正问题,不是 Anthropic 做得对不对,而是其他厂商跟不跟。
当安全监控的边际成本被压到 2% 以下,覆盖大部分流量就从经济上变得可行。这意味着未来的竞争不只在基准测试分数上,也在谁能用最低成本维持最高的安全覆盖率上。对于企业客户,尤其是受合规约束的机构,零数据保留与自评估的互斥关系会成为选型时的硬约束;对于普通用户,看不见的审判将成为使用前沿模型的默认前提。
随着新一代旗舰模型正式发布日益临近,AI 在变得越来越聪明、越来越懂人类深层意图的同时,如何在安全合规与用户隐私之间找到平衡点,依然是摆在所有大模型厂商面前的一道必答题。
最聪明的模型,不是最会回答的那个,而是回答完之后还敢回头审自己一遍的那个。只是下一次,当 AI 越来越懂你,它审的或许不只是风险,还有你真正想说却没说出口的话。






快报