AI治理的三重困局:国家能力、开源之痛与蒸馏噪音

2026.06.27 02:19
Nathan Lambert的三行推文,点出了2026年夏天AI治理最隐秘的焦虑。Dean Ball的政府容量悖论、Anthropic模型被强制下架的出口管制先例、史上最大蒸馏攻击的指控——三个问题被搅在一起,形成了一场认知短路。当出口管制成为唯一锤子,所有治理问题都变成了钉子。

2026年6月,AI研究员Nathan Lambert在社交媒体上写下三行短句。没有感叹号,没有长论证,只有三个他认为是行业当前最亟待厘清的问题:管理前沿能力的国家治理基础设施是否到位;即将到来的前沿开源模型该怎么管;以及——如何把蒸馏指控的噪音与前两者分离开。

这三句话像一把手术刀,划开了2026年夏天AI治理领域最隐秘的焦虑。它们之所以值得认真对待,不是因为Lambert是某个大厂的CEO或政府高官——他是一个独立研究员、RLHF领域最权威的著作者之一——而是因为他指出的三个问题,恰好对应了过去一个月里AI行业最剧烈的三次震荡。

发生了三件事

过去四周,AI治理领域发生了三件看起来互不相关、实则紧紧咬合的事件。

第一件:白宫AI政策的核心起草人去了OpenAI。 6月18日,前特朗普政府AI高级政策顾问Dean Ball——他曾是白宫《AI行动计划》的主要起草人——宣布加入OpenAI,领导新成立的战略未来团队,7月6日到岗,向首席战略官Jason Kwon汇报。Ball在宣布加入的同月在The Cognitive Revolution播客中发出警告:特朗普政府正在将前沿模型的评估从民间标准机构迁移到国家安全机构内部,这可能导致一个"非常糟糕的未来——前沿模型的访问将被设卡"。他描述的图景里,美国国防部2027财年预算中已出现585亿美元的AI和联合作战指挥预算申请,其中460亿用于主权AI兵工厂和GenAI.mil平台的部署。当同一个机构既是前沿AI的最大买家,又是决定谁能访问的门卫,监管者和客户之间的边界正在模糊。

第二件:美国政府对前沿模型按下了一键关停键。 6月12日,美国商务部工业安全局(BIS)依据《出口管制改革法》向Anthropic发出Is Informed信函,要求禁止任何外国公民访问Claude Fable 5和Mythos 5——包括Anthropic自己的外籍员工。Anthropic在几小时内全球关停了这两款模型。这是美国历史上第一次以国家安全为由将一家商业AI公司的旗舰模型全面下线。正如Lambert在6月16日的博客中所写:"这是AI治理新时代的发令枪。"

第三件:史上最大的蒸馏攻击被曝光。 6月25日,Anthropic向美国立法者发送信函,指控阿里巴巴关联方通过约2.5万个欺诈账户,在4月22日至6月5日期间对Claude发起了超过2880万次交互,意图通过蒸馏手段提取能力以训练其Qwen模型。Anthropic称其为迄今已知最大规模的蒸馏攻击。

这三件事覆盖了不同的维度——制度设计、出口管制、知识产权保护。但把它们放在一起看,背后的逻辑才浮出水面:AI治理已从一个被讨论的理论问题,变成每天都在发生的现实冲突。而现有的制度工具箱几乎全空了。

三重困局为什么难以解开

困局一:当治理者本身成为问题

Dean Ball是当前AI治理领域最具穿透力的观察者之一。他的Substack博客Hyperdimensional和近期的公开评论反复触及一个核心命题:美国政府的国家能力是否足以管理前沿AI?

他在6月16日发表的《Leviathan Waking》中用了一个精妙的类比:想象一个没有FDA的世界,制药公司可以自由发布药物——但当一家公司宣称自己造出了一种能治愈某种癌症但稍高剂量就会致命的药物时,政府和公众都没有现成的框架来应对。这个类比直接对应Anthropic的处境。Anthropic长期以来一直主张对前沿AI加强监管,但当它真的做出风险评测需要严格管控的模型时,政府能给出的回应不是一套成熟的监管框架,而是一纸出口管制信函。Ball在文章中写道:"制造超级智能是一个深刻的政治行为"——而政治行为的执行者,当下的美国联邦政府,在他看来并未准备好。

Ball在播客中透露了一个更令人不安的细节:目前大约只有15个人在即兴地制定AI治理政策。这不是阴谋论,而是一个从事AI政策制定工作多年的人的第一手观察。当治理者的人手和经验都不足以匹配被治理对象的规模和复杂度时,将评估程序扔给情报机构就成了一个省力但方向可疑的选择。

这恰恰是Lambert第一句话的精确注脚。问题不在于政府是否应该监管,而在于政府有没有能力监管。Ball之所以"great",是因为他是极少数同时理解技术前沿和制度设计的人。他从白宫走到OpenAI的职业路径本身就是一个时代信号:擅长AI治理的人才正在从政府流向企业。

困局二:当"开放"变成地缘政治风险

Lambert的第二句话触及了一个更棘手的结构性矛盾。Fable 5和Mythos 5被关停给出了一个暂时的答案:不让开放。但这个答案带来了三个更深层的问题。

第一,出口管制对开源模型几乎无效。过去半年,中国的开源模型生态正以惊人速度追赶——DeepSeek V4持续迭代,GLM-5.2被行业称作又一个大模型时刻,阿里巴巴的Qwen系列在多个基准上逼近前沿。这些开放权重的模型可以被全球任何开发者下载、微调和部署。BIS的信函管不到GitHub上的开源仓库。

第二,前沿模型的定义正在加速松动。Lambert在博客中指出,当模型从回答问题进化到代理执行(agentic inference),能力边界与风险边界都在同步扩展。"风险被夸大的空间正在缩小,领先实验室描述风险的用词和实际风险之间的差距也在缩小。"特朗普6月2日的行政令要求NSA在60天内制定一个分类的基准测试流程来判定哪些模型达到门槛——但这个流程本身被列入机密,不可公开审查。

第三,主权AI的军备竞赛正在改写游戏规则。Lambert观察到,全球各地的主权国家——欧洲、中东、甚至中国——正在意识到它们可能被排除在前沿AI之外。开源模型成为它们的对冲方案。这不是假设性的未来推演,而是一个正在发生的市场行为。Anthropic被强制下架的同一天,从新德里到利雅得,越来越多的声音开始讨论是否需要自己的AI。

Ball在播客中对开源的态度或许代表了一种务实的中间立场:他自称是开源的精神支持者,但也承认"经济和国家安全现实非常严酷"。他认为Open Source在长期是好的,但中短期会经历一个明显的滞后期——而DeepSeek至今没有像外界预测的那样关闭其最强模型的权重。

困局三:当蒸馏噪音遮蔽了真正的政策讨论

Lambert的第三句话可能是最容易被误解的——"把蒸馏指控和噪音与前两个问题分离开"。

蒸馏是一种古老且普遍的AI训练技术:用强模型的输出来训练弱模型。在一家公司内部,它是标准工程实践;跨越公司边界且未经授权,就成了法律问题。Anthropic对阿里的指控在数据层面非常具体:2880万次交互、2.5万个欺诈账户、一个多月的不间断操作,目标直指Claude的软件工程和Agent推理能力。这组数字令人震惊,但Lambert的提醒是:不要因为蒸馏事件的严重性,就把三个不同层面的问题混为一谈。

为什么不能混?因为解决方案完全不同。

国家能力问题需要的是制度建设——谁来评估?以什么标准?权力如何制衡?独立验证机构如何运作?国会正在讨论的《伟大的美国AI法案》提议将CAISI的预算从1500万美元提升到每年1亿美元,并建立独立验证机构制度——但相对于460亿美元的主权AI兵工厂,这个数字是否足够支撑一个能有效监管前沿AI的机构,是一个巨大的问号。

开源模型管理问题需要的是政策创新——如何在鼓励创新和控制风险之间找到平衡?出口管制是唯一的工具吗?deemed export规则适用于AI模型时的边界在哪里?目前还没有任何一个主要经济体能给出令人满意的答案。

蒸馏指控问题需要的是法律和商业契约框架——API条款能否有效约束模型使用行为?2880万次交互的"证据"在法律上意味着什么?企业在什么程度上有权审查用户的API使用模式?

把三者搅在一起,最危险的结果是用蒸馏事故的严重性来论证更严格的出口管制,再用出口管制来论证更封闭的模型生态——形成一个自我强化的政策螺旋。Lambert在推文中实际上是在说:请先分清楚你讨论的是哪个问题,再谈解决方案。

这意味着什么

Nathan Lambert的三行文字不是抛出了三个问题,而是勾勒了一幅AI治理的结构性图景。在这个图景里,没有任何一个问题是孤立存在的——但解决任何一个问题,都必须先把它们分开来理解。

出口管制是一个锤子,而所有AI治理问题看起来都像钉子。蒸馏是一个法律概念,但它正在被用来论证与它无关的政策。国家能力是一个制度问题,却被简化为要不要监管的意识形态辩论。

接下来的六个月,有三条线索值得追踪。一是CAISI能不能从预算数字变成真正的监管者。《伟大的美国AI法案》传递了一个信号,但1亿美元的年预算和460亿美元的主权AI兵工厂之间隔着一条鸿沟。二是开源模型生态的政治走向。如果美国政府进一步收紧出口管制,全球开源社区可能加速转向中国或中东的模型生态——DeepSeek、智谱、阿里巴巴的开源模型已经在事实上成为许多开发者的主力工具。三是蒸馏争议的法律定性。Anthropic诉阿里案的最终走向可能不是通过新立法解决,而是通过API合同条款和商业谈判——但如果它成为新一轮出口管制立法的催化剂,那恰恰是Lambert希望我们警惕的那种认知短路。

管理前沿AI需要国家能力的进化,而非降级。需要开源政策的精细,而非粗暴。需要蒸馏争议的冷静定性,而非恐慌升级。

Ball在《Leviathan Waking》中写道:"制造超级智能是一个深刻的政治行为,即便在最健康的社会中也是如此,更不用说我们美国人当下所身处的这个极其政治化的世界了。一个像Mythos这样的模型不仅仅是政治行为——它还触及国家主权本身。没有哪家公司可以在动摇国家主权根基的同时,又超然于政治的赤裸现实之上。"这或许不是悲观的断言——而是一种来自治理第一线的清醒提醒:在这个AGI时代,我们需要更好的制度设计,而不仅仅是更强大的模型。没有后者,前者或许还有时间;没有前者,后者将无处安放。

作品声明:内容由AI生成