打造护栏的人，往往不是最害怕洪水的人，而是住在堤坝旁边、最清楚水位有多高的人。
Demis Hassabis，Google DeepMind CEO、2024年诺贝尔化学奖得主，刚刚做了一件在AI行业里极其罕见的事。他公开发布了一份名为《A Framework for Frontier AI and the Dawning of a New Age》的治理框架提案，呼吁美国建立一个类似于FINRA（金融业监管局）的机构，对前沿AI模型进行安全评估。必要时，可以按下暂停键。
“Nobody in the world knows for sure what is going to happen from here, and even the experts disagree. When there is a large degree of uncertainty and the stakes are this high, proceeding with cautious optimism is the sensible and correct strategy.”
这话出自全球最有资格判断AGI何时到来的人之口。就在同一天，Hassabis 再次重复了他从4月就开始强调的预判：AGI 的到来将相当于“十次工业革命以十倍速度压缩进一个十年”。换句话说，人类将在不到十年的窗口期内，经历一个世纪级别的文明转型。
但真正值得追问的不是“AGI什么时候来”，而是为什么距离AGI最近的这个人，偏偏是第一个站出来要求“先建护栏”的人。
一个FINRA模式的AI监管机构：Hassabis 提案到底说了什么
Hassabis 的提案于7月14日通过其个人 Substack 和社交媒体同步发布。核心建议只有一条：美国应当建立一个以 FINRA 为蓝本的前沿AI评估机构。
这套设计的要点很清晰。前沿实验室最初自愿将模型在发布前最多30天提交给该机构进行安全测试，测试范围包括危险的网络攻击能力、生物武器设计能力和“欺骗性”行为。一旦测试机制被证明有效且稳健，则迅速转为强制，前沿模型必须通过测试才能部署。该机构由行业资金支持，但向美国政府负责，由世界级技术专家组成团队。
Hassabis 在接受 Axios 独家采访时透露，他已就此方案与特朗普政府、其他主要实验室负责人以及欧洲官员进行了数月的私下沟通，反馈“非常积极”。他特别强调，创业公司和学术研究中的非前沿模型将被豁免，这直接绕开了“监管捕获”的常见指控，即大公司利用监管壁垒压制小竞争者。
如果风险持续升高，该机构还可以协调行业范围内的开发减速，类似 Anthropic 在6月提出的“AI暂停按钮”概念。Hassabis 的时间表相当激进：他希望这个新机构能在“今年年底前”投入运作。
他还警告了一个更紧迫的时间窗口：18个月内，当前只能在封闭前沿模型中展现的危险能力（网络攻击、生物威胁、甚至核相关的风险）就可能出现在开源模型中，脱离任何政府的控制范围。
为什么是现在：AGI恐惧已经从学术议题变成了政治事件
Hassabis 选择在这个时间点发布提案，绝非偶然。
三天前，7月13日，超过200名经济学家和AI研究人员联名发表了《We Must Act Now》声明，警告AI可能引发“比工业革命更大、但时间窗口更短”的经济转型。签署者包括四位诺贝尔经济学奖得主（Daron Acemoglu、Joseph Stiglitz、Paul Krugman 和 Ben Bernanke），以及 Google 的 Jeff Dean、Anthropic 联合创始人 Jack Clark、OpenAI 的 Noam Brown 等业界核心人物。声明措辞虽然审慎，通篇使用“可能”“或许”“能够”的条件语态，但核心信息清晰：AI的能力正在以远超我们理解经济影响的速度前进。
再往前三个月，2026年4月，Anthropic 宣布其网络安全模型 Claude Mythos Preview 过于强大，不能公开发布，转而定向提供给40多家科技巨头组成的联盟。Mythos 被描述为“能在经受过数十年人工审查和数百万次自动化测试的软件漏洞中找到新突破口”，《纽约时报》将其称为“AI的网络安全清算时刻”。这场“Mythos 恐慌”直接改变了华盛顿的AI监管话语体系，从“要不要管”变成了“怎么管”。Axios 在报道中指出，在 Mythos 事件之前，特朗普政府对AI监管一直采取放任自由的态度，但 Mythos 的冲击力让风向发生了实质性的转变。
值得注意的是，Hassabis 本人并没有签署那份《We Must Act Now》声明，尽管他对AI经济影响的判断与声明内容高度一致。他的选择是绕过联名信，直接拿出一个更具体、更具操作性的方案。当所有人都在喊“问题很严重”时，Hassabis 已经递交了“我的解决方案”。
“谨慎乐观”的真正含义：Hassabis 的独特位置与矛盾
在整场AI治理辩论中，Hassabis 占据了一个非常罕见的位置：他可能是对AGI时间线最乐观的实验室负责人，同时也是对AGI风险最坦诚的预警者之一。
2026年4月，他在20VC播客中给出了一组精确的数字：AGI 在5年内到来的概率“非常高”，其影响相当于“10倍工业革命，10倍速度”。“一个世纪的变化压缩进一个十年。”他还描述了当前AI系统的状态，他称之为“锯齿形智能”：在某些问题上表现惊人，换个问法就栽在基础问题上。
同月，在印度AI影响力峰会上，他将AGI的潜在影响力与“火的发现”和“电的发明”相提并论。5月，他在 Google I/O 上宣布 AGI “仅差几年”。
但 Hassabis 也是少数在公开场合与同行激烈争论AGI定义的AI领袖。2025年12月，Meta 首席AI科学家 Yann LeCun 在播客中称“通用智能”概念是“纯属胡说八道”（complete BS），Hassabis 在 X 上公开回击，说 LeCun “就是错了”。LeCun 认为当前的AI系统根本不具备“通用性”，人类智能的定义本身就模糊不清。Hassabis 则坚持大脑和AI基础模型都可以被理解为“近似图灵机”，通用性是一种可测量的能力。
两人身后的阵营也由此分裂。DeepMind 联合创始人 Shane Legg 认为“最小AGI”可能在2028年出现。Gemini 联合负责人 Oriol Vinyals 提供了中间立场：今天的模型在某些领域很强，但真正自主创新的能力仍然缺失。强化学习先驱 Richard Sutton 则刚刚创立了 Oak Labs，专门攻克“自主学习的AI Agent”难题。
这种“实验室内部也分裂”的状态，恰恰印证了 Hassabis 那句“nobody in the world knows for sure”。
而更值得玩味的是，Hassabis 的提案与其他AI CEO的近期表态形成了微妙对比。就在《We Must Act Now》声明发布的同个周末，OpenAI CEO Sam Altman 表示他“相当确定”AI到目前为止是净就业创造者。Anthropic CEO Dario Amodei 也刚刚将自动化描述为“生产力倍增器”而非“工作杀手”。两位CEO都在有意调低自己对AI就业冲击的早期警告。
Hassabis 没有参与这种调低。他也没有签署那份联名信。他没有选择“要么极度乐观、要么极度悲观”的二元叙事。他拿出的是一个具体的官僚机构设计图，一个由行业出钱、政府监督、技术专家执行的评估体系。“谨慎乐观”这四个字，被他翻译成了一套可执行的制度设计。
为什么是FINRA，为什么是美国主导
Hassabis 选择 FINRA 作为模板，是一个经过深思熟虑的信号。
FINRA 是华尔街的行业自律组织，由美国国会授权、受 SEC 监督，资金来自会员机构（券商和交易所）。它有权制定规则、执行检查、处以罚款，甚至暂停或开除会员资格。它诞生于2007年，由两个更早的机构合并而来，本质上是一个“行业买单、政府监督、专业执行”的混合体。
这个模板对AI的吸引力在于：它绕开了传统政府监管机构的三大瓶颈，即资金靠国会拨款、人员靠公务员体系、速度靠立法周期。前沿AI 的迭代速度是以月甚至周为单位的。一个需要国会花三年立法、再花两年搭建的监管机构，在它投入运作之前，AGI 可能已经来了。而 FINRA 模式（行业资金确保充足预算，技术专家确保评估能力，自愿起步确保不被抵制）恰好匹配了“需要快速运作、但难以一步到位”的监管困境。
Hassabis 选择以美国为起点，而非联合国或G7等国际平台，也有现实考量。美国是当前前沿AI实验室最集中的国家，OpenAI、Google DeepMind、Anthropic、Meta、xAI 全部位于美国。如果美国都无法建立一个有效的评估体系，国际协定的谈判难度只会更大。
但这种“美国优先”策略也带来风险。欧盟的 AI Act 已于2024年正式通过，建立了一套基于风险分层的监管框架。如果美国建立自己的体系，两大体系之间如何协调？中国在AI治理上走的是另一条路：算法备案和内容审核。一个“美国主导、逐步全球化”的AI监管体系，能否真正获得国际共识？Hassabis 的设想是美国先做，然后国际社会“跟进并找到最关键点的共识”。但在这个跟进的过程中，谁来保证全球AI治理不会碎片化为相互竞争的监管壁垒？
AGI制造者的悖论：最了解危险的人，最想建护栏
Hassabis 的提案最终指向一个深层问题：当AGI的制造者自己站出来要求规则时，我们是该松一口气，还是该更警惕？
一方面，这确实是AGI治理历史上一个标志性时刻。2024年诺贝尔化学奖得主、全球最受尊敬的AI科学家之一，不是被监管者，而是主动要求被监管。这不是“不要作恶”的口号，而是“让我们设计一个可执行的制度”的设计图。
但另一方面，Hassabis 的提案在本质上也是一场权力游戏。谁制定评估标准，谁就掌握了定义“安全”的话语权。谁掌握测试方法，谁就拥有了在关键时刻按暂停键的权限。一个由行业出钱、技术专家主导的机构，能否真正独立于它所监管的行业？FINRA 在华尔街的历史表明，行业自律可以运作，但远非完美。
Hassabis 自己也承认，这套体系的关键在于“有效性”。如果自愿测试阶段无法证明其价值，强制阶段就不会到来。而如果强制阶段到来时，AGI 已经部署在数亿用户的设备上，一切可能为时已晚。
正如他在接受 Axios 采访时所说：“What we collectively do now will determine how the next phase of civilization unfolds.”
这句话可以有两种读法。一种是真诚的预警。另一种是，定义“文明下一个阶段”的权力，正在被少数人攥在手里。
AGI 制造者主动要求上枷锁。这或许是目前为止关于AGI最令人安心的消息，也是最令人不安的消息。
快报