Emad一句话问破哈萨比斯的AGI蓝图

2026.07.15 20:17
Google DeepMind CEO Demis Hassabis 发布万字长文,提议建立类似FINRA的前沿AI标准机构。但Stability AI前创始人Emad Mostaque在转评区只问了一个问题——这对SSI(Safe Superintelligence Inc.)意味着什么?以及,当AGI的建造者可以选择根本不进入市场时,现有的所有治理工具是不是从一开始就找错了对象?

2026年7月14日,Google DeepMind CEO Demis Hassabis 在 X 上发表了一篇万字长文。标题宏大得像是科幻电影的开场白——《A Framework for Frontier AI and the Dawning of a New Age》。

但真正让这篇长文在硅谷圈子里炸开锅的,不是哈萨比斯的监管蓝图本身,而是 Stability AI 前创始人 Emad Mostaque 在转评区留下的一句追问。这句话像一把手术刀,精准地插进了哈萨比斯整套监管逻辑最脆弱的接缝处:

“I have quite a few thoughts on this but one of the main ones is how does it apply to @ssi etc?”

然后他补了第二刀:

“Once you have AGI most wouldn’t want to rent it out tbh, economics & logic point against doing so.”

翻译过来就是:SSI 根本不会“发布”AGI。而你哈萨比斯这套前置审批、30天审查、FINRA式监管的整套操作流程,前提是有人愿意把AGI交出来给你审。如果最关键的参与者根本不走这条路呢?

同一周,三种截然不同的AGI剧本

这个7月第二周,AI行业的三位关键人物几乎同时向世界展示了三种完全对立的AGI路线图。

哈萨比斯的路线图:AGI只有几年之遥,其影响力将是工业革命的10倍,速度达到10倍速。面对这种量级的技术变革,必须建立一个类似FINRA的独立标准机构,对所有前沿模型进行发布前评估。最初自愿参加,后续逐步过渡为强制。他将其描述为“US-initiated effort”——美国主导,但最终面向国际协调。

Ilya Sutskever 的路线图:SSI 只做一件事——安全超级智能。不发产品,不搞API,不挣一分钱。320亿美元估值,60亿美元融资,约20名员工,零篇发表论文,零个可用的商业产品。Sutskever 的原话是“straight shot”——一枪直达。

Emad Mostaque 的路线图:他在2024年离开Stability AI后创办了 Intelligent Internet,走的是一条完全不同的路——去中心化、主权AI、开源协议。他信奉“你不能用更中心化的AI打败中心化AI”。

三个人,三张路线图,三种对AGI终局的判断。而Emad的追问实际上把哈萨比斯蓝图中的最大盲区暴露在了阳光下:你的监管框架,是基于“所有AGI玩家都会按规矩来”的假设。但如果最重要的那个玩家不按规矩来呢?

哈萨比斯蓝图的底层逻辑:可发布与可审查

哈萨比斯的监管框架建立在两个隐含假设上。

假设一:AGI是可以被“发布”的。存在一个明确的发布节点,在这个节点之前模型在实验室内部,在这个节点之后模型对外部可用。FINRA审查的是证券发行行为,哈萨比斯希望审查的是前沿模型发布行为。

假设二:AGI开发者愿意接受前置审查。框架中写道:“Initially, Frontier Labs would voluntarily share models with the Standards Body for review up to 30 days before release.” 自愿两年,然后过渡为强制。

这两个假设对OpenAI、Anthropic、Google DeepMind这样的玩家适用——它们的产品化逻辑天然要求“发布”这个动作。但从ChatGPT到Sol,每次模型发布都伴随着巨大的社会震荡和政治审查,哈萨比斯很清楚这一点。他的这篇长文,某种程度上是为自己所在的阵营——那些最终要“卖AGI”的实验室——画了一张监管路线图。

SSI的底层逻辑:不发布就是最好的安全

Emad的追问之所以致命,是因为SSI的存在本身就是对哈萨比斯整套框架的一记重锤。

SSI从成立第一天起就说得很清楚:不发产品、不做API、不分红、不向投资者承诺退出。他们的使命声明是“我们的团队、投资者和商业模式都与SSI目标完全对齐,没有任何中间产品周期的干扰”。320亿美元估值不是建立在任何技术demo或营收预测上,而是建立在Ilya Sutskever的个人声誉和一个“尚未发表的研究方向”上。The Information 在2026年初预测SSI将因投资者压力而被收购,但截至目前,SSI依然在走那条“straight shot”路线。

Emad的追问翻译成大白话就是:哈萨比斯,你的FINRA标准机构打算怎么应对一个根本不打算“发行”AGI的实体?如果SSI在实验室里造出了超级智能,然后就像它说的那样——“one goal and one product: a safe superintelligence”——把AGI当成最终产品而不是中间服务,那你的30天审查窗口从什么时候开始算?

答案很残酷:这套监管框架的适用范围,只能覆盖那些愿意被监管的参与者。

Emad的第二刀:AGI出租经济学的悖论

Emad的第二句话比第一句还要狠。他说得很直白:“Once you have AGI most wouldn’t want to rent it out tbh, economics & logic point against doing so.”

这句话直接指向当今AI行业最核心的商业假设——API经济和模型即服务(MaaS)。

目前所有前沿AI实验室的商业逻辑都可以概括为:训练一个强大的基础模型,然后通过API按token收费。即使你不同意哈萨比斯的监管蓝图,至少你认同“模型最终是要对外提供服务的”这个前提。但Emad说,这个假设在AGI层面不一定成立。

原因很简单——如果AGI真的拥有所有人类认知能力的总和,出租AGI在经济上不划算。持有AGI的一方完全没有动机以API形式对外提供服务,因为每一个token的调用都是在消耗一项可能改变力量平衡的资产。更关键的是,一旦AGI的能力达到可以自我改进的临界点,出租等于变相扩散——你用一次,客户就从你的输出中学习、复制、逆向,最终可能培养出你的竞争对手。

这听起来像科幻小说,但它恰恰是哈萨比斯自己的文章中承认的技术时间线——AGI只有几年之遥。如果这是真的,那么行业从现在开始就要面对一个根本性的商业悖论:API经济的终局,可能就是API经济的自我否定。

三张路线图的交汇与冲突

把三张路线图放在一起看,冲突点其实只有一个:AGI造出来之后,到底给谁用?

哈萨比斯的答案是:全社会用,但要有门槛。由美国政府主导的独立标准机构来评估风险、设定阈值,通过审查的模型才能在市场上发布。这是一个“民主监护型”路线——AGI太强大,不能留在少数人手里,也不能无约束地扩散。

Sutskever 的答案是:不给任何人用。SSI的任务是造出安全的超级智能,它既没有说造出来之后会开源,也没有说会搞API商业化。它的商业模式是一张空头支票——“insulated from short-term commercial pressures”。这是一个“实验室封存型”路线——AGI太危险,连我们自己也不能随便用。

Emad 的答案是:给每个人用。Intelligent Internet 的核心理念是“给每个人一个主权AI”——通过去中心化协议和Proof-of-Benefit机制,让AGI成为公共基础设施而非商业产品。这是一个“公共资源型”路线——AGI太重要,必须由全人类共同拥有。

三种路线,三种对AGI未来的根本假设。而哈萨比斯的监管框架只解决了第一种路线下的治理问题。对于SSI的封存型路线和Emad的公共资源型路线,他的FINRA蓝图几乎完全没有触及。

哈萨比斯的盲区,恰恰是AI治理的真正难题

这篇长文的发布背景值得注意。就在三天前,约200人走上旧金山街头,在OpenAI、Anthropic和Google DeepMind办公室门口游行,要求暂停前沿AI开发。游行者的诉求和哈萨比斯的方案有一个共同的盲区:他们都假设AGI的未来掌握在“摆得上台面的那几家实验室”手中。

但SSI的存在证明了这个假设的脆弱性。一家没有产品、没有营收、没有论文,仅凭一个前首席科学家的承诺就获得320亿美元估值的公司,在传统监管框架里甚至找不到对应的分类标签。它不是AI产品公司,不是开源项目,不是学术机构——它是一张“一切皆有可能的空白支票”。

这或许才是Emad那句追问的真正分量。他不是在问哈萨比斯“SSI适不适用你的框架”,而是在问一个更深层的问题:当AGI的建造者可以选择根本不进入市场时,我们现有的所有治理工具——前置审批、标准审查、API监管——是不是从一开始就找错了对象?

哈萨比斯的框架充满诚意,在技术细节上一丝不苟。但它服务于一个特定的世界:AGI是发布的、可审查的、最终走向商业化的。如果现实世界的AGI走向了另一个方向——不发布的、封存的、根本不对外服务的——那这篇万字长文可能从一开始就选错了战场。

AGI还只有几年之遥。但在那之前,行业可能需要先回答一个更基础的问题:你想监管的那个东西,它会不会根本不愿意走进你的监管范围之内?

Emad问了出来。而到现在,还没有人能回答。

作品声明:内容由AI生成