骑手背后的美团,悄悄跑通了万亿大模型

AGI
骑手背后那家公司" 虽然制造了悬念,但也增加了一层理解成本。

文 | 摩尔观察

美团悄悄跑通了万亿参数大模型。一个送外卖的公司,凭什么做最前沿的 AI?

上周,一件有点违和的事发生了。

美团,那个天天给你送炸鸡、帮你约按摩的外卖平台,悄悄发布了一个叫LongCat-2.0 的大模型。

参数量1.6 万亿。

不是1.6 亿,是 1.6T,“T” 是trillion,万亿级别。全球能跑这个量级的模型,两只手数得过来。

更奇的是,这个模型不是在英伟达的GPU 上练出来的,而是在五万张国产算力卡上完成的全流程训练和推理,目前全球范围内第一个这样做的万亿参数模型。

说实话,第一次看到这条新闻,我的反应是:美团做这个干嘛?骑手送餐路上要用到万亿参数大模型?

但这事儿没这么简单。

外卖这件事,比你想的复杂一百倍

先说说外卖配送这个“简单” 的场景。

午高峰,北京某个三公里范围内,几百个骑手,几千张订单,每分钟都在变动。某家餐厅出餐慢了,某条路刚出了交通事故,某个小区电梯坏了,某个用户刚改了收货地址。

这些变量同时发生,系统需要在毫秒级别重新规划每一个骑手的路线,预估每一张订单的送达时间,还要把新进来的订单合理分配出去。

用行业的话说,这叫“实时动态调度”,是公认的超级复杂的计算问题。

美团每天处理的订单量是以千万级计算的。这个系统跑了十几年,积累了天量的真实世界数据:路况、天气、用户等待容忍度、商家出餐模式、骑手行为习惯……

这些数据有个共同特点:脏、杂、真实。

教科书上找不到这些,论文数据集里也没有,只有在真实的配送场景里日复一日运转,才能攒出来。

而大模型,说白了是靠喂数据长起来的。谁的数据更贴近真实世界,谁的模型就更懂真实世界。

美团做大模型,不是追风口,是因为手里攥着别人没有的东西。

调度数据喂出来的万亿模型

LongCat-2.0 发布时有一个细节,很多人没注意到。

这个模型的架构设计目标,是让它在“Agentic Coding” 任务中更高效,也就是让AI 能像一个真正的程序员那样,自己理解问题、写代码、执行、调试、反馈。

为什么美团要这么设计?因为外卖调度、路线规划这些核心系统,背后是极其复杂的工程代码。当业务要快速迭代、快速验证新的配送策略时,能自己写代码的AI 就是最直接的生产力工具。

1M 的超长上下文也是同样的逻辑。外卖系统的代码库可以有几百万行,一个用户的历史行为记录可以拉很长,供应链的历史数据可以回溯好几年。模型要真正理解这些,就必须能 “一口气看完” 很长的内容,而不是每隔几千字就“失忆” 一次。

这就是为什么说,互联网公司的AI 是 “从场景里长出来的”。模型的每一个设计决策背后,都有一个具体的业务痛点在推着它往前走。

不只是美团,字节的阿里的腾讯的,每一家做AI 的路数都一样,把自己的场景数据喂进去,长出适配自己业务的模型。字节有抖音的推荐场景和火山引擎,阿里有淘宝的电商数据和通义千问,腾讯手里那把牌也不小,微信的社交图谱和广告体系,十亿用户的日常行为都在里面。每家做 AI 的路径,都是从自己最深的护城河里挖出来的。

这里要多说一句,也是我觉得很多人没想透的地方:外卖调度真的需要万亿参数吗?垂直小模型性价比难道不更高?

这个问题问得好,但答案没那么直观。

小模型应对头部高频场景其实够用。晴天工作日的北京三环,订单量稳定、路况可预测,一个参数量适中的模型完全能胜任。

但外卖调度的麻烦,恰恰在于长尾场景多得离谱。暴雨叠加节假日叠加地铁故障叠加某网红店突然登上热搜,这种组合你在训练集里见过几次?商家临时停业、骑手扎堆出事故、某小区因施工封路,这些单独拎出来都是低频事件,但各种变量两两组合、三三组合,可能性接近无穷。

小模型碰上这些组合基本就歇菜了,要么给你一个离谱的调度方案,要么直接不吱声。

万亿参数的意义,就在于用足够大的参数空间“记住” 那些极端情况。不是说每个参数都在干活,而是当异常场景出现时,模型有足够的容量去识别、去兜底,而不是直接摆烂。

这个代价不小,但美团显然觉得值。

为什么一定要自己练,不能直接调用别人的

可能有人要问了:有ChatGPT,有 Claude,有国内的各种模型 API,直接调用不就行了吗?为什么非得自己花大价钱,搭五万卡的集群,练自己的模型?

原因不止一个。

最直接的原因是数据不能出门。外卖系统的调度数据、用户的消费行为、商家的运营数据,这些是美团最核心的商业资产,也涉及大量用户隐私。把这些数据喂给别人的模型,是任何一家正经公司都不会做的事。要让模型真正学会这些数据,只能自己练。

然后是延迟问题。外卖调度是毫秒级的决策,广告竞价是实时的,推荐系统每次刷新都要重算。调用外部模型,一次请求几百毫秒,在这些场景里根本跑不起来。

还有可控性。自己的模型,可以针对自己的场景精细调整;外部模型更新了,你的业务可能就出问题了。对于核心系统来说,这种不确定性是不可接受的。

但真正让我觉得这钱不得不花的,是下面这个:模型能力会反过来定义业务边界。

美团的EvoCUA(一个能自己写代码的 AI 智能体)已经在用了,搜推 ASX 团队基于大模型做了智能体技术体系,履约 AI 团队也在用同样的底子搭建自进化运营系统。这些都是因为自己有了足够强的模型能力,才有可能往这个方向走。

有了LongCat 这样的基础模型,美团可以做的事情就不只是优化一下送达时间预估,而是让整个运营系统有能力自己发现问题、自己调整。

这个差距,是买不来的。

五万张国产算力卡,藏着另一条线索

在说这个之前,我想先把一件事说清楚,因为我觉得不少科技报道在这里有点报喜不报忧。

五万张卡的集群,不是一个轻松的决定。电力成本、散热成本、运维成本,这些加在一起是天文数字。更贵的是人:能驾驭这种规模训练的工程师,全球范围内本来就是稀缺资源,招来就已经不容易了,留住?那是另一个故事了。

这条路押注重、周期长,中间任何一个环节出问题,都可能导致几个月的训练白费。我觉得走下去需要的不只是技术判断,更是一种少见的组织意志力。说这些不是泼冷水,只是我觉得,把这些代价说清楚,才能理解后面这件事有多值得关注。

说回LongCat-2.0 那个被很多人略过的细节:五万卡国产算力。

这件事在技术圈引发的震动,比模型本身还大。

万亿参数级别的模型,对算力的要求极其苛刻。一张卡算错了,整个训练可能就崩了。五万卡协同工作,出错概率会指数级上升,还涉及通信带宽、调度稳定性等一堆工程难题。

在此之前,业界普遍认为,国产算力还没准备好接这种量级的任务,大家心里默认这种级别的训练只能用英伟达的A100、H100。

LongCat-2.0 改变了这个预设。

华为昇腾、摩尔线程、沐曦,在模型发布当天同步完成了推理适配。这背后是软件生态在往前追。

这不是美团一个公司的事。当国内头部互联网公司开始在国产算力上跑自己的旗舰模型,整条链路就活了:算力厂商终于有了个拿得出手的标杆客户,工具链也第一次在这种量级下被真刀真枪地压测了一遍,工程师们则有了可以抄作业的对象。

美团选择在这个节点把训练代码和推理引擎一起开源,能帮到的不只是想复现模型的研究团队,更是那些想搞清楚“国产算力到底能干什么” 的工程师。顺带一提,开源这个动作本身也不是没有算盘的,技术标准的话语权和人才生态的吸引力,很多时候就是靠这种方式建立起来的。

写在最后

写这篇稿子的时候,我反复在想一个问题:国内这些大厂集体冲AI,到底是真的有想法,还是生怕被同行说 “落伍了”?

看完美团这个案例,我改变了一开始的怀疑。

美团做大模型,时间线往前推可以找到很多迹象。外卖调度优化、供应链预测、买菜的库存管理,这些业务老早就在用算法驱动了。大模型对他们来说,与其说是新赛道,更像是原来那条路走到了一个新的路口,顺理成章拐进去了。

类似的逻辑,在字节、阿里、腾讯那里都成立。他们不是在追一个别人定义的目标,而是各自都在往自己最深的业务腹地里凿。

当然,说实话,这不代表他们一定会成功,也不代表每一笔投入都会有明确回报。AI 落地的难度,懂行的人都知道有多难。五万张卡烧出来的模型,最终能不能转化成真实的业务价值,现在下结论还早。

但如果要问“这帮人做AI 是认真的吗”,我觉得看看他们手里握着什么场景数据,看看他们往模型设计里塞了什么业务逻辑,基本上就能判断了。

送外卖的公司训出万亿大模型,不是最奇怪的事。最奇怪的事,是你觉得这件事奇怪。

本文系作者 摩尔观察 授权钛媒体发表,并经钛媒体编辑,转载请注明出处、作者和本文链接
本内容来源于钛媒体钛度号,文章内容仅供参考、交流、学习,不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

赞赏支持
发表评论
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

登录后输入评论内容

扫描下载App