去年,一位韩国AI公司CEO在接受采访时说了一句在讲究谦逊的韩国文化中显得格格不入的话:“我相信就算把韩国所有AI能力加起来,也超不过我们。我们的目标不是成为韩国第一,而是要超越OpenAI和谷歌。”
当时很多人只当这是一家初创公司创始人的狂妄之语。这家公司只有28个人,其中25个是开发者,刚融的B轮240亿韩元——按当时汇率算,大约1750万美元。这个数字在AI军备竞赛的时代,甚至不够支付顶级大模型一次训练的算力账单。
但2026年8月10日,这家公司用一份技术报告和一个在Hugging Face上开源的模型权重,让整个行业重新审视了那句话的分量。
Motif Technologies 发布了 Motif 3 的技术报告。3140亿总参数、每token仅激活132亿参数、每层384个路由专家、原生26万token上下文窗口——这些数字本身已经足够震撼。但真正让行业侧目的,是这套架构中那些完全自研的创新组件:Grouped Differential Latent Attention(GDLA)、Expert-Specific PolyNorm 激活函数、Modified Manifold-Constrained Hyper-Connections。这些都不是现成开源架构的魔改,而是一个28人团队从零搭建的“全栈自研”方案。
在 Artificial Analysis 的 Intelligence Index 上,Motif 3 Beta 拿到了44分,在577个被追踪的系统中排名第34位——而对比组的中位数只有15分。这意味着,一个韩国小团队用不到大厂一个零头的团队规模和资金,做出了足以跻身全球前6%的模型。
这背后发生了什么?
384个专家:超细粒度MoE的极限实验
Motif 3 最引人注目的数字,不是314B的总参数,而是384——这是每个MoE层中路由专家的数量。
作为对比,DeepSeek-V3/R1 每层有256个专家(总参数671B,激活37B);Kimi K2 也是384个专家,但总参数高达1T(激活32B);Llama 4 Maverick 只有128个专家。换句话说,Motif 3 在不到 Kimi K2 三分之一总参数量的情况下,塞进了同样数量的专家——每token只激活其中8个,外加1个共享专家,激活参数约13.2B。
这种“超细粒度+高稀疏度”的设计带来了一个关键优势:专家容量极大,但计算量被严格限制。每token只激活约4.2%的参数,剩下的95.8%的参数虽然需要加载到显存中,但并不参与实际计算。
这就像一个拥有384名专家的顶尖智库,但每次只派出8个人去解决问题。每个专家可以高度专业化,覆盖极窄的领域,而路由器的职责就是判断当前问题该派谁去。
但问题也随之而来——专家越多,路由越难。384个专家中选8个,组合爆炸的复杂度远超8个专家中选2个。Motif 团队在论文中披露了多项训练稳定化技术:FP32路由精度、选择性负载均衡、衰减的路由噪声、FFN幅度正则化,以及一个名为“专家健康监控”的机制——实时追踪每个专家被调用的频率和贡献度,防止部分专家“躺平”。
GDLA:当分组差分注意力遇上MLA
如果说超细粒度MoE是Motif 3的骨架,那么Grouped Differential Latent Attention(GDLA)就是它的灵魂。
GDLA 将两种此前被证明有效的注意力机制结合在了一起:分组差分注意力(Grouped Differential Attention)和多头潜注意力(Multi-head Latent Attention, MLA)。
MLA 是 DeepSeek 率先大规模验证的方案。它通过将Key和Value压缩到一个低维“潜空间”中,大幅减少KV缓存的大小——DeepSeek-V2 用 MLA 将 KV 缓存降低了93.3%,且不牺牲建模质量。MLA 已经是当前最受关注的注意力创新之一,DeepSeek-V3/R1、Kimi K2 等顶级模型都采用了类似思路。
差分注意力则是另一种思路:不是压缩KV,而是通过两个独立的注意力头做差,来消除注意力噪声、增强模型对关键信息的聚焦能力。
GDLA 的聪明之处在于,它没有在两者之间“二选一”,而是将两者融合到了同一个框架中。Latent Query 和 Latent Key-Value 表示被压缩到潜空间,然后在潜空间内执行分组差分操作。每个组的两个注意力头相减,得到差分注意力输出,再通过输出门控进行融合。
这不仅仅是学术上的“拼积木”。GDLA 同时解决了两个问题:长上下文的KV缓存膨胀(用MLA解决),以及注意力分布中的噪声干扰(用差分注意力解决)。在262K上下文窗口下,KV缓存的管理本身就是一项系统工程挑战,GDLA 提供了一个优雅的架构级解决方案。
28个人的“全栈自研”赌注
Motif 最有争议也最有趣的一点,是它对“全栈自研”的坚持。
CEO Lim Junghwan 在多次采访中强调,Motif 的架构不是对现有开源模型的“重新参数化”,而是从零开始的独立设计。韩国科学技术信息通信部在评估 Motif 入选主权AI项目时,给出的评价是:“该公司能够独立设计和实现核心技术模块,不仅开发了文本基础模型,还在图像和视频领域拥有自研基础模型。”
韩国政府的选择本身就是一个信号。2026年2月,Motif 被追加选入韩国“主权AI基础模型项目”,与 LG AI Research、Upstage、SK Telecom 同台竞争。对于一个只有28人的初创公司来说,这意味着获得了国家层面的背书。
但“全栈自研”在AI领域是一把双刃剑。好处是,团队可以完全掌控技术栈的每一个层次,从注意力机制到激活函数、从优化器到训练稳定性,没有“黑盒”依赖。坏处是,每一行代码、每一个设计决策都需要自己验证,容错空间极低。
Motif 3 的技术报告展示了这种“自研”的广度。训练系统层面,使用了选择性MXFP8精度计算和通信、内存高效融合算子、窗口感知的上下文并行训练。优化器选择的是 Muon Optimizer,而非行业主流的 AdamW。激活函数使用了自研的 Expert-Specific PolyNorm,每个专家拥有独立的归一化参数。残差连接使用了 Modified Manifold-Constrained Hyper-Connections。后训练阶段,用6个专长教师模型(通过强化学习训练)加1个软件工程教师模型(通过SFT训练),通过多教师在线蒸馏(Multi-teacher On-Policy Distillation)将能力整合到统一模型中。
这种“全栈自研”的密度,在同等规模的团队中极为罕见。
韩国主权AI的棋局
Motif 3 的发布,不能脱离韩国政府正在推进的“主权AI”战略来理解。
2026年,韩国科学技术信息通信部启动了“国家代表性AI基础模型项目”,目标是培养能够自研基础模型的国内团队,减少对海外AI模型的依赖。第一轮筛选后,Naver Cloud 和 NC AI 被淘汰,项目重新开放申请,Motif 被选中加入。
这个项目的时间表极具紧迫感:2026年8月进行第二轮评估,4支队伍竞争3个名额;到年底,最终选出2个支持对象。Motif 3 技术报告的发布时机,恰好卡在第二轮评估之前——这显然不是巧合。
从地缘政治角度看,韩国的主权AI焦虑并非空穴来风。中美在AI领域的领先优势正在扩大,而韩国虽然拥有全球最强的半导体制造能力(三星、SK海力士),但在大模型领域却缺乏有全球影响力的产品。Motif 3 的出现,至少证明了韩国在模型架构层面有独立创新的能力。
但主权AI项目能提供的资源终究有限。Motif 的B轮融资只有1750万美元,而同期中国AI公司的融资规模动辄数亿美元。在算力成本高企的当下,资金约束可能是 Motif 从“技术亮点”走向“商业可持续”的最大障碍。
开源许可证的暧昧
Motif 3 Beta 的模型权重可以在 Hugging Face 上下载,但许可证明确限制:仅限个人、教育和非商业研究用途,商业使用需要 Motif 的书面授权。
这本质上是一个“开源展示、闭源赚钱”的策略。模型权重是公开的,你可以下载、测试、研究它,但一旦想把它集成到产品中,就需要走商务流程。这种策略在AI行业并不罕见——但 Motif 的体量决定了它的议价能力有限。与大厂谈判商用授权时,28个人的团队很难拿出大厂级别的服务支持。
不过,有一个数据值得注意:Artificial Analysis 在评测 Motif 3 时发现,它生成了2亿个输出token,而对比组的中位数是6300万。这意味着 Motif 3 倾向于用更长的输出“说”出答案,而非简明扼要。这既可能是模型特性,也可能是后训练阶段需要优化的方向。
这意味什么
Motif 3 的发布,在三个层面上传递了信号。
第一,架构创新的源头正在分散。过去两年,大模型架构创新的主要输出方集中在中美两国的顶级实验室。Motif 3 证明,一个28人的韩国团队也能在注意力机制、MoE路由、激活函数等核心层面做出原创贡献。AI基础设施的“民主化”正在从应用层渗透到架构层。
第二,超细粒度 MoE 正在成为主流方向。从 DeepSeek 的256专家到 Kimi K2 和 Motif 3 的384专家,行业在用实际行动验证一个趋势:让专家更小、更多、更稀疏,即使总参数规模膨胀,推理成本仍可控。这对未来的推理基础设施部署有深远影响——GPU显存将主要被“装下所有专家”的需求驱动,而非“计算所有参数”。
第三,主权AI正在催生新的竞争维度。韩国政府通过主权AI项目,正在用国家力量孵化本土基础模型能力。即使 Motif 最终未能成为市场上的赢家,它已经为韩国AI产业积累了宝贵的“自研架构”know-how。而这套“国家孵化+小团队攻坚”的模式,值得其他正在追赶AI的国家参考。
回到开头那个问题:28个人能挑战OpenAI吗?
答案可能是否定的——至少在商业化层面。但 Motif 3 的意义不在于回答“能不能赢”,而在于它证明了:在AI大模型这个被普遍认为“只有巨头才能玩”的赛道上,架构创新的大门仍然对所有人敞开。
因为当一家只有28人的公司敢在核心架构上走一条没人走过的路时,它已经赢了——不是赢在市场份额,而是赢在证明了一件事:大模型的未来,不只有硅谷和中国这两个答案。






快报