标价1美元只付0.17,Inkling的定价魔术

2026.07.18 07:21
Thinking Machines Lab的Inkling模型在OpenRouter上标价1美元/百万输入Token,但缓存命中后的有效价格仅为0.17美元,差距高达83%。本文揭示提示缓存如何重塑AI API定价体系,分析Inkling的架构优势如何让它成为缓存经济的天然受益者,并探讨定价权从提供商向用户转移的深层趋势。

你打开OpenRouter的Inkling页面,定价栏写着:每百万输入Token,1美元。不太贵,但也不便宜。但如果你往下翻,会看到一行容易被忽略的小字,叫“Effective Pricing”,后面跟着一个数字:0.17美元。不是1美元,是0.17美元。差了83%。

这不是Bug,也不是促销。这是提示缓存正在重塑整个AI推理定价体系的真实写照。而Inkling,这个由Mira Murati创立的Thinking Machines Lab刚刚发布的开源MoE模型,恰好成了观察这一趋势的最佳窗口。

标价1美元,实付0.17美元

7月17日,Thinking Machines Lab的旗舰模型Inkling正式上线OpenRouter。这是Murati团队自去年从OpenAI离职创立Thinking Machines以来的第一款产品,搭载9750亿总参数、410亿活跃参数,原生多模态,100万Token上下文窗口,采用Apache 2.0开源协议发布。在SWE-bench Verified上,它拿到了77.6%,击败了美国对手Nvidia Nemotron 3的71.9%。

但如果只看这些数字,会错过OpenRouter页面上真正值得关注的那组数据。

OpenRouter为Inkling列出了详细的定价信息:输入Token标价1美元/百万Token,输出4.05美元/百万Token。但页面同时提供了一个“Effective Pricing”图表,追踪过去30天内用户实际支付的平均价格。在提示缓存生效后,用户的缓存命中输入价格仅为0.17美元/百万Token,是标价的17%。页面说明写道:“根据你发送的重复上下文数量,实际价格可以比提供商标价便宜60%到80%。”

0.17美元这个数字,将Inkling从“中档定价模型”直接拉入了“成本极低”的阵营。作为对比,OpenRouter上今年6月上线促销的MiniMax M3,每百万输入Token是0.30美元。而Inkling在缓存命中后比它还便宜43%。

这不是Inkling独有的现象。过去一年,各大模型提供商相继推出了各自的提示缓存计费方案。Anthropic的缓存读取价格只有正常输入价格的10%,即打90%折扣;Google的Gemini系列同样提供高达90%的缓存读取折扣;OpenAI的最新旗舰模型也把缓存读取折扣提升到了90%。但很少有平台像OpenRouter这样,把“有效价格”直接挂在模型详情页上,让用户一眼看到标价和实付之间的巨大落差。

缓存经济学:为什么标价成了一种定价幻觉

要理解0.17美元和1美元之间的差距,得从缓存的工作原理说起。

Transformer模型的推理过程,本质上是逐Token计算Key-Value Cache的过程。当用户连续发送请求时,如果请求的前缀(系统提示词、工具定义、参考文档)与之前的请求相同,这部分KV Cache可以直接复用,无需重新计算。这就是提示缓存的核心机制。

在实际生产中,这种复用场景极其普遍。一个客服机器人每次请求都会带上相同的产品手册,一份代码审查工具每次都会加载相同的编码规范,一个RAG系统每次都会传递相同的检索指令。这些重复内容构成了每次请求的“静态骨架”。模型提供商对这些重复内容只对首次计算收费,后续命中的请求大幅打折。

Anthropic的缓存策略是写入缓存收取25%溢价,缓存命中则按正常价格的10%计费。Google的Gemini在缓存命中时同样打90%折扣。OpenAI的最新模型已跟进到90%的缓存折扣,但早期模型仍维持在50%左右。Inkling在OpenRouter上的缓存命中价格0.17美元,对应约83%的折扣,处于行业较高水平。

标价和实付之间的差距,正在制造一种“定价幻觉”。一个开发者如果只看了Inkling的标价1美元,可能会觉得“还行,但不如某模型便宜”。但实际部署后看到账单上的0.17美元,他会发现自己的成本模型从一开始就错了。

这种幻觉并非无意为之。每一家模型提供商都在标价上保持“体面”。标价决定了模型在行业中的定位,是高端、中端还是入门。但缓存折扣才是真正的“暗盘”,决定了实际部署的ROI。在这个意义上,模型的实际竞争力不再由标价决定,而是由“标价乘以(1减去缓存命中率)”决定。

Inkling的架构优势:为什么它在缓存经济中占优

Inkling的架构选择,让它成为了缓存经济的天然受益者。

据Hugging Face官方博客及Sebastian Raschka的分析,Inkling的66层解码器中有55层使用局部注意力,窗口大小仅为512 Token,每5层局部注意力搭配1层全局注意力。这种5:1的滑动窗口设计在保持长上下文能力的同时,大幅降低了计算成本。更重要的是,在提示缓存的场景下,局部注意力层的KV Cache复用效率更高。窗口越小,缓存命中后需要重新计算的Token越少。

与GLM-5.2的7440亿参数(400亿活跃)或Kimi K2.5的1万亿参数(320亿活跃)相比,Inkling的410亿活跃参数看起来处于同一水平线。但它的参数激活率仅为4.2%,意味着推理时绝大多数参数处于“休眠”状态。当缓存命中时,这套架构的边际成本几乎降到了最低。

Thinking Machines在Modal上提供了Day 0支持,并专门为Inkling定制了DFlash投机解码器来加速推理。再加上Inkling-Small这个2760亿参数(120亿活跃)的轻量版,面向延迟敏感和成本敏感场景,Thinking Machines的“重模型加轻模型”组合策略正在形成。

OpenRouter的透明化策略:为什么它要展示有效价格

OpenRouter选择在模型详情页上展示“有效价格”,背后有其商业逻辑。

作为一家AI API聚合平台,OpenRouter本身不拥有任何模型,它的价值在于“一个接口调用所有模型”的便利性和自动路由、自动故障转移等基础设施能力。它的商业模式是收取5.5%的平台费(信用卡充值)。这意味着,OpenRouter的竞争壁垒不在于模型本身,而在于它能否让用户更清楚地了解“使用成本”。

展示有效价格,本质上是在告诉用户:别只看标价,看实际成本。这对平台方有两层好处。一是降低用户的决策门槛,用户不再需要自己去计算缓存折扣后的真实成本。二是倒逼模型提供商提供更有竞争力的缓存折扣。如果某个模型在OpenRouter上的有效价格远高于同类竞品,开发者会很快发现并转向。

但这也带来了一个有趣的问题。如果所有模型的有效价格都越来越透明,模型提供商将失去通过标价来“锚定”市场定位的能力。高端模型的意义,将不再由“标价高”来定义,而是由“即使缓存后仍然贵”来定义。比如Claude Opus 4.8在缓存命中后仍然比Inkling贵一个数量级,这才是真正的“高端”。

对开发者和企业的实际影响

Inkling在OpenRouter上的定价结构,对AI应用的经济模型有直接影响。

以一个典型的RAG聊天机器人为例。每次请求包含2000 Token的系统提示词与检索指令(静态部分),以及500 Token的用户查询与检索结果(动态部分)。在无缓存的情况下,每次请求的成本为2500 Token乘以每百万Token 1美元,即0.0025美元。在缓存命中的情况下,假设静态部分全部命中,成本降为2000 Token乘以0.17美元加上500 Token乘以1美元,即0.00084美元。成本降低了66%。

这意味着,在Inkling上运行一个每天10万次请求的RAG应用,月成本从约7500美元降至约2520美元,一年节省近6万美元。对于正在构建AI产品的创业公司来说,这不是小数目。

更深远的影响在于:当缓存命中后的有效价格低至0.17美元/百万Token时,一些原本因推理成本过高而被认为不可行的商业模式,开始变得可行。比如高频次的Agentic工作流,Agent每步决策都需要调用一次模型;大规模的多模态内容分析,每张图片加文本的联合推理;以及长时间运行的对话式AI,每次对话数十轮,历史记录不断累积。

定价权的转移

Inkling在OpenRouter上的定价故事,折射出AI推理市场正在发生的一个深层变化:定价权的转移。

过去两年,AI推理市场的定价逻辑是“成本加成”,模型提供商按照训练成本和推理成本定价,然后由市场供需调节。但在2026年,随着提示缓存从“可选项”变成“标配”,实际定价权正在从提供商手中转移到用户手中。用户可以决定自己的缓存命中率,从而决定实际支付价格。一个精心设计的提示词结构可以将缓存命中率从30%提升到90%以上,直接让推理成本降低一个数量级。

这对模型提供商意味着什么?意味着“标价”不再是一个可靠的竞争武器。如果Inkling的标价是Claude Opus的1/5,但缓存命中后的有效价格是Claude的1/20,那它的竞争力比标价显示的要强得多。相反,如果一个模型标价便宜但缓存策略不友好,它的实际竞争力可能远低于标价给人的印象。

OpenRouter的“有效价格”透明化,可能成为推动整个AI API市场走向“按实际使用价值定价”的第一步。当所有开发者都能一眼看出“标价不等于实付”时,那些靠标价虚高来维持品牌定位的模型,将面临越来越大的压力。

而对于Inkling来说,0.17美元的有效价格是一个强有力的市场信号。Mira Murati在用开源加低推理成本两张牌,正面挑战那些闭源、高单价、黑盒的竞争对手。这不是一个关于哪个模型最聪明的故事,这是一个关于哪个模型用起来最便宜的故事。而在AI推理成本持续下降的2026年,后者可能比前者更重要。

价格从来不是AI的全部。但当有效价格只是标价的零头时,它至少是一个值得认真看的信号。

作品声明:内容由AI生成