Meta 广告结构战,从模型规模到表示质量

2026.07.16 07:11
Meta 于 2026 年 7 月 15 日发布 Hierarchical Interest Representation(HIR),一套位于广告系统上游的分层表示层架构。通过自研 Transformer 图学习、偏差感知注意力和自监督跨视图对齐,HIR 将用户、广告主、产品等实体的稀疏交互信号整合为统一的分层嵌入空间,旨在解决深度漏斗广告的信号稀疏难题。这标志着推荐系统的竞争正从模型规模转向表示质量。

一个用户每天在 Facebook 和 Instagram 上滑动几百次。每一次点击、每一次停留、每一次划过,都是系统理解他兴趣的信号。但当这个用户进入深度漏斗,比如他正在考虑买一台 5000 元以上的咖啡机,那些稀疏的、高维的、充满噪声的交互信号,往往不足以让推荐系统准确判断他的真实意图。

这是整个数字广告行业最棘手的难题之一。而 Meta 刚刚给出了一套新的解题思路。

2026 年 7 月 15 日,Meta 工程团队正式发布 Hierarchical Interest Representation(分层兴趣表示,简称 HIR),一套位于广告系统上游的表示层架构。它是 Meta 在 GEM(生成式广告推荐模型)、Andromeda(个性化广告检索引擎)和 Adaptive Ranking Model(自适应排序模型)之后,对广告系统底层能力的最新补全。

如果说 GEM 是大脑,Andromeda 是检索手,Adaptive Ranking Model 是实时调度员,那么 HIR 的角色更像是一张语义地图。它把广告生态中所有实体的关系,抽象成一个分层的、可导航的嵌入空间,让系统在稀疏信号下也能找到用户兴趣与广告供给之间的最短路径。

深度漏斗,为什么难

Meta 的广告网络每个月服务数百万条广告、数百万广告主、数十亿用户。但这个词汇量越大,深度漏斗的信号稀疏问题就越突出。

用户进入深度漏斗阶段,比如搜索高端咖啡机或在某个电商广告页面停留,这部分行为信号天然稀疏。一个用户可能一年只有两三次这类行为。而广告主在深度漏斗中投放的广告,恰恰需要系统在极少的信号中准确判断用户意图。

Meta 在官方博文中总结了三大技术挑战。

用户推断信号的动态性。 用户在平台上表达兴趣的方式是多元的,点赞、分享、点击感兴趣或不感兴趣反馈、停留时长……但这些信号的质量参差不齐,且用户兴趣本身在持续变化。

大规模网络的稀疏连接。 每月数百万条广告与数十亿用户之间,形成的交互图是行业最大的图网络之一。但深度漏斗中的用户反馈信号极度稀疏,大多数用户与广告对之间根本没有交互记录。

长程全局关系难以捕捉。 在稀疏连接的网络中,要想从远距离的、间接相关的节点中提取有效模式,需要模型具备极强的长程关系建模能力。而传统的图学习方法在 Meta 规模的数据集上,计算成本极高。

这些问题叠加在一起,形成了一个死循环:信号越稀疏,匹配越不准;匹配越不准,广告效果越差;广告越差,用户越不感兴趣;信号于是更稀疏。

HIR 的四重设计:从稀疏到稠密

HIR 的核心思路并不复杂:既然原始交互图是稀疏的,那就把它投影到一个更稠密的空间中去。

基于图数据结构,HIR 的端到端系统由四个设计属性驱动。

降维:从稀疏图到超图

HIR 将原始图投影到一个可配置的超图(super-graph)上,每个超节点代表一个在潜在空间中学习到的兴趣基元(latent interest primitive)。用户与广告之间原本稀疏的边,在兴趣基元层面变得有意义地稠密。更重要的是,兴趣基元的词汇表比原始广告实体更稳定、更静态。即便广告主每天在换产品、调价格,用户的兴趣基元迁移是相对缓慢的。

知识增强:让系统理解“这是什么”

传统广告推荐系统只能从用户和广告如何互动中学习。但 HIR 引入了多模态内容特征,包括文本、图片、视频,从结构化页面元数据和广告主商品目录中提取,再通过视觉或语言模型处理。这意味着,即使系统从未见过某个新产品,它也能通过理解这个产品是什么来推断它可能吸引哪类用户。

统一关系表示:同一空间中的所有实体

HIR 在同一个度量空间中学习用户、广告主、产品、兴趣基元的统一表示。通过嵌入运算,它可以推断实体之间的亲疏关系,计算用户与兴趣基元的距离,判断广告与兴趣基元的匹配度,甚至找到最相似的用户、广告和产品。

多层分级粒度:粗与细的平衡

深度漏斗信息天然稀疏,投影到兴趣基元时存在一个权衡。稠密且稳定的关系意味着更粗粒度的抽象,稀疏且特定的连接则需要更细粒度的表达。HIR 学习级联多个层级层次的超图,在粗与细之间灵活切换,适配不同的排序架构、个性化需求和检索应用。

自研 Transformer 图学习 + 偏差感知注意力

在技术实现层面,HIR 的核心是 Meta 自研的 Transformer 图学习架构,配合偏差感知注意力机制。

传统的图神经网络(GNN)在处理长程依赖时容易陷入过平滑问题,节点在多层传播后变得难以区分。而 HIR 的 Transformer 架构通过全局注意力机制,能够在一次前向传播中捕捉任意两个节点之间的关系,天然适合处理长程全局关系建模。

但 Transformer 的注意力机制在大规模图网络上有一个致命问题:计算复杂度是 O(n²)。Meta 的解决方案是偏差感知注意力,在注意力计算中引入结构性偏差,让模型知道哪些节点关系更重要、哪些可以忽略,从而大幅降低计算开销。

这套方案结合了图神经网络的结构先验和 Transformer 的全局建模能力,在 Meta 的广告网络规模上实现了可落地的性能。

BoM 标记与自监督跨视图对齐

HIR 的另一个关键技术是 BoM(Bag of Multimodal)标记。每个兴趣基元被编码为一组 BoM 标记,这些标记通过知识增强范式融合了多模态世界知识。BoM 标记代表了兴趣基元的结构化表示,使得系统能够在推理时快速检索与用户匹配的兴趣基元。

更重要的是,HIR 通过自监督跨视图对齐(self-supervised cross-view alignment)来训练这些表示。系统从不同视图(用户行为序列、广告内容特征、广告主分类信息)学习同一组兴趣基元,然后通过辅助损失和对比学习目标,强制不同视图学到的嵌入保持一致。这种设计让模型在没有人工标注的情况下,自动发现跨实体的语义关联,并将 BoM 标记与兴趣基元嵌入对齐。

拼图逻辑:Meta 广告系统的递进式进化

HIR 的发布,再次印证了 Meta 广告系统技术路线图的一个核心逻辑:分层递进,各司其职。

回看 Meta 过去两年的广告技术演进:

Andromeda(2024 年 12 月)。 新一代检索引擎,在 NVIDIA Grace Hopper 芯片上实现深度神经网络,召回率提升 6%,广告质量提升 8%。解决的是从海量候选广告中找出相关的那一批。

GEM(2025 年 11 月)。 生成式广告推荐模型,以 LLM 规模训练的基础模型,在 Instagram 上提升 5% 广告转化率,在 Facebook Feed 上提升 3%。解决的是理解用户行为序列中的深层模式。

Adaptive Ranking Model(2026 年 3 月)。 自适应排序模型,用智能请求路由替代一刀切推理,在保持亚秒级延迟的同时将 LLM 规模的模型引入广告排序,带来 3% 转化率提升和 5% 点击率提升。解决的是在计算资源约束下最大化模型效果。

HIR(2026 年 7 月)。 分层兴趣表示,作为上游表示层打通所有广告实体的语义关系。解决的是在信号稀疏条件下找到用户与广告之间的语义最短路径。

每一层解决一个特定问题,层层叠加。HIR 不是替代 GEM 或 Andromeda,而是为它们提供更高质量的输入表示。通过 BoM 标记增强基于参与度的个性化表征,通过倒排索引实现快速紧凑的检索召回,通过超兴趣类别的专家混合(Mixture of Experts)生成分布学习,让整个系统在动态中持续进化。

这意味什么

对广告主而言,HIR 的落地意味着深度漏斗广告的 ROI 有望获得结构性改善。当系统能够从稀疏信号中准确推断用户意图,广告主不再需要依赖大量第一方数据来训练模型匹配。Meta 的语义地图会主动找到那些对产品有潜在兴趣但尚未表达的用户。

对行业而言,HIR 释放了一个清晰的技术信号:推荐系统的竞争正从模型规模转向表示质量。GEM 证明了大模型在广告推荐中的可行性,但规模扩张的边际收益正在递减。HIR 代表的是另一条路,不是把模型做得更大,而是把输入做得更聪明,把表示做得更结构。

当你的数据稀疏到连大模型也无能为力时,怎么把少变成够?Meta 的答案是:先画一张图,把每个实体放在正确的位置上。然后,路径自然浮现。

规模战之后,是结构战。

作品声明:内容由AI生成