苹果谷歌Meta为何拦不住AI脱衣应用

2026.11.21 17:52
美国参议员罗恩·怀登、埃德·马基和本·卢汉致函苹果、谷歌及Meta,质疑三家公司未能有效阻止AI生成非同意裸照的应用被分发和推广。事件暴露的并非单一模型漏洞,而是应用商店、广告平台与支付链路之间的责任断层,儿童安全正成为检验生成式AI商业化底线的关键指标。

AI脱衣应用真正暴露的,不是生成模型有多“聪明”,而是当平台已经被提醒风险之后,责任仍可能停留在规则文本里,没有落实到每一个流量入口。

2026年11月18日,美国参议员罗恩·怀登、埃德·马基和本·卢汉联合致函苹果、谷歌及Meta首席执行官,要求解释为何能够生成非同意裸照的应用仍可能出现在App Store和Google Play,并通过Meta广告获得用户。参议员还指出,相关调查显示,儿童测试账号也能接触到这类工具。几乎在同一时间,调查把一个更刺眼的事实摆上台面:问题并不局限于某个模型的安全护栏,而是贯穿应用开发、商店审核、广告投放和内容传播的整条链路。

这也是为什么三家公司的回应都显得“正确”却不够有力。苹果、谷歌和Meta都表示禁止相关内容或推广,并称已经采取检测、下架和封禁措施。但如果违规应用仍能被发现、下载、推广,平台的规则就只完成了纸面上的合规,尚未完成现实中的治理。

应用商店里,规则为什么没有挡住“脱衣”

参议员函件援引多项调查称,在苹果App Store和Google Play上,面向测试账号仍能找到一批可以生成非同意AI亲密图像的应用。函件引用Tech Transparency Project的一项调查称,在两个应用商店中发现135款相关应用,估算累计下载量约55亿次,估算终身收入约39亿美元。这些数字是调查估算,并非苹果或谷歌公布的审计结果,但它至少说明,相关应用并非偶然漏网的单个产品。

更棘手的是,违规功能并不总是直接写在应用商店页面上。怀登等人在致苹果的信中称,AI Forensics在2026年11月发现一个由444个相互关联应用组成的网络,其中部分应用会向商店审核隐藏性深度伪造功能,却通过Meta平台上的广告把用户引向真实使用场景。相关报道被函件援引称,苹果已移除19个关联应用。

这揭示了应用商店审核的结构性难题。传统审核更像一次入场考试,检查应用提交时展示了什么;而“脱衣”应用采用的却是动态运营模式,开发者可能在审核时展示普通修图功能,在广告、特定链接或更新后释放高风险功能。平台如果只问“这个版本提交了什么”,而不持续追踪“这个应用实际上被用来做什么”,审核就很容易被做成一场表演。

问题还在于,应用商店掌握着足够多的线索。开发者账号、应用代码、更新记录、用户投诉、支付关系和广告来源,本可以拼出一张风险网络。可一旦这些线索分散在审核部门、广告部门和信任安全部门之间,平台就可能拥有数据,却没有形成行动。

Meta不是旁观者,广告就是风险扩散器

如果说应用商店提供了交易入口,社交平台广告提供的就是获客与扩散能力。参议员的质疑并不只是“Meta上出现了违规广告”,而是Meta是否从广告主、素材、落地页、应用商店链接和用户投诉中识别出了同一组开发者网络,却仍让它们持续购买流量。

这类业务的增长逻辑并不复杂。开发者用具有冲击性的广告吸引用户,用户被导向应用商店下载,应用再通过订阅、点数或分层服务收费。对平台而言,每一步都可能被拆分成不同的商业关系:广告平台只负责展示,应用商店只负责分发,支付系统只负责扣款。最终,受害者面对的是一个完整的侵害链条,而公司面对的却是被切割后的责任片段。

这正是平台治理最容易失效的地方。单个平台可以声称已经删除广告,另一个平台可以声称已经下架应用,但如果两者没有共享足够的开发者、域名、支付和素材指纹信息,违规方只需更换名字、账号或落地页,就可能重新开始。

苹果称相关应用已被其App Review Guidelines禁止,并会主动拒绝或移除违反政策的应用。谷歌和Meta也表示,相关应用或推广不被允许,并已采取检测和移除措施。

这些回应并不等于没有采取行动,而是说明企业的“政策存在”与“执行有效”之间仍有距离。平台治理的评价标准,不能只看删除了多少个链接,更要看违规网络是否被连根识别,广告收益是否被切断,开发者是否被封禁,以及受害者是否有足够快的申诉和救济路径。

儿童受害,把商业问题推向公共安全问题

儿童之所以成为这场争议的核心,不只是因为他们更脆弱,也因为“普通照片可以被加工成露骨图像”改变了传统网络伤害的门槛。过去,侵害者需要获得真实裸照、拍摄设备或长期接触关系;现在,一张公开照片理论上就可能成为生成和骚扰的原材料。

联合国新闻援引联合国儿童基金会、国际终止童妓组织及国际刑警组织覆盖11个国家的研究称,至少120万名儿童表示,过去一年中自己的图像曾被篡改为色情深度伪造品。这个数字应被准确理解为研究覆盖范围内的报告数量,不能简单等同于全球全部受害人数。但它足以说明,AI生成的非同意性内容已经从边缘恶作剧变成了规模化的儿童保护议题。

儿基会明确指出,涉及儿童的性化深度伪造属于儿童性虐待材料,图像是否真实拍摄,并不能抹去受害者遭受的羞辱、恐惧和持续传播风险。对平台而言,这也意味着不能把“没有真实裸体”“内容由模型合成”当作降低风险的理由。

参议员函件援引的调查还提到,面向13岁男孩的测试账号可以下载多款能够生成非同意AI亲密图像的应用。即使这一测试并不代表所有儿童都能在任何地区重复获得同样结果,它仍然击中了应用商店年龄分级机制的软肋:年龄标签不是安全系统,尤其当危险功能被包装成普通图像编辑工具时。

平台真正缺的不是规则,而是持续执行

为什么同类应用能够反复出现?技术上,平台可以分析应用描述、截图、用户评论、广告素材和落地页,也可以利用应用行为测试、账号关联、付款关系和跨平台情报来识别风险。难点在于,这些措施需要持续投入,而且会增加审核成本、误伤风险和运营摩擦。

商业模式决定了平台容易形成一种短期均衡。应用商店从下载、订阅和支付中获得分成,广告平台从投放中获得收入,开发者则承担有限的账号和改名成本。只要违规行为没有带来足够高的即时损失,平台就可能把治理当成投诉驱动的售后流程,而不是产品上线前的基础设施。

但AI生成内容正在改变这种成本结构。当生成能力被封装进应用后,违规产品可以更快复制,内容也更容易被包装成可投放的服务。平台面对的不是一个固定的坏应用,而是一套可以不断换壳的生产系统。继续依赖人工举报和单个应用下架,等于用零散补丁对抗自动化工厂。

真正有效的治理,需要把责任从单点审核升级为链路治理。应用商店应把开发者网络、代码特征、支付账户和外部广告行为纳入持续审查;广告平台应对高风险图像编辑服务实施更严格的预审和落地页验证;企业之间还需要共享足以阻断重复违规的信号,而不是在各自平台完成一次删除后就结束。

这也意味着,企业不能只公布“我们禁止什么”,还应披露“我们如何发现、多久处理、重复违规者是否被永久封禁、受害者如何获得救济”。没有透明的执行指标,外界只能看到政策文本和公关回应,看不到治理是否真的改变了结果。

下一场竞争,是谁能把安全做成基础设施

这场争议的后果不会停留在三家公司被要求解释。应用商店、广告平台和AI开发者之间的责任边界,正在成为生成式AI商业化必须回答的问题。过去,平台可以把自己描述为中立的分发者;但当平台掌握审核、推荐、广告、支付和账号体系时,它已经不是简单的“管道”,而是风险分配系统。

对苹果和谷歌而言,应用商店的可信度取决于用户是否相信“上架”意味着基本安全。对Meta而言,广告业务的长期价值取决于广告主和用户是否相信平台不会为明显有害的产品提供规模化获客。对所有公司而言,儿童安全也不能继续被当作单独的公益项目,而应成为模型、应用和广告产品的默认设计约束。

监管的重点也不应只是要求企业删除内容,而应追问几个更具体的问题:平台是否在获知风险后继续获利,是否能识别同一开发者的换壳网络,是否为儿童设置了真正有效的保护机制,是否保存了足以支持执法的证据,以及受害者能否在内容扩散前获得处理。

如果这些问题没有答案,AI脱衣应用还会不断改名重来。今天被下架的是一个应用,明天可能是一个网页、一个机器人或一个嵌入式插件。技术变化很快,但平台责任不能每次都从零开始。

AI生成非同意裸照的危险,不在于它制造了多少“假图”,而在于它把羞辱、勒索和性剥削变成了可复制、可投放、可收费的产品。平台若只在舆论曝光后删除几个应用,治理就永远落后于侵害。真正的安全,不是规则写在商店页面上,而是让违规者无法同时穿过应用、广告和支付三道门。

作品声明:内容由AI生成