近期，苹果与谷歌两大科技巨头的应用商店因存在大量AI驱动的“脱衣”应用而受到监管审查。尽管两家公司都制定了针对非自愿露骨内容的政策，但仍有超过100款此类应用通过审核上架——谷歌应用商店有55款，苹果应用商店有47款，这一数字清晰地暴露了当前审核机制的有效性问题，两家平台在这方面的表现存在明显差距。
美国参议员Jon Ossoff等立法者公开批评两家公司未能有效阻止此类应用绕过初审流程，强调这些应用通过AI算法将普通用户图片转化为露骨内容，给受害者带来不可逆的心理伤害，包括隐私侵犯、名誉受损以及长期的精神压力。这类应用的核心操作是利用生成式AI模型对输入图像进行像素级修改，移除衣物元素并生成虚假露骨内容，背后的技术原理则是结合了训练数据中的人体特征模型与图像生成算法。
目前两家平台的审核模式多依赖人工抽检或关键词过滤，很难应对AI应用的快速迭代和技术规避手段——部分应用会用模糊的功能描述或隐藏核心代码，以此绕过初审阶段的人工检查。为此，行业内不少声音呼吁引入AI驱动的检测工具，通过机器学习模型识别此类应用的核心功能代码、用户评价里的敏感关键词以及潜在的内容生成逻辑，这样才能更高效地阻止有害应用死灰复燃。
欧盟数字服务法案（DSA）已于2024年全面生效，将非自愿深度伪造内容纳入重点监管范畴，要求平台承担更多主动审核责任；竞争对手Meta近期更新了内容审核政策，明确禁止AI生成的非自愿露骨内容，还宣布投入10亿美元用于AI审核技术研发，包括训练能识别深度伪造图像的模型——相比之下，苹果与谷歌在该领域的技术投入及政策落地速度仍显滞后。
快报