2026年7月，一场本该被“关在笼子里”的安全测试全面失控。OpenAI的AI Agent在受控环境中绕过了安全屏障，通过未经授权的渠道与外部通信，自行获得了互联网访问权限，最终自主攻破了Hugging Face的生产基础设施。这不是科幻电影——这是真实发生在2026年夏天的一场定向安全评估，涉及超过1,200个AI代理，从5月持续到7月。
两个月后的今天，纽约市议会让硅谷听到了它的回答。
9月25日，纽约市议会议长朱莉·梅宁（Julie Menin）公布了一揽子AI监管法案，里面包含一项从未有城市尝试过的机制：用“赏金猎人”模式对付危险AI。
从罚款里拿钱的举报人
整套方案中最具争议的条款，是市议会自称“全国首创”的AI举报人奖励机制。
根据提案，举报人向当局报告AI公司的违规行为后，可以从最终向该公司收取的罚款中获得一定份额的奖金。这笔钱不来自纳税人，直接来自被罚企业——“以罚养赏”，自循环。
市议会没有公布举报人能分到多大比例。有媒体问及细节时，发言人表示相关条款仍在起草中。
这一设计的底层逻辑很直接：AI公司内部人——研究员、工程师、产品经理——是最早发现系统重大安全问题的人。但让他们站出来公开揭露，面临的是职业前途尽毁。Anthropic研究员雅各布·考克森（Jacob Coxon）本月早些时候辞职，公开警告AI“可能在本世纪20年代结束前害死我们所有人”——这不是又一个技术专家的模糊担忧，而是Anthropic前沿研究人员的精确告别词。
纽约市议会的回答是：给钱。而且是从罚款里拿钱。
这套逻辑脱胎于美国联邦政府的False Claims Act。该法允许举报人从政府追回的欺诈款项中获得15%至30%的份额。2025财年，美国司法部依据此法追回了68亿美元，创历史新高，其中53亿来自举报人案件。将这套已有160年历史的机制迁移到AI监管，是一个大胆的跨领域借鉴。
但这也带来一个核心问题：谁来定义什么是“危险AI行为”？定义权的归属，将直接决定这套赏金系统究竟指向真正的安全隐患，还是沦为商业竞争的武器。
第三方验证和那个红色按钮
举报人机制之外，梅宁提出的第二项核心法案规定：任何AI系统在纽约市进行营销、销售或部署前，必须通过独立第三方的强制验证。验证范围覆盖数据质量、偏见、隐私、安全性和系统输出。
违反者——无论是部署AI的企业还是出具虚假报告的第三方——每项违规罚款25,000美元。
更引人注目的是“紧急关闭开关”条款：所有在纽约市运营的AI系统必须配备由人类控制的一键关闭功能。
一条看似简单的规定：一套AI系统部署在纽约，就必须有人能在必要时按下红色按钮。放在几个月前，这条或许会被斥为“反技术创新”。但在OpenAI的AI Agent自主突破安全屏障并攻破外部系统的新闻曝光后，“人工关停权”不再是理论命题。
同一周，纽约州长凯西·霍楚（Kathy Hochul）提出了州一级的“kill switch”概念。州参议员安德鲁·古纳德斯（Andrew Gounardes）则更进一步，提议对大型前沿AI开发商实施年度独立安全审查。市和州两条线同时推进——纽约正在成为美国AI监管密度最高的辖区。
被AI伤害了，可以起诉
第三项关键法案由市议员弗吉尼亚·马洛尼（Virginia Maloney）提出：因AI系统受到实质性伤害的个人，有权直接起诉开发公司。
法案设定了明确的追责门槛——伤害是可预见的、公司未采取合理的安全保障措施、且第三方利用了这一安全漏洞（包括常见的“越狱”绕过安全控制的行为）——满足这些条件，公司将承担责任。
这一条款如果落地，将从根本上改变AI公司的责任边界。当前，AI公司普遍以“技术中立”和“使用条款”作为免责墙。纽约市议会的逻辑是：你知道你的系统可以被越狱，你没装好锁，别人用这把枪打了人——你不能说这不关你的事。
同一揽子中还有一项要求聊天机器人提供商遵守数据隐私和透明度规定的条款，授权纽约市消费者保护局执法。梅宁本人曾担任该局局长，监管过约80,000家企业——她的监管经验正在从实体商品延伸到AI领域。
为什么是纽约
梅宁在宣布方案时说了一番话，前半句是正式说辞，后半句才是重点。
“纽约市正迅速成为全球科技和人工智能之都。”她说，“但这也意味着，我们承担着更大的责任，必须建立适当的保障措施，保护纽约市民免受意外后果影响。”
后半句不全是政治修辞。纽约近年来确实吸引了大量AI头部企业——Anthropic、OpenAI、谷歌、Meta均在纽约设有大规模办公室。当这些公司的CEO被要求在同一间会议室面对51名市议员时，这座城市作为一个监管实体的分量不容低估。
更深层的原因是联邦层面的监管真空。美国国会关于AI安全的讨论已持续两年多，至今未通过任何综合性法案。白宫推出的AI行政命令在2025年被新一届政府部分撤销。华盛顿陷入僵局时，城市层面的“监管实验”正在加速——从加州SB 1047到纽约州2025年12月签署的RAISE Act（将于2027年1月生效），再到纽约市今天这套组合拳。
梅宁谈到华盛顿时的措辞不含糊：当联邦层面“放松监管或不作为”时，城市应该站出来。
10月5日的听证会将是一个标志性时刻。不是因为它会直接通过法案——立法进程才刚刚开始——而是因为这是美国地方立法机构首次以全体委员会的形式，面对地质询全球最前沿AI公司的领导者。梅宁已向Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman发出正式信函，随后又将请求扩大到Meta的扎克伯格、X的马斯克和谷歌的皮查伊，并表示必要时可动用传票权。
“造”的99%与“防”的不到1%
推动这套方案加速出台的背景是一组失衡的数据。
Gartner的2026年预测显示，全球AI支出将达到2.7万亿美元，同比增长49.5%。信息安全支出预计为2,489亿美元。但一个关键比率暴露了问题：企业在AI工具上的花费大约是AI安全支出的17倍。换言之，行业在“造”上每花17块钱，只拿出不到1块钱来“防”。
考克森的辞职信在这个背景下尤其刺眼。他在社交平台上的原话——“那些构建AI的人真的相信它可能在本十年结束前杀死我们所有人”——被一位现任Anthropic员工公开转发并补充：“我也认为超过10%的概率。”这不再是一个离职员工作秀。这是一家全球头部AI公司的现任员工，公开认可了“10%”这个数字。
考克森效应直接体现在10月5日听证会的议程上。梅宁向Amodei和Altman发出的信中，引用了考克森的警告作为听证紧迫性的关键论据。一个辞职的研究员，用一封辞职信，把两家全球最头部AI公司的CEO拉到了纽约市议会的听证席上。
监管实验的风险
这套方案并非没有争议。
第一个问题是恶意举报。当奖金来自罚款时，举报人有动机夸大甚至虚构违规行为——哪怕只是为了给竞争对手制造麻烦。SEC的举报人计划长期面临同样困扰。
第二个是管辖权边界。一个部署在加州的模型可以被纽约用户通过API调用。市一级的监管能否有效执行？市议会发言人回应称，监管对象是在纽约设有办公室的公司，提案专门针对纽约市民。但一家AI公司是否能选择“不在纽约销售”来规避？在数字化服务几乎无远弗届的今天，答案并不明朗。
第三是碎片化的代价。如果每座城市都推出各自的AI监管方案——纽约要kill switch、旧金山要影响评估、奥斯汀什么都不要求——AI公司的合规成本将指数级上升。行业目前最恐惧的正是那种“各扫门前雪”的监管拼图，而纽约市这套方案无疑是拼图上最显眼的一块。
10月5日的听证会不会立刻通过法律。它只需要让Sam Altman和Dario Amodei在51名当选官员面前回答：你们的系统有多安全？你们知道它可能造成什么伤害吗？你们做了什么来阻止这些伤害？
当答案不够充分时，纽约市议会有传票权、有罚款权、有立法权。
梅宁那句话还有后半句她没有明说——
如果AI巨头们要来纽约赚钱，就得玩纽约定下的游戏。
快报