随着人工智能在生物领域的应用不断深入，AI辅助基因编辑与药物研发的效率已显著提升，但也随之带来了潜在的生物安全风险。近日，OpenAI首席执行官萨姆·奥特曼、Anthropic首席执行官达里奥·阿莫迪等多家头部AI实验室负责人联合向美国国会提交建议，呼吁实施严格的合成DNA监管措施，以防范AI技术被用于辅助制造生物武器。
他们此次呼吁的核心，是建立全国性的合成DNA订单筛查系统——要求所有DNA合成服务商必须将订单序列与已知病原体数据库进行比对，拒绝涉及危险生物制剂的合成请求。布鲁金斯学会2022年发布的《AI与生物安全》报告指出，AI模型已能生成详细的病原体基因序列设计方案，若结合成熟的合成DNA技术，可能被用于制造高致病性病毒或细菌，进而引发大规模公共卫生危机。
不过批评者认为，仅把监管焦点放在DNA合成环节可能转移责任重心，AI开发者也应承担更多义务。斯坦福大学网络安全与人工智能中心2023年的研究显示，GPT-4、Claude 3等主流AI模型在未过滤状态下，能生成约60%已知病原体的核心基因序列设计步骤；经模型微调后，这一比例甚至升至85%。因此有专家提出，需同时对AI模型的输出内容进行严格审核，避免其向用户提供危险生物信息。
从财务角度看，强制筛查将给生物科技行业带来显著影响。麦肯锡2023年的行业分析显示，合成DNA服务的平均成本可能因新增筛查流程上升12%-18%，中小生物科技企业的运营成本或增加15%-20%，而大型企业则可通过系统整合降低边际成本。支持者表示，这些成本是防范AI可能引发的潜在大流行的必要投入——世界卫生组织曾估算，一次由AI辅助制造的生物武器引发的疫情，可能造成全球经济损失超1万亿美元。
行业近期动态中，美国国立卫生研究院（NIH）于2024年4月发布《AI生物安全操作指南》，要求受其资助的生物实验室使用经认证的AI工具，并定期提交安全审计报告。在企业层面，谷歌DeepMind于2024年3月推出生物安全AI平台“Guardian”，可实时检测基因序列中的危险片段；Meta则联合15家生物科技公司发起“AI生物安全联盟”，致力于制定跨行业的AI模型安全标准。
快报