AI行业最危险的幻觉,可能不是机器会不会像人一样思考,而是人类相信某个CEO会永远替所有人做正确的事。
Helen Toner对此有近距离经验。The Verge称,她曾任OpenAI非营利母公司董事会成员,也是2023年11月投票要求Sam Altman离任的四名董事之一。Altman后来回到CEO岗位,Toner离开董事会,OpenAI则经历了董事会重组。如今,作为乔治城大学新兴技术与安全中心执行主任,她在The Verge的Decoder节目中再次谈起那场被称为“the blip”的风波。
她留下的警告,比“谁在那几天做错了什么”更值得行业重视。如果AI安全计划最终依赖某一个人的诚信、判断力和自我约束,那么制度实际上并没有安全计划。
OpenAI的信任危机,不只是一次人事变动
2023年11月17日,OpenAI官方宣布Altman离任。公司声明称,董事会经过审慎审查,认为Altman在与董事会沟通时“不始终坦诚”,从而妨碍董事会履行职责,董事会也“不再对其继续领导OpenAI的能力有信心”。
官方声明没有披露更多细节。随后,OpenAI经历管理层震荡、员工施压和董事会重组,Altman在11月下旬回到CEO岗位,Toner也不再留任。
在此前的相关采访中,Toner曾把这场危机解释为长期积累的信任流失。她表示,ChatGPT在2022年11月发布时,董事会并未提前获知,而是从社交媒体上看到消息;她还说,Altman没有向董事会披露自己拥有OpenAI创业基金的权益。对于这些说法,OpenAI并未在相关采访页面中逐项回应,因此它们应被视为Toner的个人陈述,而不是一份完整的独立调查结论。
但问题的核心并不取决于每一项细节最终如何定性。董事会在当时认为,它与CEO之间已经失去了履行监督职责所需的信任基础。对任何依赖董事会监督的公司而言,这都是严重治理危机;对一家治理设计试图保留公共使命约束的AI组织而言,后果更具象征意义。
董事会有权力,不等于董事会有能力
为什么一个拥有更换CEO权力的董事会,仍然可能在危机中失去控制?答案通常不是缺少一条授权条款,而是缺少持续、独立和完整的信息。
董事会如果无法稳定获得产品路线、内部安全流程和管理层实际决策的信息,就只能更多依赖CEO提供的叙事。信息由被监督者控制,监督就容易退化成信任投票。
这也是Toner观点中最值得行业重视的部分。她并不是简单地说“CEO都不可信”,而是在提醒,不能把高风险技术的安全性建立在“刚好由一个值得信任的人掌舵”这个前提上。
如果我们对未来的希望,寄托在任何一个人都值得信任、能够把这件事做对,那么我们就陷入了大麻烦。
这段话的核心,是对个人担保的否定,而不是对个人能力的否定。优秀的CEO可以加速决策,却不能替代可审计的流程、独立的监督和可执行的责任边界。
更现实的风险是,AI公司的速度可能不断放大信息差。模型训练、产品发布、商业合作和安全评估同时推进,外部董事很难凭几次会议掌握全部变化。如果组织又把关键判断集中在创始人或CEO手中,那么董事会表面上拥有最终权力,实际上可能只拥有事后解释权。
OpenAI复盘没有给出简单的赢家
2024年,OpenAI公布了WilmerHale复盘摘要。公司称,复盘认为此前董事会的决定源于董事会与Altman之间关系破裂和信任丧失,而不是产品安全、开发速度或公司财务方面的担忧。复盘还认为,董事会是在压缩的时间表内作出决定,没有提前通知关键利益相关者,也没有给Altman充分机会回应。
这份复盘摘要对董事会的程序提出了批评,也意味着Altman被解雇,并不自动等于存在已经被调查确认的重大不当行为。与此同时,复盘也没有把这场危机改写成一场不存在治理问题的风波。两种判断可以同时成立,董事会的决策过程不够稳健,董事会与CEO之间也确实已经失去有效工作的信任基础。
OpenAI官方复盘还称,WilmerHale审阅了超过3万份文件,并开展了数十次访谈。复盘认为,此前董事会的决定不是出于产品安全、开发速度、公司财务或对投资者、客户和商业伙伴的陈述,而是董事会与Altman之间关系破裂和信任丧失。
这个结论说明,OpenAI事件首先是一场治理与关系危机,而不是一份已经被调查确认的产品安全事故报告。然而,治理危机本身就足以影响安全。安全不只发生在模型发布前的技术评估中,也发生在组织能否诚实汇报、能否及时升级风险、能否让反对意见抵达决策层的日常流程中。
AI安全最怕被写成一份承诺书
前沿AI公司的商业逻辑天然要求速度。更大的模型、更快的产品迭代和更高的商业预期,可能持续把组织推向发布和扩张。安全工作却通常意味着延迟、限制和披露不确定性。在这种激励结构下,企业口头上可以重视安全,实际决策仍可能优先奖励增长。
如果安全主要靠CEO在关键时刻“做一个好人”,它就会变成一种个人化的承诺。承诺无法审计,动机无法定价,未来也无法保证。更麻烦的是,外部世界往往会把创始人的使命感、公开演讲和公司品牌误认为治理能力。
真正有效的安全治理,需要把关键权力拆开。产品团队不应同时决定风险标准和是否发布,董事会不应只在危机爆发时临时介入,安全负责人也不应只有建议权。对高风险系统而言,谁能看到什么、谁能阻止什么、谁必须留下书面记录,比CEO在台上说了什么更重要。
这不是要求公司放弃商业效率,而是要求它承认一个事实。当技术可能产生广泛外部性时,效率不能成为唯一的组织原则。越是依赖个人英雄,越容易在个人判断失误时同时失去速度、信任和纠错能力。
监管要管住的不是“坏人”,而是坏激励
把所有希望寄托在监管者识别出下一个不可靠CEO,同样不现实。政策更应该关注可验证的行为,例如高风险模型的评估、事故报告、访问权限、内部审计、外部监督,以及在达到特定风险阈值时必须采取的措施。
商业压力不会因为公司发布了一份安全承诺就自动消失。只有让风险评估者与最终商业决策者之间存在结构性分离,组织才更可能在增长冲动出现时保留刹车能力。
这会让企业失去一部分自由裁量权,却也能减少市场对个人声誉的依赖。投资人、员工、合作伙伴和公众不必先判断CEO是不是“好人”,才能知道公司是否设置了最低限度的安全边界。
这也是其他AI公司的共同命题。谁控制模型训练,谁决定安全评估是否公开,谁有权暂停上线,谁来调查管理层与安全团队之间的冲突,这些问题不能等到下一场董事会地震发生后才回答。
真正成熟的AI组织,不需要公众相信某个人
Helen Toner的价值,不只在于她曾经投票要求Altman离任,更在于她把一场公司内部危机转译成了公共治理问题。AI行业喜欢用创始人的愿景解释未来,也喜欢用CEO的个人信誉降低外界的不确定性。但技术风险不会因为叙事者足够有魅力而消失。
OpenAI后续复盘没有把这场危机归因于产品安全问题,也没有确认Toner所述每一项具体指控。这个边界必须保留。因为如果讨论AI治理也依赖夸大的指控和未经核实的传闻,那么它只是用另一种方式复制了同样的信息不对称。
更可靠的结论是,AI公司不能把安全寄托在单一人物身上,也不能把董事会当成危机公关工具。治理的目标不是找一个永远正确的CEO,而是让任何CEO犯错时,组织仍然能够发现、阻止并纠正错误。
当一家AI公司要求世界相信它正在建造关乎人类未来的系统时,世界真正应该追问的不是“CEO值得信任吗”,而是“即使他不值得信任,这套系统还能不能安全运行”。如果答案是否定的,那么问题从来就不只是某一个CEO。






快报