字节跳动Seed单设安全与对齐部门,严林负责向吴永辉汇报

钛媒体App 10月13日,字节跳动Seed近日通过内部邮件宣布成立Seed Model-Alignment&Preparedness部门,由严林负责,汇报给Seed负责人吴永辉;原Responsible AI团队及部分Chat团队成员将转入新部门。新部门聚焦模型安全与对齐,核心是使模型行为符合人类意图与安全约束,重点提升Agent Model安全能力,防范CBRN等前沿风险。 工作覆盖模型规范、安全评估、对齐训练、防护系统与风险监控,并对接外部研究与第三方评测。Seed称安全与对齐已成模型规模化应用的核心能力。(广角观察)

本文内容仅供参考,不构成投资建议,请谨慎对待。

评论
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

请 登录后输入评论内容
投资日历
更多