大模型之家讯 10月13日,字节跳动 Seed 通过内部邮件宣布成立 Seed Model-Alignment & Preparedness 部门,由严林负责,汇报给 Seed 负责人吴永辉;原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。新部门聚焦模型安全与对齐,核心是使模型行为符合人类意图与安全约束,重点提升 Agent Model 安全能力,防范化学、生物、放射、核(CBRN)等前沿风险。
据披露,新部门工作覆盖模型规范、安全评估、对齐训练、防护系统与风险监控,并对接外部研究与第三方评测。Seed 称,安全与对齐已成为模型规模化应用的核心能力。此举凸显在大模型智能体能力快速扩张的当下,头部厂商正把安全和对齐从”边缘合规”提升为直接向大模型一号位汇报的战略级组织,以应对日益复杂的智能体失控与前沿风险。