字节跳动 Seed 单独设立大模型安全与对齐部门

字节跳动 Seed 通过内部邮件宣布成立专门的模型安全与对齐部门，由严林牵头，直接向 Seed 负责人吴永辉汇报。原 Responsible AI 团队与部分 Chat 团队成员并入新部门，意味着安全与对齐从分散职能升级为独立建制。

对齐（Alignment）指让模型行为与人类意图和安全约束保持一致，是大模型从能力竞赛转向可控落地的关键环节。随着模型能力边界扩展，安全投入的组织化、专业化成为头部团队的共同选择。

此次调整特别点出 Agent Model（智能体模型）的安全能力，以及 CBRN（化学、生物、放射、核）等前沿能力风险的防范。智能体具备自主规划与工具调用能力，一旦越界可能带来远超传统对话模型的实际损害，因此需要更前置的风险评估与缓解机制。

从行业视角看，头部厂商单独设立安全对齐部门，反映出大模型竞争正从参数规模、榜单分数，转向安全治理、可控性与合规能力。这也会推动相关人才、评测方法与红队能力的进一步集中。

本站展示内容为基于公开信息的资讯解读与整理，不代表原文转载。如需核实细节或获取完整报道，请通过下方链接访问原始来源。