安全对齐再布阵!OpenAI 撤销“使命对齐”团队,负责人改任首席未来学家

OpenAI 近日确认,内部“使命对齐”(Mission Alignment)团队已被正式撤销。这个团队的核心任务,是在确保安全可靠的前提下,让 AI 持续与人类价值观保持一致。

据官方披露,原团队负责人乔什·阿奇亚姆(Josh Achiam)出任新设高管岗位——OpenAI 首席未来学家(Chief Futurist)。其余约 6 到 7 名成员则被分配到公司其他部门,继续推进与对齐相关的研究工作。

“使命对齐”团队成立于 2024 年 9 月,主要聚焦 AI 在真实世界与对抗性环境中的可控性与审计能力。OpenAI 发言人称,此次为高速发展阶段的“常规组织优化”。值得注意的是,这已是同类职能的第二次调整——此前面向长期生存风险的“超级对齐”(Superalignment)团队已在 2024 年解散。

阿奇亚姆在履新时表示,他将把重心放在 AGI 及更远期技术对世界的影响评估上,并与技术团队中的物理学家合作,助力公司“让 AGI 造福全人类”的终极使命。

划重点:

  • 🔄 组织变阵:OpenAI 撤销了专责 AI 价值对齐的团队,相关成员已分流至其他部门。

  • 🔮 新设岗位:原负责人 Josh Achiam 出任首席未来学家,面向更长时间尺度思考 AGI 的发展路径。

  • 🛡️ 安全策略演变:继“超级对齐”团队解散之后,又一次重要的安全架构调整,体现公司在快速扩张中对安全职能的再定义。

爱智特-AI智能体一站式企业智能体交易学习发行平台|智能体教程|智能体社区
© 版权声明
THE END
喜欢就支持一下吧
点赞8 分享