OpenAI决定解散任务对齐团队，把工作重心转向“安全”与“可信赖”的人工智能开发

OpenAI解散了一个致力于保障其AI系统“安全、可靠，且始终契合人类价值观”的团队。与此同时，该团队的前负责人被委任为公司“首席未来学家”这一新职务。此外，该团队的成员目前已被调配至其他岗位。

被解散的团队似乎成立于2024年9月，作为这家初创公司的内部部门，其核心工作是AI对齐。这一领域在行业内受到广泛关注，目标是确保AI的行为始终与人类利益保持一致。

“我们期望这些系统在复杂的现实世界场景以及对抗性环境中，能够始终契合人类的意图，防止出现灾难性的行为，同时保持可控制、可审计的状态，并与人类的价值观相统一，”OpenAI对齐研究博客中的一篇文章如此表示。

OpenAI的一则招聘信息中提到，对齐团队专注于AI研究，致力于“开发相关方法，让AI在对抗性或高风险等各类复杂场景中，都能稳健地遵循人类的意图”。

在一篇博客文章里，OpenAI对齐团队的前负责人Josh Achiam阐述了他担任公司首席未来学家这一新角色的情况。Achiam写道：“我的目标是助力OpenAI实现其使命——让通用人工智能为全人类带来福祉——具体方式是研究AI、AGI及其后续发展会给世界带来怎样的变化。”

Achiam表示，在他的新职位上，他会和OpenAI技术团队里的物理学家Jason Pruet开展合作。

OpenAI的一位发言人透露，剩下的对齐团队——这是一个由六到七人构成的小组——之后被调配到了公司的各个不同部门。该发言人没能详细说明团队成员具体被分到了哪些地方，不过他提到这些成员在新岗位上做的是相近的工作。至于Achiam在“未来学家”这个职位上会不会有新的团队，目前还不明确。

发言人将团队的解散归因于公司内部快速发展的常规重组。

OpenAI此前存在一个名为“超级对齐团队”的组织，这个团队在2023年成立，主要致力于研究AI所带来的长期生存威胁，不过该团队在2024年被解散了。

Achiam的个人网站依旧把他列为OpenAI的任务对齐负责人，还提到他对保障“人类的长远未来是美好的”这一目标感兴趣。而他的LinkedIn资料则显示，自2024年9月开始，他就担任了任务对齐负责人一职。