OpenAI安全团队“大逃离”，内部人士称对奥特曼“信任崩塌”lg...

由于对公司领导层失去信心，OpenAI的人工智能安全团队正面临“大规模外流”，主要成员纷纷辞职。本周，OpenAI超级对齐团队负责人伊利亚·苏茨克沃和简·雷克在同一天内先后宣布离开。

苏茨克沃和雷克是确保人工智能与人类目标保持一致的关键人物，他们的离职引发了人们对该公司在人工智能安全方面的未来的担忧。

自去年11月OpenAI董事会试图解雇CEO萨姆·奥特曼以来，至少还有五名专注于AI安全的员工离职。据公司内部消息人士透露，这次失败的驱逐导致关注AI安全的员工对奥特曼失去了信任。

一位匿名消息人士表示：“这是一个信任一点一点崩塌的过程，就像多米诺骨牌一块一块倒下一样。”

OpenAI带有非贬低条款的离职协议也导致离职员工保持沉默。那些拒绝签署协议的人将丧失他们在公司的股权，可能损失数百万美元。

拒绝签署离职协议的前员工丹尼尔·科科塔伊洛（Daniel Kokotajlo）直言不讳地谈到了该公司的发展方向。

他说：“OpenAI正在训练越来越强大的AI系统，目标是最终全面超越人类智能。这可能是人类有史以来发生的最好的事情，但如果我们不小心行事，它也可能是最坏的。”

雷克在X上的一篇帖子中回应了科科塔伊洛的担忧，他写道：“很长一段时间以来，我一直不同意OpenAI领导层对公司核心优先事项的看法，直到我们最终达到了临界点。”

奥特曼在X上发帖感谢并肯定了简·雷克在OpenAI的贡献和领导能力。并表示，未来几天内会发表一篇更长的帖子，以阐述OpenAI对于产品安全的规划和所做的事情。