突发！OpenAl超级对齐团队就地解散！

今日，最新消息显示，OpenAl超级对齐团队就地解散。该消息一经发出，立刻引发网友热议。

有网友调侃：这是OpenAI宫斗第二季又开始了？

很快，OpenAl公司证实，该公司不再将所谓的'超级对齐"团队作为一个独立的实体，而是将该团队更深入地整合到其研究工作中，以帮助公司实现其安全目标。

01

对齐团队是做什么的？

据了解，超级对齐团队成立于2023年7月，其目标是“在OpenAI大量计算的支持下，到2027年解决（对齐）问题”。

Ilya Sutskever是该项目的牵头人之一，OpenAI则表示会将20% 的算力专门用于该项目的研究。

在一次访谈中，Ilya Sutskever曾大胆预言，如果模型能够很好地预测下一个词，那么意味着它能够理解导致这个词产生的深刻现实。这意味着，如果AI按照现有路径发展下去，也许在不久的将来，一个超越人类的人工智能系统就会诞生。但更加令人担心的是，「超级人工智能」可能会带来一些意想不到的负面后果。

几天前，OpenAI联合创始人、首席科学家Ilya Sutskever，刚宣布离开OpenAI。至此，结束了与OpenAI的八年牵绊。

很多人可能没注意，与Ilya同步宣布离开的，还有超级对齐团队的共同领导者Jan Leike。

Jan Leike正是OpenAl安全主管、“超级智能对齐团队”负责人。

据JanLeike透露，他与OpenAl高层在公司的核心优先事项上存在长期分歧，双方的分歧严重到无法调和的地步。团队在推动其研究项目和争取计算资源时遇到了重大阻碍，缺乏资源严重影响研究的进度和质量。

02

长期分歧指的是什么？

此前，在OpenAI内斗时，有人传言说Ilya「看到了一些东西」，这些东西足够强大，让他对AI的未来产生了担忧，并重新思考AI的发展。

此后，包括马斯克在内的美国业界一直很关心“Ilya看到了什么？”

有记录显示，Ilya此前曾在一段视频中提到，在AGI实现的那一天，AI未必会仇恨人类，但他们对待人类的方式可能会像人对待动物一样。人可能无意伤害动物，但如果你想修一条城际高速，你不会征询动物的意见，而是直接去做。当面临这种情况时，AI可能也会自然而然地做出类似的选择。

或许，这就是Ilya担忧的，也是OpenAl对齐团队与高层的长期分歧。

写在最后

上周，外界又开始关注“Ilya下一步会去哪里？”

有网友猜测，“如果Ilya和Andrej创办一家真正开放的人工智能公司，会是什么样的？”

Andrej Karpathy也是OpenAI创始成员之一，在Sora发布前夕刚离职，他们二人如果能联手，或将成为人工智能领域又一个重大事件。

对此，Ilya在推文中回应，“我很期待接下来的计划——这个项目对我个人来说意义重大，我会在适当的时候分享细节。”

现在，咱们也猜想一下：“Jan Leike会去哪呢？”

如果Ilya和Andrej真的创办了一家人工智能公司，Jan Leike是否会加入其中？

注：文/一休，文章来源：i黑马(公众号ID：iheima)，本文为作者独立观点，不代表亿邦动力立场。