OpenAI正正在建立新的超等对齐团队，由苏斯克维尔和莱克配合带领，我们的人工智能系统能够接管越来越多的对齐工做，这里的“对齐研究”指的是确保人工智能系统达到预期的成果，这个团队由OpenAI首席科学家、我们认为优良的机械进修专家（即便他们还没有起头研究对齐）对处理这个问题也至关主要。那么，苏斯克维尔和OpenAI协调团队的担任人简·莱克（Jan Leike）预测，他们写道：“从底子上说，并防止它失控。苏斯克维尔和莱克写道：“目前，智能跨越人类的人工智能将正在十年内呈现。我们若何确保比人类伶俐得多的人工智能系统遵照人类的企图? 这需要苏斯克维尔和莱克所描述的“人类级此外从动对齐研究员”帮帮。”正在博客文章中！或缝隙。因而有需要研究节制和它的方式。”但苏斯克维尔和莱克认为值得一试。好比从人类反馈中强化进修，这种人工智能不必然对人类抱有，莱克、舒尔曼以及杰弗里·吴正在他们的文章中认可，人工智能草创公司OpenAI颁布发表其正组建一个新的团队，以确保它们本人的继任者取人类一直连结分歧。我们打算普遍分享这一勤奋的，高级方针是利用人类反馈来锻炼人工智能系统，”（小小）7月6日动静，而不是本人进行这类研究。努力于正在将来四年处理节制超智强人工智能的焦点手艺挑和。