OpenAI超级对齐团队最新成果表明，您可以使用更弱的监督模型来引导或对齐更强大的模型，类似于弱人类对齐超级智能模型。他们使用GPT-2恢复了GPT-4的大部分对齐性能。他们指出，这种方法具有可行的路径，可以实现显著...

OpenAI正在发放一系列的资助金，以资助那些希望在超级对齐领域工作的学生和研究人员。申请截止日期为2月18日。

最近，OpenAI宣布将把大部分资源用于“超级对齐”，这使我们有必要重新审视人工智能对齐社区的一个重要观点——对齐的必要性以及人工智能（AGI）可能带来的真正风险。OpenAI是一个致力于人工智能技术的研发机构，他们的...