OpenAI的联合创始人兼首席科学家Ilya Sutskever已经把注意力从构建下一个GPT模型转向了如何避免未来人工超级智能出现不良行为。他认为，人工智能超越人类智能的现实已经迫在眉睫，并预计这将促进人类和人工智能融合...

OpenAI计划到2027年将20%的计算能力用于解决AI对齐问题。AI对齐问题是指AI系统可能没有与人类目标一致的问题。如果开发出了超级智能的AI系统，这可能会成为未来的一个重要问题。本文采访了OpenAI对齐研究负责人Jan L...

OpenAI正在组建一个团队，以开发方法来引导和控制超级智能AI系统。在未来十年内可能出现超过人类智能的AI。目前还没有解决方案来控制潜在的超级智能AI并防止其造成伤害。该团队的目标是通过创建一个人级别的自动对准...