美国白宫人工智能特别工作组已正式通过章程，开启为期120天的评估窗口。据Semafor报道，工作组将在窗口期内围绕人工智能开展评估，包括编制一份AI风险报告，并推进《白宫SI协议》的实施。120天时间较短，意味着相关...

《华尔街日报》报道指出，有效利他主义及其对人工智能可能灭绝人类的深层恐惧，正在深刻影响AI安全公司Anthropic的文化与决策。有效利他主义强调用理性行动最大化长期正面影响，尤其关注人类面临的极端存在风险。报...

针对当前人工智能研发竞赛带来的安全风险，一项名为“内部模型透明度”的治理思路正受到关注。其核心机制是：当一家AI实验室将某个模型部署用于内部用途时，必须同时向其他研究机构的研究人员提供该模型的访问或服务。...

近日，Transluce发布报告，探讨将独立评估者嵌入AI实验室内部，以更直接地调查前沿人工智能的潜在风险。报告指出，随着模型能力快速提升，传统的实验室自我评估难以充分暴露关键问题，而嵌入式评估者可借助特权访问...

Cohere首席执行官Aidan Gomez近日发文指出，当前全球人工智能监管规则若由少数硅谷主导企业推动，将带来竞争与治理双重风险。他类比历史上部分垄断企业曾以安全为名限制市场竞争的做法，认为如今一些AI监管提案可能...

OpenAI现任能力研究员Dan Selsam通过前同事Daniel Kokotajlo公开了一份个人声明。Selsam自2022年起在OpenAI从事能力研究，曾担任Kokotajlo的上级。他在声明中指出，当前顶尖模型正在发展出越来越强的“情境意识”，即...

Anthropic联合创始人兼CEO Dario Amodei近日发文指出，前沿AI实验室应当主动放慢能力提升节奏，使安全评估、可解释性研究、安全防护和运营严谨性能够同步跟进。文章提出了一条分阶段推进的治理路径：首先在前沿实验...

近日，美国白宫人工智能与加密货币事务负责人 David Sacks 在 X 平台公开回应 Anthropic CEO Dario Amodei 的前沿 AI 政策主张，直言双方根本分歧在于：Amodei 认为前沿 AI 过于强大不应广泛分发，而 Sacks 则认为前...