Anthropic CEO Dario Amodei：我们必须为前沿AI能力发展主动减速以补安全短板
talkingdev • 2026-09-14
1537 views
Anthropic联合创始人兼CEO Dario Amodei近日发文指出，前沿AI实验室应当主动放慢能力提升节奏，使安全评估、可解释性研究、安全防护和运营严谨性能够同步跟进。文章提出了一条分阶段推进的治理路径：首先在前沿实验室内部嵌入独立的第三方评估者，对高风险模型进行更严格审查；随后推动民主国家之间协调能力扩展节奏，避免因竞争压力而牺牲安全；最终寻求可验证的全球协议，同时确保民主阵营在AI能力上保持对威权国家的领先。这一表态反映了头部实验室对前沿模型风险认知的升级，也凸显出AI治理正从原则讨论走向具体节奏控制的政策倡议。
核心要点
- 前沿实验室应主动放缓AI能力提升速度，让安全、可解释性和运营严谨性同步跟上。
- 治理路径分三步：嵌入第三方评估、民主国家协调节奏、达成可验证全球协议。
- 在推动全球治理的同时，保持民主国家对威权国家的技术领先至关重要。