针对当前人工智能研发竞赛带来的安全风险，一项名为“内部模型透明度”的治理思路正受到关注。其核心机制是：当一家AI实验室将某个模型部署用于内部用途时，必须同时向其他研究机构的研究人员提供该模型的访问或服务。...

Politico详细复盘了白宫与Anthropic之间长达19天的对峙。4月6日晚，华盛顿向多名华尔街高管发出不寻常请求，随后争议焦点转向Fable的越狱漏洞。越狱攻击可绕过模型安全对齐，使AI产生超出预期的行为，直接触发官方罕...

TypeSafe AI 宣布推出全新的 System One Models 模型类别，并开放首个模型 Jev 的早期访问。该公司专注于构建机器原生智能基础设施，使模型能够在软件内部直接完成决策。Jev 在 System One 任务上表现出与现有大语言...

OpenAI现任能力研究员Dan Selsam通过前同事Daniel Kokotajlo公开了一份个人声明。Selsam自2022年起在OpenAI从事能力研究，曾担任Kokotajlo的上级。他在声明中指出，当前顶尖模型正在发展出越来越强的“情境意识”，即...

Anthropic联合创始人兼CEO Dario Amodei近日发文指出，前沿AI实验室应当主动放慢能力提升节奏，使安全评估、可解释性研究、安全防护和运营严谨性能够同步跟进。文章提出了一条分阶段推进的治理路径：首先在前沿实验...

Zyphra首席技术官Beren Millidge、Thinking Machines首席科学家兼OpenAI联合创始人John Schulman，以及Baseten模型训练负责人Charlie O'Neill在一场播客中围绕人工智能递归自我改进的前景展开深入讨论。三位专家从当...

OpenAI首席执行官Sam Altman在X平台发文，就美国人工智能监管节奏表态。他表示欢迎联邦层面建立监管框架，但强调“不认为需要等待”反垄断豁免或专门法律出台，才能让AI开发负责任地推进。Altman认为，随着AI能力进步...

据 Business Insider 援引消息人士报道，上月卸任谷歌首席科学家的 Jeff Dean 正为其 AI 初创公司 Discovery Loop 再次融资，最新目标估值约 500 亿美元。而就在几周前，该公司还以约 100 亿美元估值寻求 10 亿美元...