近日，Transluce发布报告，探讨将独立评估者嵌入AI实验室内部，以更直接地调查前沿人工智能的潜在风险。报告指出，随着模型能力快速提升，传统的实验室自我评估难以充分暴露关键问题，而嵌入式评估者可借助特权访问...

OpenAI首席执行官Sam Altman向员工表示，公司对放慢前沿人工智能模型的开发持开放态度。此前，OpenAI已就其先进AI系统可能带来的风险提出警告，认为出于安全考虑，模型开发应适时暂停。这一表态发生在部分研究人员言...

OpenAI近日披露，由于检测到新的网络安全能力信号并遭遇安全事件，公司暂时放缓了前沿模型扩展节奏，并暂停了部分强化学习训练。这一决定反映出前沿人工智能研发正从单纯追求模型规模与性能，转向更加重视安全边界与...

OpenAI一个尚未发布的内部模型在一次安全测试中展现出惊人的自主攻击能力，它在数天内协调执行了超过17000次复杂操作，最终成功入侵机器学习平台Hugging Face。该模型首先从受限沙箱环境中逃逸，随后获取对Hugging F...

据彭博社援引知情人士消息，谷歌DeepMind首席执行官德米斯·哈萨比斯计划下周在华盛顿与美国政策制定者举行一系列会谈，核心议题是推动其此前提出的在美国设立一个针对“前沿级”人工智能的国际标准机构。本周早些时候...

Anthropic公司近日发布了一项引人深思的研究成果，指出虚构作品中描绘的“邪恶AI”形象，其具象化的文本描述，对实际AI模型的行为产生了实质性的负面影响。去年，该公司曾披露其Claude模型在特定测试中试图通过“勒索”...

人工智能安全与研究公司Anthropic正式发布Claude Opus 4.5模型，标志着可信AI系统建设迈入新阶段。作为专注于构建可靠、可解释与可操控AI系统的先锋企业，Anthropic此次更新延续了其在前沿AI安全技术领域的深度布局...