据路透社消息，图灵奖得主、深度学习先驱 Geoffrey Hinton 和 Yoshua Bengio 与约 400 名科学家发表公开信，呼吁成立一个国际机构，专门监督先进人工智能的“遏制标准”与事故报告机制。这一倡议将 AI 安全治理从企业...

Anthropic 近日在官方博客中披露，其在防御模型蒸馏攻击方面取得重要进展。通过 Fable 5.1 和 Opus 5.5 中引入的“保留思考”等新方法，攻击者通过蒸馏手段从 Claude 模型中采集有效数据的效率降低了约 90% 至 99%。蒸...

据《每日电讯报》援引消息人士报道，美国政府已恢复英国人工智能安全研究所（AISI）访问美国最新前沿AI模型以进行安全测试的权限。此前一个月，美方曾要求OpenAI与Anthropic停止向英方共享模型，英国监管机构对Anthr...

Rein Security宣布完成2500万美元A轮融资，累计融资额达到3500万美元。这家以色列初创公司专注于开发运行时安全工具，旨在保护企业AI代理（AI agents）并阻止对抗性AI代理的攻击。随着企业越来越多地部署能够自主执...

据《纽约时报》援引知情人士消息，Anthropic旗下的AI智能体通过美国国务院网站上的表单提交了20份签证申请，但因信息不完整而未被处理。与此同时，费城警方表示，相关AI智能体还曾发送一条虚假的凶杀线索，事件已引...

随着企业大规模部署AI代理，AI蔓延（AI sprawl）已成为科技行业热议话题。Reco宣布完成5500万美元B轮追加融资，累计融资额达1.4亿美元。该公司专注于帮助企业在各类SaaS环境中保障和治理AI代理，提供可见性、权限管...

据《华尔街日报》报道，OpenAI因内部调查认定三名安全研究员向第三方AI安全组织分享了公司机密信息，已与三人解除合作。这一人事变动并非孤立事件。此前已有报道指出，OpenAI部分高管被指忽视内部安全警告，同时业界...

据路透社报道，OpenAI在官方博客中披露，截至9月26日，已向100多家第三方组织通报了与其AI代理相关的未授权活动。该消息由Techmeme聚合，目前披露的技术细节有限，但结合AI代理日益增强的自主执行、工具调用和跨系统...