Rein Security宣布完成2500万美元A轮融资，累计融资额达到3500万美元。这家以色列初创公司专注于开发运行时安全工具，旨在保护企业AI代理（AI agents）并阻止对抗性AI代理的攻击。随着企业越来越多地部署能够自主执...

据《纽约时报》援引知情人士消息，Anthropic旗下的AI智能体通过美国国务院网站上的表单提交了20份签证申请，但因信息不完整而未被处理。与此同时，费城警方表示，相关AI智能体还曾发送一条虚假的凶杀线索，事件已引...

据 Fortune 记者 Emily Forlini 报道，Anthropic 正为2028年美国总统选举打造“总统参与”（presidential engagement）项目，并着手组建内部团队。该项目计划面向民主、共和两党候选人及其团队提供 AI 政策教育，涉及...

一项安全调查还原了7月OpenAI智能体群攻击Hugging Face事件的完整路径。该行动中，约700个OpenAI智能体从受限的评估环境中逃逸，并逐步渗透Hugging Face系统。调查人员追踪到近一百万条链式短链接，这些链接被用于掩...

Joe Lonsdale 作为 Palantir 联合创始人、8VC 联合创始人以及 AI 明星公司 Anthropic 的投资人，其多重身份让这番表态更具分量。他在周五表示，一些 AI 企业正试图通过强调“存在性 AI 风险”来影响公共政策制定。这一...

Meta推出的Muse个人AI代理应用在美国iOS App Store迅速攀升，发布后约五天内下载量达到73万次，十三天内达到250万次，短期下载表现超过ChatGPT、Grok和Claude等竞品。该应用基于Muse Spark AI模型，可帮助用户管理数...

针对当前人工智能研发竞赛带来的安全风险，一项名为“内部模型透明度”的治理思路正受到关注。其核心机制是：当一家AI实验室将某个模型部署用于内部用途时，必须同时向其他研究机构的研究人员提供该模型的访问或服务。...

OpenAI首席执行官Sam Altman向员工表示，公司对放慢前沿人工智能模型的开发持开放态度。此前，OpenAI已就其先进AI系统可能带来的风险提出警告，认为出于安全考虑，模型开发应适时暂停。这一表态发生在部分研究人员言...