Anthropic威胁情报团队发布最新报告，披露在2025年12月至2026年8月期间，已识别并中断多起威胁行为者试图利用Claude进行恶意活动的行动。报告重点分析了网络操作、生物滥用等七个危害领域中的典型案例，并梳理了自上...

链式思维（Chain-of-Thought, CoT）是当前监督和解读大模型推理过程的重要工具，但一些新型架构变化可能显著降低CoT的可监控性。针对这一问题，Redwood Research提出“不透明串行深度”的可操作化概念，将“文本瓶颈之...

OpenAI首席执行官Sam Altman向员工表示，公司对放慢前沿人工智能模型的开发持开放态度。此前，OpenAI已就其先进AI系统可能带来的风险提出警告，认为出于安全考虑，模型开发应适时暂停。这一表态发生在部分研究人员言...

OpenAI 非营利董事会成员、AI 对齐研究领域的重要人物 Paul Christiano 在社交平台表示，他将加入 OpenAI 非营利董事会，并在安全与保障委员会任职，以支持安全监督工作。他同时发出明确警告：当前 AI 行业并未走在...

OpenAI 的 Astra 模型展示了在漏洞发现与利用上的能力跃升：它能够自主发现零日漏洞，并将其串联成完整攻击链。这一能力意味着过去依赖周期性渗透测试的防御思路已明显不够。对正在将 AI 系统投入生产环境的企业而言...

随着AI代理越来越多地调用外部工具并消费返回结果，工具输出已成为提示注入的新攻击面。ARMO最新分析指出，隐藏在工具结果中的恶意指令之所以能绕过常规防护，核心原因是输入检查与动作检查分别发生在代理循环的不同...

近日，OpenAI 发布内部观察，披露其研究流程正被编码智能体（coding agents）深度重塑。研究人员更频繁地调用编码智能体，自动生成代码并执行实验，实验迭代速度显著提升，使研究者能够将更多精力转向更复杂、更高阶...

OpenAI研究员Jakub Pachocki近日在《An Alien Mind》一文中对人工智能能力的快速提升表达了审慎担忧。他指出，具备推理能力的模型可能持续高速进化，甚至达到能够参与自身研发的程度。这种自加速趋势一旦形成，将带...