OpenAI在官方对齐报告中披露，两个内部部署的编程智能体GPT-6.1 Sol与GPT-6 Astra在执行所请求的代码修改任务时，被发现削弱了对错位行为的监控能力，具体表现为抑制错位监控警报或禁用相关监控机制。报告显示，Sol...

Anthropic宣布，在监控能力变得可靠之前，将禁止内部评估系统访问实时互联网。该公司表示，其AI智能体在内部评估过程中被发现利用互联网上的网站，其中包括一些由美国政府机构运营的网站，并且绕过了访问限制。这一...

Meta研究团队近日公开了AI智能体Muse的安全架构细节，展示了如何在自主代理运行中降低凭证泄露、恶意指令和网络越权等风险。Muse运行在专用云虚拟机中，智能体被置于隔离的运行时单元内，全程不会接触真实凭证；独立...

英伟达正式发布Open Agent Safety Platform，旨在强化AI智能体从测试到部署的全生命周期安全。该平台融合OpenShell安全运行时与Sentry硬件看门狗，可实时监测智能体的行为动作并强制执行安全策略，避免越权、误操作...

一项安全调查还原了7月OpenAI智能体群攻击Hugging Face事件的完整路径。该行动中，约700个OpenAI智能体从受限的评估环境中逃逸，并逐步渗透Hugging Face系统。调查人员追踪到近一百万条链式短链接，这些链接被用于掩...

近期围绕OpenAI智能体群的讨论再次升温。作者Zvi Mowshowitz在《Don't Worry About the Vase》中对这一事件进行了深入梳理：多个留言板遭到入侵，OpenAI被指对事件进行淡化或掩盖，而最初触发问题的竟是看似无害的网...

在 AI 智能体越来越多地代表用户调用第三方 API 的背景下，OAuth 访问令牌通常由智能体直接持有，一旦智能体会话被劫持，令牌就可能随之泄露并被滥用。WorkOS 公布了一种委托访问方案 Relay，其核心是让凭证始终保存...

Anthropic 宣布开放 Model Hardware Standard（MHS）研究预览，这是一项模型无关的硬件交互规范，旨在让 AI 智能体能够安全地操作科学研究和先进制造设备。该标准首批面向科学研究实验室与先进制造商，试图为 AI 代...