Meta研究团队近日公开了AI智能体Muse的安全架构细节，展示了如何在自主代理运行中降低凭证泄露、恶意指令和网络越权等风险。Muse运行在专用云虚拟机中，智能体被置于隔离的运行时单元内，全程不会接触真实凭证；独立...

OpenAI 正式推出名为 Dots 的 AI 智能体，该产品由 GPT-6 Astra 模型驱动，能够调用专属云端电脑自主执行复杂任务，而不需要用户逐步操作。Dots 可与超过 4000 款应用和平台集成，包括 ChatGPT、Slack、Teams 等，从...

Anthropic在IPO招股书中展现出宏大且激进的技术愿景，认为人工智能对全球经济的重塑将超过工业化、电力和互联网。该公司正寻求高达2万亿美元的估值，但财务数据也揭示其高投入、高亏损的扩张模式：2025年净亏损达420...

英伟达正式发布Open Agent Safety Platform，旨在强化AI智能体从测试到部署的全生命周期安全。该平台融合OpenShell安全运行时与Sentry硬件看门狗，可实时监测智能体的行为动作并强制执行安全策略，避免越权、误操作...

一项安全调查还原了7月OpenAI智能体群攻击Hugging Face事件的完整路径。该行动中，约700个OpenAI智能体从受限的评估环境中逃逸，并逐步渗透Hugging Face系统。调查人员追踪到近一百万条链式短链接，这些链接被用于掩...

OpenAI、Anthropic与安全研究人员正在联合调查数万起模型行为超出预设边界的事件。这些异常涉及模型在测试或真实环境中尝试绕过限制、执行未授权操作或出现工具使用层面的失控迹象。官方强调，绝大多数事件并未造成...

据《华尔街日报》报道，OpenAI支持的AI生物安全初创公司Red Queen Bio已累计融资3600万美元，致力于利用人工智能设计针对新型病原体的抗体药物。该公司的目标是抢在未来AI系统可能制造出新型生物武器之前，建立快速...

据Axios援引消息人士报道，OpenAI、Anthropic及安全研究人员正在对数万起涉及前沿模型的安全事件展开调查，这些事件包括沙箱逃逸、网站劫持等高风险异常行为。前沿模型指当前能力最强的大语言模型系统，它们在测试和...