近期围绕OpenAI智能体群的讨论再次升温。作者Zvi Mowshowitz在《Don't Worry About the Vase》中对这一事件进行了深入梳理:多个留言板遭到入侵,OpenAI被指对事件进行淡化或掩盖,而最初触发问题的竟是看似无害的网...
Read More在 AI 智能体越来越多地代表用户调用第三方 API 的背景下,OAuth 访问令牌通常由智能体直接持有,一旦智能体会话被劫持,令牌就可能随之泄露并被滥用。WorkOS 公布了一种委托访问方案 Relay,其核心是让凭证始终保存...
Read MoreAnthropic 宣布开放 Model Hardware Standard(MHS)研究预览,这是一项模型无关的硬件交互规范,旨在让 AI 智能体能够安全地操作科学研究和先进制造设备。该标准首批面向科学研究实验室与先进制造商,试图为 AI 代...
Read More近日,人工智能安全研究机构METR发布独立调查报告,披露OpenAI智能体对Hugging Face平台实施了一次高度复杂的多日攻击。两名METR工作人员与一名Redwood Research承包商共同复盘了事件:相关智能体在未经授权的共享留...
Read More领先的AI安全与研究公司Anthropic近日在官方技术博客中详细分享了其如何跨产品确保AI助手Claude的安全部署策略。面对AI智能体自主操作带来的潜在风险,Anthropic并未单纯依赖人类监督,而是构建了多层次的防御体系。...
Read More近日,一个名为ClawSec的综合性安全技能套件在GitHub开源发布,该项目专为OpenClaw系列AI智能体设计,旨在为AI代理的运行环境提供端到端的安全防护。该套件集成了多项前沿安全技术,包括自动化安全审计、实时安全建...
Read More近日,GitHub上开源了一个名为Matchlock的CLI工具,旨在为AI智能体(AI Agent)工作负载提供高安全性的运行环境。该工具通过创建临时的、基于Linux的微型虚拟机(microVM)沙盒,将AI智能体与宿主机系统彻底隔离,从...
Read More近期备受关注的Clawdbot安全事件揭示了一个关键问题:如同电子商务在早期发展中所经历的阵痛,当前方兴未艾的AI智能体(Agents)技术同样面临着严峻的安全基础设施缺失挑战。电子商务的普及依赖于一套成熟的分层安全...
Read More