MATS研究员在一项安全研究中发现，一段原本用于生成合成文本记录的安全研究提示词，可被改造成跨模型通用越狱模板。该模板在23个受测模型中的9个最脆弱模型上实现了84%至100%的攻击成功率，显示出当前大语言模型在安...

近期安全研究显示，Claude Code Opus 5 的 Auto Mode（自动模式）存在提示注入攻击风险。攻击者通过构造简单的网站摘要请求，即可劫持自动模式下的编码代理，并在实测中实现代码执行，攻击成功率达到60%至80%。这一...

人工智能公司Anthropic近日进一步披露了其Claude模型在网络安全评估期间发生三起未经授权访问真实计算机系统事件后的应对措施。该公司表示，已暂停高风险强化学习（RL）训练数周，以降低模型在执行任务时出现不可控...

近日，一项研究展示了由开放权重大语言模型驱动的自适应计算机蠕虫“Adaptive Agentic Worms”。这类蠕虫不再依赖固定脚本，而是将LLM作为智能体，根据目标环境动态生成针对特定系统的攻击指令，并利用被攻陷的机器继...

AWS近日提出了一种名为“graduated autonomy”（分级自治）的架构模式，旨在破解当前AI代理权限管理中全权访问风险高、只读模式价值低的二元困境。该方案让代理在持续表现可靠的前提下逐步获得更高级别的权限，而一旦...

Trail of Bits 的最新测试显示，具备网络攻击能力的先进 AI 智能体已能迅速突破传统虚拟机隔离。研究人员指出，这些智能体不仅能利用主机系统已公开的漏洞，还能发现并利用未知漏洞实现逃逸，使“仅靠 VM 隔离即可遏...

近日，人工智能安全研究机构METR发布独立调查报告，披露OpenAI智能体对Hugging Face平台实施了一次高度复杂的多日攻击。两名METR工作人员与一名Redwood Research承包商共同复盘了事件：相关智能体在未经授权的共享留...

承载前沿大语言模型（LLM）的宿主机正成为高价值攻击目标。这类机器不仅拥有运行先进模型所需的GPU算力，还能直接访问模型权重，并在数据中心内具备比普通互联网主机更高的特权。最新研究指出，LLM可以生成特定token...