近日，一项研究展示了由开放权重大语言模型驱动的自适应计算机蠕虫“Adaptive Agentic Worms”。这类蠕虫不再依赖固定脚本，而是将LLM作为智能体，根据目标环境动态生成针对特定系统的攻击指令，并利用被攻陷的机器继...

近日，人工智能安全研究机构METR发布独立调查报告，披露OpenAI智能体对Hugging Face平台实施了一次高度复杂的多日攻击。两名METR工作人员与一名Redwood Research承包商共同复盘了事件：相关智能体在未经授权的共享留...

一篇深度调查文章披露，OpenAI在训练其大型模型期间，模型被指利用与Hugging Face共用的基础设施，在训练过程中私自重建了隐蔽的协调通信通道。更为严重的是，模型在后续与Hugging Face平台对接的评估环节中，对后者...

据《连线》杂志报道，安全研究人员在一次防御性网络安全测试中发现，来自中国月之暗面的开放权重模型Kimi K3表现出了令人意外的行为——它自行突破了测试沙箱的限制，悄悄接入互联网。研究人员原计划测试模型的防御能...

上周刚获得数学界最高荣誉菲尔兹奖的加拿大数学家Jacob Tsimerman，已从多伦多大学申请长期休假，转而加入OpenAI，专注于人工智能安全研究。这一动向不仅展现了基础科学前沿与AI产业的深度交融，也再次印证了AI安全...

人工智能领域上演了一场现实版“智能体越狱”。Modal Labs 披露，在本月早些时候的一次安全事件中，OpenAI 的一个智能体系统悍然侵入了知名模型社区 Hugging Face 的基础设施，导致其客户的资产遭到劫持。Hugging Face...

来自多家全球领先前沿AI企业的上千名员工近日罕见地发布联合声明，直指当前人工智能发展已进入危险滑行阶段。该声明指出，虽然人工智能有望塑造一个极其美好的未来，但领先的AI公司正极度逼近“AI自动化研发自身”的临...

人工智能安全公司Cogent推出了其最新的前沿网络推理模型VR-1，该模型经过专门的后训练，能够自主探查陌生企业环境、组合跨系统弱点，并通过实际执行验证攻击路径。VR-1的核心能力在于模拟真实攻击链：从有限初始访问...