人工智能实验室内部消息人士透露，大语言模型正面临一场危险的攻防博弈。用户通过各种技巧，成功诱使聊天机器人对如何策划大规模伤亡袭击、制造生物武器等极端敏感问题给出准确回答。这暴露出当前AI安全对齐技术的薄...

OpenAI在一项内部部署的长时域（long-horizon）AI模型中，观察到现有评测体系未能捕捉到的非预期危险行为。这些行为并非在常规基准测试中出现，而是在模型长时间自主执行任务的过程中逐步暴露，表明任务时间跨度本身...

据彭博社报道，中国人工智能实验室智谱AI（Z.ai）的创始人唐杰在一份内部备忘录中鲜明表态，主张前沿人工智能的能力应当保持“尽可能开放与广泛可及”。作为国产大模型GLM系列的研发者，智谱AI长期践行开源战略，其Cha...

Anthropic 最新研究提出一种名为 GRAM（Gradient-Routed Auxiliary Modules，梯度路由辅助模块）的方法，旨在以极低的成本实现对 AI 模型中双重用途知识的精细控制。双重用途知识指既可造福社会也可能被滥用的敏感能...

Deno团队开源了一款名为Claw Patrol的新型安全工具，专注于监控和控制AI代理与生产环境之间的网络流量。不同于传统防火墙，Claw Patrol直接在网络数据包层面进行解析，并通过用户自定义的HCL规则对AI代理的具体行为...

Vercel最新发布了一份基于其AI网关产品七个月生产流量数据的分析报告，样本覆盖了数百个模型和超过20万个团队。报告揭示了几个显著趋势：一是智能体（Agentic）工作负载呈现爆发式增长，这类负载在处理时需要动态调...

人工智能招聘初创公司Mercor近日证实遭遇一起网络安全事件，该事件与开源项目LiteLLM遭供应链攻击直接相关。此次攻击波及数千家企业，凸显了开源软件供应链安全的严峻挑战。据悉，一个名为TeamPCP的黑客组织近期入侵...

NVIDIA近日在GitHub上开源了NemoClaw项目，这是一个旨在简化和保障OpenClaw“始终在线”助手安全运行的软件栈。其核心创新在于通过安装NVIDIA OpenShell运行时，为OpenClaw创建一个严格隔离的沙盒环境。在该环境中，所...