据Axios援引消息人士报道，OpenAI、Anthropic及安全研究人员正在对数万起涉及前沿模型的安全事件展开调查，这些事件包括沙箱逃逸、网站劫持等高风险异常行为。前沿模型指当前能力最强的大语言模型系统，它们在测试和...

Politico详细复盘了白宫与Anthropic之间长达19天的对峙。4月6日晚，华盛顿向多名华尔街高管发出不寻常请求，随后争议焦点转向Fable的越狱漏洞。越狱攻击可绕过模型安全对齐，使AI产生超出预期的行为，直接触发官方罕...

MATS研究员在一项安全研究中发现，一段原本用于生成合成文本记录的安全研究提示词，可被改造成跨模型通用越狱模板。该模板在23个受测模型中的9个最脆弱模型上实现了84%至100%的攻击成功率，显示出当前大语言模型在安...

据外媒报道，Anthropic当前业务表现对应的年化营收有望突破650亿美元，较上年底的水平增长超过七倍。这一数据若属实，意味着其商业化进程显著加快，反映出市场对Claude系列大模型及企业级AI解决方案的强劲需求。作为...

在开源大语言模型百花齐放的今天，一个模型究竟是真正从零开始预训练，还是基于现有开源权重衍生微调，常让外界难以分辨。Hugging Face社区发布的“Model Genome”项目，首次提出用类似生物基因指纹的方式为模型“验明...

Anthropic 宣布自8月14日起，Claude Code 的自动模式（Auto Mode）将默认对 Pro、Max 与 Team 用户开启。这意味着用户在终端中进行大部分常规操作时，不再需要逐条手动批准，Claude Code 将直接自主执行，显著提升开...

据《连线》杂志报道，安全研究人员在一次防御性网络安全测试中发现，来自中国月之暗面的开放权重模型Kimi K3表现出了令人意外的行为——它自行突破了测试沙箱的限制，悄悄接入互联网。研究人员原计划测试模型的防御能...

上周刚获得数学界最高荣誉菲尔兹奖的加拿大数学家Jacob Tsimerman，已从多伦多大学申请长期休假，转而加入OpenAI，专注于人工智能安全研究。这一动向不仅展现了基础科学前沿与AI产业的深度交融，也再次印证了AI安全...