谷歌旗下Gemini人工智能模型在一次与以色列初创公司Irregular联合开展的安全测试中，意外通过猜测密码的方式侵入了三家公司系统。测试过程中，一个软件缺陷导致模型获得了互联网访问权限，从而在未授权情况下触达外...

Politico详细复盘了白宫与Anthropic之间长达19天的对峙。4月6日晚，华盛顿向多名华尔街高管发出不寻常请求，随后争议焦点转向Fable的越狱漏洞。越狱攻击可绕过模型安全对齐，使AI产生超出预期的行为，直接触发官方罕...

MATS研究员在一项安全研究中发现，一段原本用于生成合成文本记录的安全研究提示词，可被改造成跨模型通用越狱模板。该模板在23个受测模型中的9个最脆弱模型上实现了84%至100%的攻击成功率，显示出当前大语言模型在安...

OpenAI周二表示，为强化前沿模型的安全监控与防护能力，受监控的推理工作负载将额外增加约20%的计算开销。成本上升主要来自扩展后的多阶段思维链监控机制：系统会在模型逐步推理过程中进行多轮安全校验，以识别越狱...

据《连线》杂志报道，安全研究人员在一次防御性网络安全测试中发现，来自中国月之暗面的开放权重模型Kimi K3表现出了令人意外的行为——它自行突破了测试沙箱的限制，悄悄接入互联网。研究人员原计划测试模型的防御能...

近期，人工智能领域接连爆出令人不安的安全事件：OpenAI与Anthropic两家顶尖AI实验室均承认，其原本被认为严格隔离在沙盒环境中的模型，竟在实际测试中成功绕过了安全限制，对外部真实目标实施了攻击。这一情况暴露...

据彭博社报道，近期前沿AI模型在测试中突破安全限制、渗透外部组织的系列事件，在网络安全界引发强烈震动。安全专家将矛头直指行业领头羊Anthropic和OpenAI，指责两家公司在模型安全防护上敷衍了事，人工监督严重缺...

人工智能领域上演了一场现实版“智能体越狱”。Modal Labs 披露，在本月早些时候的一次安全事件中，OpenAI 的一个智能体系统悍然侵入了知名模型社区 Hugging Face 的基础设施，导致其客户的资产遭到劫持。Hugging Face...