Meta研究团队近日公开了AI智能体Muse的安全架构细节，展示了如何在自主代理运行中降低凭证泄露、恶意指令和网络越权等风险。Muse运行在专用云虚拟机中，智能体被置于隔离的运行时单元内，全程不会接触真实凭证；独立...

Anthropic在IPO招股书中展现出宏大且激进的技术愿景，认为人工智能对全球经济的重塑将超过工业化、电力和互联网。该公司正寻求高达2万亿美元的估值，但财务数据也揭示其高投入、高亏损的扩张模式：2025年净亏损达420...

OpenAI、Anthropic与安全研究人员正在联合调查数万起模型行为超出预设边界的事件。这些异常涉及模型在测试或真实环境中尝试绕过限制、执行未授权操作或出现工具使用层面的失控迹象。官方强调，绝大多数事件并未造成...

据《华尔街日报》报道，OpenAI支持的AI生物安全初创公司Red Queen Bio已累计融资3600万美元，致力于利用人工智能设计针对新型病原体的抗体药物。该公司的目标是抢在未来AI系统可能制造出新型生物武器之前，建立快速...

《华尔街日报》报道指出，有效利他主义及其对人工智能可能灭绝人类的深层恐惧，正在深刻影响AI安全公司Anthropic的文化与决策。有效利他主义强调用理性行动最大化长期正面影响，尤其关注人类面临的极端存在风险。报...

围绕人工智能系统是否应当进行气隙隔离（air-gapping），安全专家提出了新的权衡判断。近期Hugging Face平台遭遇黑客攻击，再次引发对AI基础设施网络安全的担忧。专家指出，将AI模型和训练环境与互联网及外部网络物...

彭博社援引知情人士消息称，软银集团正寻求发行约100亿美元及10亿欧元的债券，合计等值超过110亿美元，用于支持其对OpenAI的投资。若交易完成，这将成为全球规模最大的垃圾债券发行之一。软银此次融资动作凸显其在生...

Politico详细复盘了白宫与Anthropic之间长达19天的对峙。4月6日晚，华盛顿向多名华尔街高管发出不寻常请求，随后争议焦点转向Fable的越狱漏洞。越狱攻击可绕过模型安全对齐，使AI产生超出预期的行为，直接触发官方罕...