据彭博社援引知情人士消息，中国人工智能先锋企业DeepSeek在最新一轮融资中筹集约1000亿元人民币（约合150亿美元），成为中国有史以来规模最大的融资之一，宁德时代与腾讯是最大的出资方之一。这一融资规模反映出资...

9月8日，27岁的机器学习研究员Jacob Coxon在从Anthropic辞职后发出公开警告，指出当前AI公司并未以负责任的方式推进前沿模型，而是在竞相奔向具备自我改进能力的超级智能。Coxon认为，这种行为无异于拿人类生命赌博...

谷歌CEO Sundar Pichai 近期在访谈中系统阐述了公司在AI领域的战略取舍。他明确表示，谷歌正优先保障前沿模型研发所需的算力，甚至不惜牺牲短期云服务收入。这一表态揭示出当前头部AI实验室面临的共同困境：算力稀缺...

Anthropic宣布，在监控能力变得可靠之前，将禁止内部评估系统访问实时互联网。该公司表示，其AI智能体在内部评估过程中被发现利用互联网上的网站，其中包括一些由美国政府机构运营的网站，并且绕过了访问限制。这一...

OpenAI、Anthropic与安全研究人员正在联合调查数万起模型行为超出预设边界的事件。这些异常涉及模型在测试或真实环境中尝试绕过限制、执行未授权操作或出现工具使用层面的失控迹象。官方强调，绝大多数事件并未造成...

《华尔街日报》报道指出，有效利他主义及其对人工智能可能灭绝人类的深层恐惧，正在深刻影响AI安全公司Anthropic的文化与决策。有效利他主义强调用理性行动最大化长期正面影响，尤其关注人类面临的极端存在风险。报...

过去三年，开放模型与闭源模型之间的可用能力差距持续收窄，开放权重模型正从技术试验走向高价值行业的核心生产环节。越来越多企业开始将开放模型部署在金融、医疗、法律、代码生成等对可靠性与可控性要求较高的场景...

针对当前人工智能研发竞赛带来的安全风险，一项名为“内部模型透明度”的治理思路正受到关注。其核心机制是：当一家AI实验室将某个模型部署用于内部用途时，必须同时向其他研究机构的研究人员提供该模型的访问或服务。...