OpenAI正经历一轮剧烈的组织重构。在多位高管陆续离职、公司又深陷与联合创始人埃隆·马斯克的诉讼拉锯之际，总裁Greg Brockman的职责显著扩大，开始直接掌控产品团队与扩展（scaling）团队。这一安排不仅是人事层面...

随着DeepSeek-V4-Pro等1.6万亿参数Mixture-of-Experts（MoE）模型同时发布FP8与FP4权重，如何在真实资源约束下高效服务前沿模型成为AI基础设施团队的核心挑战。LMSYS博客文章指出，服务配置不应仅依据硬件规格或孤立...

NeurIPS 2024系统推理研讨会最新收录的研究项目ProofOfThought提出了一种突破性的神经符号编程合成方法，通过结合大型语言模型的语义理解能力与Z3定理证明器的形式化验证机制，实现了兼具鲁棒性与可解释性的自动推理...

苹果公司研究团队通过定制化谜题环境对大型推理模型(LRMs)进行了系统性评估，揭示了人工智能推理能力的重要局限性。研究发现，随着任务复杂度提升，LRMs会经历推理效能先上升后急剧下降的拐点现象，最终在高度复杂任...

DeepSeek团队近日在GitHub开源了其第二代自动定理证明框架DeepSeek-Prover-V2，该项目迅速获得326个Hacker News点赞和63条技术讨论，显示出学术界和工业界对AI形式化验证工具的高度关注。作为当前最前沿的AI推理系统...

M1是一种基于Mamba架构的推理模型，通过扩展测试时间计算进行训练。虽然尚未完全达到最先进模型的水平，但M1在长上下文处理和高吞吐量任务中表现出色。这一突破为大规模语言模型的推理效率提供了新的研究方向，特别...

DeepSeek最新研究论文《Inference-Time Scaling for Generalist Reward Modeling》提出了一种创新方法，通过推理时缩放技术优化奖励模型，从而引导更强大的推理模型生成。该技术标志着这家中国初创公司的一项战略布...

近日，Character AI在其大规模推理系统中成功减少了KV缓存的使用，并在一个简化版的GPT模型中实现了这一优化。通过这一技术改进，内存使用量减少了40%。这一优化不仅提升了系统的运行效率，还为未来更大规模的AI模型...