微软近日详细公布了其前沿预训练模型MAI-Base-2的训练细节。该模型采用混合专家（MoE）架构，总参数规模达到2.8万亿，活跃参数为800亿。微软表示，在留出预训练评估中，MAI-Base-2超越了所有开源权重模型，展现出较...

一项针对大规模混合专家（MoE）模型长上下文训练内存瓶颈的研究提出四项调度技术，目标是同时约束所有内存峰值，而非仅降低平均占用。研究指出，长上下文或大batch下，任一组件的峰值分配超过设备内存就会失败，因此...

SemiAnalysis最新披露的推理测试结果显示，NVIDIA下一代Vera Rubin NVL72平台在运行1.6万亿参数的DeepSeek模型时，每兆瓦功耗下的Token吞吐量最高达到Blackwell平台的7倍，明显高于黄仁勋此前对1T-3T规模LLM给出的3...

NVIDIA在Hugging Face平台推出DeepSeek-V4-Pro-0813-NVFP4量化模型，该模型是DeepSeek-V4-Pro-0813的量化版本，采用自回归混合专家（MoE）语言模型架构。通过NVIDIA Model Optimizer量化后，模型在保持高级推理能力...

Z.ai正式确认，此前以ox-alpha名称匿名参与评测的模型，实际是GLM-5.3-Flash。该模型采用3200亿参数的混合专家（MoE）架构，每次推理仅激活180亿参数，在编码和智能体相关基准测试中表现接近Claude Opus 4.8。这一消...

随着DeepSeek-V4-Pro等1.6万亿参数Mixture-of-Experts（MoE）模型同时发布FP8与FP4权重，如何在真实资源约束下高效服务前沿模型成为AI基础设施团队的核心挑战。LMSYS博客文章指出，服务配置不应仅依据硬件规格或孤立...

英伟达推出了全新的Nemotron 3.5 Lightning模型和NeMo Switchyard开源库，旨在大幅降低AI代理的推理成本并提升效率。Nemotron 3.5 Lightning是一个拥有300亿参数的混合专家模型（MoE），专为高吞吐量的专用代理任务...

EschaLabs 近日发布了 Escha-W2，这是对 Qwen3.6-35B-A3B 混合专家（MoE）模型进行 2 比特量化后的构建版本。Qwen3.6-35B-A3B 本身是一个包含 256 个专家的庞大架构，总参数量达到 35B，但在每次推理中仅激活 3B 参...