PyTorch官方博客正式发布TorchNeuron，这是一个面向AWS Trainium芯片的开源原生PyTorch后端。该项目允许开发者继续使用已有的模型代码、库和工具，即可将训练负载迁移至Trainium，减少针对专用AI芯片的适配成本。Tor...

微软近日详细公布了其前沿预训练模型MAI-Base-2的训练细节。该模型采用混合专家（MoE）架构，总参数规模达到2.8万亿，活跃参数为800亿。微软表示，在留出预训练评估中，MAI-Base-2超越了所有开源权重模型，展现出较...

Meta研究团队正式发布Muse Spark Open，这是一款总参数量达816B、活跃参数为42B的多模态开放权重模型，上下文窗口高达1M token。官方称其为迄今能力最强的美国开放权重模型，主要面向代码生成和长周期智能体任务。该...

一项针对大规模混合专家（MoE）模型长上下文训练内存瓶颈的研究提出四项调度技术，目标是同时约束所有内存峰值，而非仅降低平均占用。研究指出，长上下文或大batch下，任一组件的峰值分配超过设备内存就会失败，因此...

NVIDIA在Hugging Face平台推出DeepSeek-V4-Pro-0813-NVFP4量化模型，该模型是DeepSeek-V4-Pro-0813的量化版本，采用自回归混合专家（MoE）语言模型架构。通过NVIDIA Model Optimizer量化后，模型在保持高级推理能力...

Z.ai正式确认，此前以ox-alpha名称匿名参与评测的模型，实际是GLM-5.3-Flash。该模型采用3200亿参数的混合专家（MoE）架构，每次推理仅激活180亿参数，在编码和智能体相关基准测试中表现接近Claude Opus 4.8。这一消...

英伟达推出了全新的Nemotron 3.5 Lightning模型和NeMo Switchyard开源库，旨在大幅降低AI代理的推理成本并提升效率。Nemotron 3.5 Lightning是一个拥有300亿参数的混合专家模型（MoE），专为高吞吐量的专用代理任务...

人工智能公司Thinking Machines正式推出开源权重模型Inkling-Small，以更小的体量实现了与Inkling相当的性能。该模型采用混合专家架构，总参数量达276B，但每次推理仅激活12B参数，大幅降低算力需求。Inkling-Small...