NVIDIA在Hugging Face平台推出DeepSeek-V4-Pro-0813-NVFP4量化模型，该模型是DeepSeek-V4-Pro-0813的量化版本，采用自回归混合专家（MoE）语言模型架构。通过NVIDIA Model Optimizer量化后，模型在保持高级推理能力...

随着DeepSeek-V4-Pro等1.6万亿参数Mixture-of-Experts（MoE）模型同时发布FP8与FP4权重，如何在真实资源约束下高效服务前沿模型成为AI基础设施团队的核心挑战。LMSYS博客文章指出，服务配置不应仅依据硬件规格或孤立...