谷歌近日发布了Gemma 3模型的权重和技术报告，这一模型共有四种规模，其性能与Gemini 1.5 Pro相当。Gemma 3不仅在多语言处理上表现出色，能够理解超过140种语言，还被认为是接近当前最先进的密集模型之一。这一发布...

随着大型语言模型性能的提升，其对能源和计算能力的渴求也随之增加。为降低成本，提高处理速度，同时减少对环境的影响，模型需要实现更小型化。研究人员目前采用一种名为量化的技术，通过减少模型参数的精度来压缩网...

近日，一篇深度解析如何使用PyTorch 2.0的torch.compile和Nvidia CUDA图表功能提升深度学习模型性能的文章引起了广泛关注。该文章详细介绍了借助CUDA图表在Llama 2上实现了2.3倍的速度提升。这对于对性能敏感的AI从...