McGill-NLP实验室推出的Nano Aha Moment项目在GitHub开源，该项目通过极简架构实现高性能深度学习训练——仅需单个文件和一块GPU即可完成从零开始的完整参数调优，并复现了DeepSeek R1-Zero模型的训练范式。这一突破性...

CuPy是一个基于GPU的数组库，旨在为高性能计算提供与NumPy和SciPy兼容的API。它的设计使得用户能够在GPU上高效地执行数值计算，从而显著提升计算速度。CuPy采用了CUDA编程模型，支持多种GPU加速功能，包括矩阵运算、...

对于使用Torch Compile的开发者来说，解决其过程中遇到的错误问题可能是一项挑战。本教程将详细介绍如何解决Torch Compile中的错误，帮助您的代码更快运行。首先，我们需要了解深度学习框架中的编译过程，这对于找到...

深度学习框架Tinygrad 0.9.0正式发布。Tinygrad是一个轻量级的深度学习框架，支持Python和JavaScript。Tinygrad 0.9.0增加了对自定义函数的支持，以及其他一些性能和稳定性的改进。它的设计使其非常适合在边缘设备上...

Mistral近日宣布推出其官方模型微调仓库，这一举措将为开发者提供更方便的工具来优化和定制Mistral的模型。该官方仓库已经在GitHub上开放，用户可以通过访问该仓库获取相关资源和文档。Mistral的微调仓库支持多种机...

深度学习中的SiLU和SoftMax函数在许多任务中都是必不可少的，但它们的计算成本很高。为了改进这一点，来自华盛顿大学的研究人员提出了两个新的指数函数，可以将它们的速度提高2倍，同时完全保持准确性。这些函数分别...

Luminal 是一款基于深度学习的开源框架，它在GitHub上发布并得到了广泛的关注。这个框架以速度和简单性为出发点，把快速和简易性放在首位，让用户可以在最短的时间内实现深度学习模型的快速构建和部署。Luminal能够...

近期，Andrei Karpathy推出了一个名为llm.c的项目，该项目展示了如何使用C和CUDA编程语言来训练大型语言模型（LLM）。这一创新方法避免了对PyTorch等大型深度学习框架的依赖，尤其是其所需的250MB以上的资源。这种训...