在近期一场聚焦GPU优化的自动研究竞赛中，参赛者针对批量方阵compact-Householder QR分解（qr_v2）问题展开优化，最终在GPU Mode的qr_v2任务上实现了相对基线高达232倍的内核加速，并在183名参与者中位列第12。该项...

2023年，AMD针对其图形处理单元（GPU）进行了优化，以增强其在大型语言模型（LLM）推理任务中的竞争力。这项优化涉及到硬件和软件层面的协同工作，使得AMD的GPU在处理复杂的机器学习任务时能提供更好的性能和效率。...

1比特语言模型的研究为深度学习领域带来了新的突破。该技术通过在不损失性能的前提下，对语言模型中的线性层进行量化处理，实现了模型大小的大幅压缩。这一创新使得原本只能在高性能计算平台上运行的700亿参数模型，...