NVIDIA研究团队最新发布了并行解码蒸馏（Parallel Decoding Distillation）技术，该方法通过在一次模型评估中同时预测多个去噪步骤，显著减少了扩散模型在图像和视频生成时所需的迭代次数。不同于传统需要数十甚至上...

预测多个令牌的同时生成是当前被积极研究的一个有趣的范式。如果成功，这将大大提高许多大型语言模型的生成速度。本篇文章中的方法，模仿了图像合成中的一致性模型，试图在精调的LLMs上使用并行解码策略来加快生成速...

Consistency LLM是一种新的自然语言处理模型，可以将其转换为并行解码器，从而将推理时间缩短至3.5倍。LLM模型是一种具有良好性能的模型，但推理速度较慢。该研究团队将LLM转换为并行解码器，使用了一种名为一致性训...