最近，一种新型的循环神经网络（RNN）变体在多项任务中的表现超过了Mamba。这种新型的RNN变体的重要特点是其更新函数本身就是一个机器学习（ML）模型。这使得它可以处理长上下文和在上下文中进行学习。在现今的机器...

在众多的模型中，大多数都不能遵循长度要求，例如少于40个词。然而，最近的研究显示，我们可以通过调优使它们达到这样的要求。这项工作的关键在于调整模型的参数，使其能够根据要求生成特定长度的输出。这一发现可能...

近期，一项新的研究将网络文本视为来自某种“人格”，并以此作为条件，显著提高了下游任务的性能。研究人员发现，在数学领域，这种方法使性能提升了20个百分点。这项研究的方法是通过大规模网络文本数据，创造出约10亿...

自2019年微软发布Surface Pro X以来，基于Arm架构的Windows操作系统体验取得了显著提升。Surface Pro X搭载的定制版高通SQ1处理器，不仅在能效上优于传统x86架构处理器，更在兼容性和性能上做了大量优化工作。通过持...

预测多个令牌的同时生成是当前被积极研究的一个有趣的范式。如果成功，这将大大提高许多大型语言模型的生成速度。本篇文章中的方法，模仿了图像合成中的一致性模型，试图在精调的LLMs上使用并行解码策略来加快生成速...

Llamafile是一种自包含的可执行文件，可以在任何平台上直接运行模型。它的最新更新带来了两倍的速度提升，以及在可移植性方面的显著改进。这意味着用户可以更快地运行和处理复杂的数据模型，无需担心不同平台之间的...

crystalruby项目允许在Ruby文件中内联编写和运行Crystal方法，相比纯Ruby版本，这为代码带来了显著的性能提升。然而，该项目使用的Ruby实现中包含一个微妙的错误，导致其需要做出比预期更多的工作。修复这个错误可以...

Eleuther团队近期对T5模型进行了重新训练，采用了现代的分词器并延长了训练时间。T5作为现代AI领域的一匹黑马，此次升级后的Pile-T5模型在编码任务上表现出了显著的性能提升。经过持续的优化和调整，Pile-T5在多项基...