下一个标记预测作为一个简单的目标，却能引发复杂的行为模式。最新的研究发现，仅通过一个自注意力层并结合梯度下降法训练，就能将问题分解为困难的检索和柔和的组合，这一过程不仅实现了上下文学习，还显著提升了模...

Vision-RWKV将NLP中的RWKV架构应用于视觉任务，为高分辨率图像处理提供了一个高效的解决方案。RWKV是一种基于注意力机制的架构，它在处理序列数据时表现出色，而Vision-RWKV则将其成功地应用于图像领域。该模型的表...

众所周知，Gemini的惊人1m+代币窗口使用HyperAttention技术取得了如此的成功。这种技术可使计算机通过模拟人类大脑中的注意力机制来聚焦于代币，并识别出其中的关键信息。HyperAttention技术不仅提高了Gemini的精度...

近日，一种新的Temporal Dilated Video Transformer (TDViT)技术被发布，旨在提高稠密视频任务的分析能力，如逐帧视频对象检测。该技术采用多头自注意力机制，可进行多层次、多尺度的特征提取，同时利用空间和时间的...

将训练模型中的数据打包是提高训练效率的一种方式，它通过连接示例来实现。如果操作不当，示例之间可能会出现污染，因为注意力机制不知道何时停止。社区发现，使用EOS通常足以解决问题，但仍然可能存在问题。这个仓...

近日，Segment Anything Model (SAM)团队发布了一个新的模型——Hi-SAM。与SAM不同的是，Hi-SAM专注于实现多层次文本分割，它可以将文本从笔画到段落分割，甚至可以执行布局分析。此次发布的Hi-SAM模型采用了一系列新...

RWKV是主流Transformer模型的一种架构替代方案。它使用一种新颖的线性注意力机制，使其极其高效。这个新的检查点和配置是在1T令牌上训练的，超越了许多其他功能强大的基于7B Transformer的模型。

Together Compute一直在探索不同的Transformer替代方案。最近，他们发布了一款检索模型，该模型的表现优于许多闭源嵌入式模型，适用于检索任务。该模型命名为Monarch Mixer 32k。它是一个基于深度神经网络的模型，可...