LLaVA-STF项目通过创新的相邻令牌合并技术和多区块令牌融合模块，成功将视觉令牌序列压缩75%，显著提升了多模态推理效率。该技术突破性地解决了视觉语言模型中长序列处理带来的计算资源消耗问题，通过动态合并语义相...

谷歌高被引研究员Kevin Murphy近期更新了其200页的强化学习权威教材，系统性地覆盖了从传统方法到直接偏好优化（DPO）、广义策略优化（GPRO）以及推理技术等最前沿进展。该教材作为领域内的标杆性文献，不仅整合了经...

近日，科技社区热议的π0.5（Pi-0.5）模型在开放世界泛化能力上取得重要进展。该视觉语言模型（VLA）通过创新架构设计，在未见过的新场景中展现出超越同类模型的零样本学习能力。技术博客透露，其核心突破在于动态多...

Video-R1项目提出了一种创新的基于规则的强化学习（RL）方法，专门用于视频推理任务。该方法采用了GRPO（Generalized Reinforcement Learning with Policy Optimization）的时间变体，并引入了新的数据集来支持训练...

FastCuRL-1.5B-Preview 是一种基于课程强化学习（Curriculum Reinforcement Learning）的慢思维推理模型，该模型在较少的训练步骤中实现了最先进的性能，展示了其在复杂推理任务中的潜力。相比传统方法，FastCuRL 通...

Qwen团队近日发布了一款名为QwQ 32B的开源推理模型，该模型基于Apache 2.0许可证，性能与DeepSeek R1相当，甚至优于许多更大的蒸馏模型。团队通过结合基于结果的奖励机制、形式化验证和测试用例检查，使模型在数学和...

近日，Jakiro团队通过引入Mixture of Experts（MoE）技术，成功优化了Speculative Decoding的性能。该方法通过生成多样化的预测结果，减少了候选预测之间的相关性，从而显著提升了推理速度。Speculative Decoding作...

PuzzleVQA是一个专为测试大型多模态模型，如GPT-4V的抽象推理能力而设计的数据集。该数据集通过一系列复杂的视觉问题和答案对，评估模型在理解和推理方面的表现。这些问题往往需要模型进行深层次的逻辑思考和抽象概...