Nebius近日开源了Kvax项目,这是一个基于JAX框架的Flash Attention实现,专门针对长上下文训练场景进行了优化。Kvax通过创新的上下文并行技术和高效的文档掩码计算,实现了更快的训练速度和更高的数据密度压缩,在性...
Read MoreMetaLoRA通过引入元学习原理的动态参数生成机制,显著提升了基于LoRA(Low-Rank Adaptation)的微调策略的灵活性和任务感知能力。这一技术突破解决了传统LoRA方法在跨任务适应性上的局限性,通过动态生成低秩矩阵参...
Read More谷歌实验室近日宣布,其人工智能研究工具NotebookLM推出重大更新——新增Discover功能模块。该功能通过AI技术实现基于用户自定义主题的智能化网络资源抓取与筛选,显著提升了学术研究和信息收集的效率。Discover功能采...
Read More近日,一项名为RGL的模块化框架在arXiv上发布,专为图结构数据的检索增强生成(RAG)流程提供了全新的解决方案。RGL通过其模块化设计和性能优化,显著提升了传统方法的效率,据称其速度提升了高达143倍。这一突破性...
Read MoreFastCuRL-1.5B-Preview 是一种基于课程强化学习(Curriculum Reinforcement Learning)的慢思维推理模型,该模型在较少的训练步骤中实现了最先进的性能,展示了其在复杂推理任务中的潜力。相比传统方法,FastCuRL 通...
Read MoreDeepSeek最新发布的V3-0324模型在多个基准测试中表现优异,全面超越GPT 4.5,展现出显著的性能提升。这一新模型的推出不仅标志着DeepSeek在人工智能领域的技术突破,也为行业带来了新的技术标杆。V3-0324在自然语言...
Read More近日,Unsloth团队宣布已成功解决了来自DeepMind的新开源权重模型——Gemma 3的一些技术难题。通过与Unsloth的工具包集成,开发者现在可以在免费的Google Colab实例上对Gemma 3进行微调训练。这一突破性进展不仅降低了...
Read More近日,一篇发表在arXiv上的论文介绍了一种名为UniHDSA的统一关系预测方法,用于分层文档结构分析。该方法的核心创新在于通过一个单一模块同时处理多项任务,显著提高了文档结构分析的效率和准确性。UniHDSA技术的应...
Read More