Liquid AI推出开源权重推理模型LFM2.5-24B-A2B，总参数量为240亿，但每次推理仅激活20亿参数。这种稀疏激活设计使其更适配资源受限的端侧设备，可在本地完成快速、私密的智能体任务。官方数据显示，该模型在8项基准...

在大型语言模型（LLM）和视觉语言模型（VLM）部署中，模型量化是降低计算和存储成本的关键技术。然而，传统量化方法往往需要在模型大小和推理精度之间做出艰难取舍，尤其是在超低位宽（如2-bit、3-bit）下，精度损失...

苹果机器学习研究团队提出了一种名为LaDiR（Latent Diffusion Reasoner）的创新推理框架，为大型语言模型（LLM）的文本推理能力带来了显著提升。LaDiR框架的核心在于巧妙地将连续潜在表示的强大表现力与潜在扩散模型...

NeurIPS 2024系统推理研讨会最新收录的研究项目ProofOfThought提出了一种突破性的神经符号编程合成方法，通过结合大型语言模型的语义理解能力与Z3定理证明器的形式化验证机制，实现了兼具鲁棒性与可解释性的自动推理...

ThinkMesh 是一个创新的Python开源库，旨在提升大语言模型（LLM）的推理能力。该框架通过并行运行多样化的推理路径，并利用内部置信度信号对每条路径进行评分，动态地将计算资源重新分配给最有潜力的分支，最后通过...

MetaStone AI近日在GitHub上发布了其第四代开源模型XBai o4，该模型在复杂推理任务上表现出色，并在Medium模式下性能超越了OpenAI的o3-mini模型。XBai o4不仅优化了推理能力，还引入了一个可扩展的并行测试时推理框...

Sakana AI最新发布的TreeQuest技术通过创新的多模型协作框架（Multi-LLM AB-MCTS），实现了比单一大型语言模型（LLM）性能提升30%的突破。该技术采用自适应分支蒙特卡洛树搜索（Adaptive Branching Monte Carlo Tree...

FLUX.1 Kontext [dev]作为一款拥有120亿参数的开源模型，突破性地在消费级硬件上实现了媲美商业闭源软件的图像编辑性能。该模型采用FLUX.1非商业许可协议开放权重，为学术研究和非商业应用提供免费访问权限。技术亮...