Liquid AI推出开源权重推理模型LFM2.5-24B-A2B，总参数量为240亿，但每次推理仅激活20亿参数。这种稀疏激活设计使其更适配资源受限的端侧设备，可在本地完成快速、私密的智能体任务。官方数据显示，该模型在8项基准...

Meta AI 近日推出了一种名为 FLAT 的多模态方法，旨在将图像和文本转换为同一套灵活长度的连续 token 序列，以统一支持检索与生成任务。FLAT 的核心机制采用嵌套 dropout，将视觉信息按从粗粒度到细粒度的方式组织，...

Salesforce AI Research 发布了 Random Attention 代码仓库，对应论文《Random Attention: Rethinking KV Cache Eviction for Efficient Reasoning》。在大语言模型推理中，KV缓存占用大量显存，现有方法通常依赖学...

苹果生态中内存长期被认为是大模型本地推理的瓶颈，而TurboFieldfare项目提供了一个极具突破意义的解决方案。这个专门为Apple Silicon Mac设计的自定义运行时，让庞大的Gemma 4 26B-A4B模型（完整加载需约14.3 GB内...

专攻 AI 编码的初创公司 Poolside 在 Hugging Face 上正式发布了其最新大型语言模型 Laguna S 2.1。该模型采用混合专家架构，总参数量高达 1180 亿，但每个 token 仅激活其中 80 亿个参数，在保持强大能力的同时实现...

近日，StepFun正式发布了其前沿开源基础模型Step 3.5 Flash。该模型定位为高效、高速推理与具备智能体（Agent）能力的先进模型，其核心特性在于集成了工具使用、长上下文处理以及支持本地部署等关键能力。Step 3.5 F...

近日，由D2I-ai团队在GitHub上开源的DASD（序列蒸馏）项目，提出了一种创新的模型蒸馏流程，旨在训练出更紧凑、高效的模型以应对复杂的推理任务。该流程整合了温度调度学习与发散感知采样等前沿技术，通过精细化的知...

人工智能领域迎来重要开源进展。Mistral AI正式发布了其新一代Mistral 3系列模型，该系列包含两大技术路线：一是三款不同规模的密集模型（参数规模分别为140亿、80亿和30亿），二是备受瞩目的Mistral Large 3稀疏混...