Recursive发布Flint：40B总参数仅激活2.5B，MacBook本地推理超125 tokens/s
talkingdev • 2026-10-22
1126 views
Recursive正式推出Flint，这是一款面向快速智能体编码的混合专家（MoE）模型，主打在本地硬件上高效运行。该模型总参数规模为40B，但每个token仅激活2.5B参数，从而在保持模型能力的同时显著降低计算开销。官方数据显示，Flint在M4 Pro MacBook Pro上可实现超过125 tokens/s的生成速度，在64GB NVIDIA RTX Spark上短上下文场景下超过150 tokens/s。该模型由一个小型团队与智能体在不到四个月时间内从零构建，展示了AI辅助开发在小团队中的落地潜力。Flint定位为日常编码模型，能够在本地完成任务，无需将代码或数据发送到远程服务器，这对注重隐私、低延迟和离线开发场景具有吸引力。其设计思路也反映了当前端侧模型与智能体编码工具融合的趋势，有望为开发者提供更自主、更安全的本地AI编程体验。
核心要点
- Flint采用混合专家架构，总参数40B但每token仅激活2.5B，面向本地高效智能体编码
- 在M4 Pro MacBook Pro上超125 tokens/s，在64GB NVIDIA RTX Spark短上下文超150 tokens/s
- 由小团队与智能体不到四个月从零构建，支持本地运行且无需上传数据，强调隐私和低延迟