一个 40B 总参数的编程模型,推理时只激活 2.5B,还能在笔记本上跑到 125+ tokens/s——Recursive 的 Flint 把「本地可用的智能体编程模型」这条线又往前推了一步。
发生了什么
Recursive 发布了 Flint,一个面向编程智能体(coding agents)的开源权重模型,采用 Apache 2.0 许可。按官方披露,Flint 是 MoE 架构,总参数 40B、激活参数 2.5B;在 SWE-bench Verified 上报告 74.2% 的成绩,并在 M4 Pro MacBook Pro 上实现 125+ tokens/s 的生成速度。
需要说明的是,这些数字均来自发布方自述,SWE-bench Verified 的具体评测配置(脚手架、重试次数、采样策略)尚未在摘要中体现,横向对比时应保留余地。
为什么重要
过去一年编程模型的竞争主要集中在云端旗舰:能力最强的模型往往意味着最大的参数量和最高的推理成本,本地部署基本是「小模型凑合用」的状态。Flint 的思路不同——用 MoE 把总容量和单次推理成本解耦,40B 的容量撑住代码理解与多步推理,2.5B 的激活量把显存占用和延迟压到消费级硬件可承受的范围。
这与 coding agent 的工作负载高度契合。智能体编程的特点是高频、短步、多轮工具调用:读文件、改一行、跑测试、再修。这类场景对单次推理的绝对智能要求没有「一次性写完整模块」那么高,但对延迟和调用成本极其敏感。一个能在本地以百 tokens/s 速度响应的模型,意味着 agent 循环不必被网络往返和 API 配额切碎,代码也不必离开开发者的机器——这对有合规要求的企业是实质性差异。
Apache 2.0 同样是关键信号。相较常见的「开放权重但限制商用」许可,Apache 2.0 允许自由修改、蒸馏和商业集成,降低了团队在其上做微调和产品化的法律摩擦。
影响与看点
对开发者而言,最直接的变化是本地 agent 的可行性边界被抬高:以往需要云端大模型才能完成的仓库级修改任务,现在有了在笔记本上闭环的选项。对行业而言,Flint 加入的是一个正在成形的赛道——「小激活 MoE + 编程专精 + 宽松许可」,它与云端旗舰形成互补而非替代:难题仍交给大模型,高频琐碎步骤下沉到本地。
值得关注的几点:一是 74.2% 的可复现性,社区很快会用统一脚手架复测;二是 2.5B 激活在长上下文和复杂重构任务上的衰减曲线,这决定它能否胜任真实仓库而非基准题;三是工具调用与指令遵循的稳定性,agent 场景里这比单题正确率更能决定体验。
我的判断是:Flint 的意义不在于刷新榜单,而在于它把「编程智能体的推理成本」变成了一个可以本地化解决的工程问题——一旦这条路被验证,编程模型的竞争维度会从「谁更聪明」部分转向「谁更便宜、更可控、更贴近开发者的机器」。



