Recursive Flint:能在笔记本上运行的免费编程模型
Recursive Flint 是一款开放的 MoE 编程模型(40B,激活 2.5B),在笔记本电脑上也能运行。它的大部分开发工作由 AI 完成。
本文的其他语言版本:العربيةDeutschEnglishEspañolFrançaisItaliano日本語Polski
10 月 21 日,初创公司 Recursive 发布了 Flint。这是一款采用 Apache 2.0 许可证的开放编程模型,在普通笔记本电脑上就能运行。据 TechCrunch 报道,该公司称,在打造 Recursive Flint 的几乎每个环节,都有一套名为“Eureka Machine”的自动化研究系统在帮忙。
Recursive Flint 编程模型是什么?
它是一个 MoE(mixture-of-experts)模型,总参数 398 亿,每个 token 实际参与计算的约 25 亿。模型卡上“40B-A2.5B”的标注就是这么来的。内部结构主要包括:
- 49 层,其中 47 层是 MoE 层,每层有 256 个专家,每个 token 从中选出 6 个,另外还有 1 个始终激活的共享专家。
- 上下文窗口为 262,144 个 token(提示词和输出合计)。
- 知识截止到 2026 年 6 月。
- Apache 2.0 许可证,所以也可以商用。
完整的 BF16 检查点约 80 GB。以这种形式,笔记本是跑不动的,但根据模型卡,Recursive 为 NVIDIA 芯片和 Apple Silicon 专门准备了量化版本。Hugging Face 上已经有十几个,并附有 llama.cpp、LM Studio、Jan 和 Ollama 的现成链接。
Flint 能做什么?
模型卡中的成绩(由 Recursive 公布):
| Benchmark | 成绩 |
|---|---|
| SWE-bench Pro v2 | 89.7% |
| SWE-bench Verified | 74.2% |
| Terminal-Bench 2.1 | 54.9% |
Terminal-Bench 使用 Terminus 2 harness 测试,SWE-bench 使用 mini-swe-agent,结果取至少五次尝试的平均值。这些都是厂商自己给出的数字,在独立测评出来之前,我们不妨保持一点怀疑。
更有意思的是速度。根据 Recursive 的测试,在搭载 M4 Pro 的 MacBook Pro 上,Flint 每秒生成约 131 个 token,在 NVIDIA RTX Spark 上则超过 150 个。此外还有第一份独立评价:据 TechCrunch 报道,Wired 的 Will Knight 在一台 48 GB 内存的 Mac 上用 Flint 编写了几个小程序,模型“nailed his coding requests every time”,也就是每次都准确完成了他的要求。
由 AI 打造的模型?
据 TechCrunch 报道,一个小团队在 不到四个月 的时间里从零构建了它。据称 Eureka Machine 提出了更稀疏的模型结构、自研 kernel 和低精度训练等方案,在质量几乎不变的情况下,把模型缩小了 71%。
Recursive 没有透露这为研究人员节省了多少时间。而且据文章介绍,目前的 Eureka 是在人类监督下工作的研究助手,而不是自主系统。CEO Richard Socher(曾任 Salesforce 首席科学家)的长期目标是实现 AI 完全的递归式自我改进,但前提是有人能够随时叫停这个过程。
该公司在 5 月结束隐身状态,获得 6.5 亿美元融资,估值 46.5 亿美元,投资方包括 GV、NVIDIA 和 AMD Ventures。
如何试用 Recursive Flint?
最简单的办法是在 LM Studio 或 Ollama 中使用模型页面上的某个量化版本。具体步骤我在本地运行 AI 的教程里已经一步步讲过。模型卡推荐的设置是:temperature 1.0、top-p 0.95、top-k 20,处理难题时每次回答至少预留 32,768 个 token。
至于完整版,模型卡给出的方案是用一块 B300 或 H200 GPU 配合 SGLang 运行,并提供兼容 OpenAI 的 API。这样的端点可以接入智能体 harness,就像之前接入 OpenCode 里的免费 DeepSeek 那样。
Recursive 自己也给出了一条提醒:Flint 比大型付费编程助手需要更多引导,所以大任务最好拆成小步骤来做。
FAQ
Recursive Flint 免费吗?
免费。权重可以从 Hugging Face 下载,采用 Apache 2.0 许可证;在本地运行只需要付电费(以及硬件损耗)。
Flint 需要多少内存?
完整的 BF16 版本约 80 GB,根据模型卡,它是为 B300 或 H200 GPU 准备的。在笔记本上我们用的是量化版本。Wired 在一台 48 GB 内存的 Mac 上测试过这个模型。
Flint 真的是 AI 打造的吗?
据 Recursive 介绍,Eureka Machine 几乎参与了每个环节,但始终处于人类监督之下。公司没有透露该系统独立完成了多少工作。