跳到正文
sobolewski.pro今日 AI,每晚送达订阅

每天一封,一键即可退订。 隐私政策

Recursive Flint:能在笔记本上运行的免费编程模型

Recursive Flint 是一款开放的 MoE 编程模型(40B,激活 2.5B),在笔记本电脑上也能运行。它的大部分开发工作由 AI 完成。

1 分钟阅读

本文的其他语言版本:العربيةDeutschEnglishEspañolFrançaisItaliano日本語Polski

本文内容
  1. Recursive Flint 编程模型是什么?
  2. Flint 能做什么?
  3. 由 AI 打造的模型?
  4. 如何试用 Recursive Flint?
  5. FAQ

10 月 21 日,初创公司 Recursive 发布了 Flint。这是一款采用 Apache 2.0 许可证的开放编程模型,在普通笔记本电脑上就能运行。据 TechCrunch 报道,该公司称,在打造 Recursive Flint 的几乎每个环节,都有一套名为“Eureka Machine”的自动化研究系统在帮忙。

Recursive Flint 编程模型是什么?

它是一个 MoE(mixture-of-experts)模型,总参数 398 亿,每个 token 实际参与计算的约 25 亿。模型卡上“40B-A2.5B”的标注就是这么来的。内部结构主要包括:

  1. 49 层,其中 47 层是 MoE 层,每层有 256 个专家,每个 token 从中选出 6 个,另外还有 1 个始终激活的共享专家。
  2. 上下文窗口为 262,144 个 token(提示词和输出合计)。
  3. 知识截止到 2026 年 6 月。
  4. Apache 2.0 许可证,所以也可以商用。

完整的 BF16 检查点约 80 GB。以这种形式,笔记本是跑不动的,但根据模型卡,Recursive 为 NVIDIA 芯片和 Apple Silicon 专门准备了量化版本。Hugging Face 上已经有十几个,并附有 llama.cpp、LM Studio、Jan 和 Ollama 的现成链接。

Flint 能做什么?

模型卡中的成绩(由 Recursive 公布):

Benchmark 成绩
SWE-bench Pro v2 89.7%
SWE-bench Verified 74.2%
Terminal-Bench 2.1 54.9%

Terminal-Bench 使用 Terminus 2 harness 测试,SWE-bench 使用 mini-swe-agent,结果取至少五次尝试的平均值。这些都是厂商自己给出的数字,在独立测评出来之前,我们不妨保持一点怀疑。

更有意思的是速度。根据 Recursive 的测试,在搭载 M4 Pro 的 MacBook Pro 上,Flint 每秒生成约 131 个 token,在 NVIDIA RTX Spark 上则超过 150 个。此外还有第一份独立评价:据 TechCrunch 报道,Wired 的 Will Knight 在一台 48 GB 内存的 Mac 上用 Flint 编写了几个小程序,模型“nailed his coding requests every time”,也就是每次都准确完成了他的要求。

由 AI 打造的模型?

据 TechCrunch 报道,一个小团队在 不到四个月 的时间里从零构建了它。据称 Eureka Machine 提出了更稀疏的模型结构、自研 kernel 和低精度训练等方案,在质量几乎不变的情况下,把模型缩小了 71%。

Recursive 没有透露这为研究人员节省了多少时间。而且据文章介绍,目前的 Eureka 是在人类监督下工作的研究助手,而不是自主系统。CEO Richard Socher(曾任 Salesforce 首席科学家)的长期目标是实现 AI 完全的递归式自我改进,但前提是有人能够随时叫停这个过程。

该公司在 5 月结束隐身状态,获得 6.5 亿美元融资,估值 46.5 亿美元,投资方包括 GV、NVIDIA 和 AMD Ventures。

如何试用 Recursive Flint?

最简单的办法是在 LM Studio 或 Ollama 中使用模型页面上的某个量化版本。具体步骤我在本地运行 AI 的教程里已经一步步讲过。模型卡推荐的设置是:temperature 1.0、top-p 0.95、top-k 20,处理难题时每次回答至少预留 32,768 个 token。

至于完整版,模型卡给出的方案是用一块 B300 或 H200 GPU 配合 SGLang 运行,并提供兼容 OpenAI 的 API。这样的端点可以接入智能体 harness,就像之前接入 OpenCode 里的免费 DeepSeek 那样。

Recursive 自己也给出了一条提醒:Flint 比大型付费编程助手需要更多引导,所以大任务最好拆成小步骤来做。

FAQ

Recursive Flint 免费吗?

免费。权重可以从 Hugging Face 下载,采用 Apache 2.0 许可证;在本地运行只需要付电费(以及硬件损耗)。

Flint 需要多少内存?

完整的 BF16 版本约 80 GB,根据模型卡,它是为 B300 或 H200 GPU 准备的。在笔记本上我们用的是量化版本。Wired 在一台 48 GB 内存的 Mac 上测试过这个模型。

Flint 真的是 AI 打造的吗?

据 Recursive 介绍,Eureka Machine 几乎参与了每个环节,但始终处于人类监督之下。公司没有透露该系统独立完成了多少工作。

  • AI
  • open-weight
  • 编程

今日 AI,每晚送达

每晚送上当天最重要的 AI 新闻和博客新文章。简明扼要,附有来源。

每天一封,一键即可退订。 隐私政策