Recursive Flint: Coding-Modell, das kostenlos auf dem Laptop läuft

Am 21. Oktober hat das Start-up Recursive Flint veröffentlicht: Das Recursive Flint Coding-Modell ist offen, steht unter der Lizenz Apache 2.0 und läuft auf einem ganz normalen Laptop. Laut TechCrunch gibt die Firma an, dass ihr ein automatisiertes Forschungssystem, die sogenannte „Eureka Machine“, bei fast jedem Schritt der Entwicklung geholfen hat.

Was ist das Coding-Modell Recursive Flint?

Es ist ein MoE-Modell (Mixture-of-Experts) mit 39,8 Mrd. Parametern, von denen pro Token etwa 2,5 Mrd. arbeiten. Daher die Bezeichnung „40B-A2.5B“ in der Model Card. Unter der Haube steckt unter anderem:

1. 49 Schichten, davon 47 MoE-Schichten mit 256 Experten, aus denen pro Token 6 ausgewählt werden, plus ein gemeinsamer Experte, der immer aktiv ist.
2. Ein Kontextfenster von 262.144 Tokens (Prompt und Antwort zusammen).
3. Wissensstand bis Juni 2026.
4. Die Lizenz Apache 2.0, also dürfen wir es auch kommerziell nutzen.

Der vollständige Checkpoint in BF16 wiegt etwa 80 GB. In dieser Form bringen wir ihn auf keinem Laptop zum Laufen, aber laut Model Card hat Recursive eigene quantisierte Versionen für NVIDIA-Chips und Apple Silicon vorbereitet. Auf Hugging Face gibt es davon schon mehr als ein Dutzend, mit fertigen Links zu llama.cpp, LM Studio, Jan und Ollama.

Was kann Flint?

Ergebnisse aus der Model Card (angegeben von Recursive):

Benchmark	Ergebnis
SWE-bench Pro v2	89,7 %
SWE-bench Verified	74,2 %
Terminal-Bench 2.1	54,9 %

Terminal-Bench wurde mit dem Harness Terminus 2 gemessen, SWE-bench mit mini-swe-agent, gemittelt über mindestens fünf Versuche. Das sind Herstellerangaben, also sollten wir sie mit Vorsicht genießen, bis unabhängige Messungen vorliegen.

Spannender ist das Tempo. Laut den Tests von Recursive erzeugt Flint auf einem MacBook Pro mit M4 Pro etwa 131 Tokens pro Sekunde, auf einer NVIDIA RTX Spark über 150. Dazu kommt eine erste unabhängige Meinung: Laut TechCrunch hat Will Knight von Wired mit Flint kleine Programme auf einem Mac mit 48 GB Speicher gebaut, und das Modell „nailed his coding requests every time“, hat also jedes Mal genau das geliefert, worum er gebeten hatte.

Ein Modell, gebaut von einer KI?

Laut TechCrunch hat ein kleines Team es in weniger als vier Monaten von Grund auf gebaut. Die Eureka Machine soll unter anderem eine sparsere Modellstruktur, eigene Kernels und Training mit niedriger Präzision vorgeschlagen haben, was das Modell bei nahezu gleicher Qualität um 71 % verkleinert hat.

Recursive hat nicht gesagt, wie viel Forscherzeit das gespart hat, und laut dem Artikel ist die aktuelle Version von Eureka ein von Menschen beaufsichtigter Forschungsassistent, kein eigenständiges System. Das langfristige Ziel von CEO Richard Socher (früher Chief Scientist bei Salesforce) ist die vollständige rekursive Selbstverbesserung von KI, aber mit Menschen, die diesen Prozess stoppen können.

Die Firma ist im Mai mit 650 Mio. USD Finanzierung bei einer Bewertung von 4,65 Mrd. USD aus dem Stealth-Modus gekommen. Zu den Investoren gehören GV, NVIDIA und AMD Ventures.

Wie testet man Recursive Flint?

Am einfachsten über eine der quantisierten Versionen auf der Modellseite, in LM Studio oder Ollama. Wie das Schritt für Schritt geht, beschreibe ich in meiner Anleitung, wie man KI lokal ausführt. Die empfohlenen Einstellungen aus der Model Card: Temperatur 1.0, top-p 0.95, top-k 20 und bei schwierigen Aufgaben mindestens 32.768 Tokens pro Antwort.

Für die volle Version beschreibt die Model Card eine einzelne GPU B300 oder H200 mit SGLang und einer OpenAI-kompatiblen API. So einen Endpoint können wir an einen Agent-Harness anschließen, so wie damals das kostenlose DeepSeek in OpenCode.

Eine Einschränkung kommt von Recursive selbst: Flint braucht mehr Anleitung als die großen kostenpflichtigen Coding-Assistenten, große Aufgaben teilt man also besser in kleinere Schritte auf.

FAQ

Ist Recursive Flint kostenlos?

Ja. Die Gewichte stehen auf Hugging Face unter der Lizenz Apache 2.0 zum Download, und lokal zahlen wir nur den Strom (und den Verschleiß der Hardware).

Wie viel Speicher braucht Flint?

Die volle BF16-Version wiegt etwa 80 GB und ist laut Model Card für eine GPU B300 oder H200 gedacht. Auf dem Laptop nutzen wir die quantisierten Versionen. Wired hat das Modell auf einem Mac mit 48 GB Speicher getestet.

Wurde Flint wirklich von einer KI gebaut?

Laut Recursive hat die Eureka Machine bei fast jedem Schritt geholfen, aber unter menschlicher Aufsicht. Wie viel der Arbeit das System allein erledigt hat, hat die Firma nicht gesagt.