llama.cpp 1.0, czyli stabilne API po 3,5 roku rozwoju

13 listopada 2026 zespół ggml-org wydał llama.cpp 1.0 (dokładnie v1.0.0) i równolegle ggml v1.0.0. Zapowiedź na blogu Hugging Face podpisali m.in. Daniel Bevenius i Georgi Gerganov, a dzień później wydanie ggml było na pierwszym miejscu Hacker News.

Co zmienia llama.cpp 1.0?

Najważniejsza zmiana to obietnica, a nie funkcja. Od tej wersji oba projekty stosują wersjonowanie semantyczne i niezgodności w API oraz ABI mają być sygnalizowane podbiciem głównego numeru wersji. Zasady są trzy i obowiązują we wszystkich projektach ggml-org:

1. MAJOR rośnie, gdy zmiana łamie publiczne API w C (nagłówki w katalogu include).
2. MINOR oznacza zgodne wstecz nowości: funkcje, aktualizacje backendów, obsługę nowych modeli.
3. PATCH to poprawki błędów bez zmian w API.

Dla kogoś, kto tylko rozmawia z modelem w terminalu, brzmi to jak formalność. Dla autorów aplikacji i bindingów zbudowanych na llama.cpp to duża różnica: poprzednie wydanie nosiło jeszcze numer v0.9.0. W zapowiedzi czytamy, że po 3,5 roku od powstania projektu zależy od niego tyle programów, że elastyczne, ale stabilne API stało się sprawą pierwszorzędną.

Porządki mają swoją cenę. Według Release Notes z llama.h zniknęło 35 przestarzałych funkcji, usunięto llama_set_warmup i opcję --defrag-thold, funkcja llama_set_embd_state_src nazywa się teraz llama_set_ctx_state_src, a nagłówek clip.h został wchłonięty przez mtmd. Z ggml wycięto przestarzałe publiczne API i stare operacje DIAG_MASK. Kto ma własny kod na tych funkcjach albo skrypty z usuniętą flagą, musi je poprawić przed aktualizacją.

Co jeszcze znajdziemy w wydaniu?

To nie jest wydanie wyłącznie porządkowe. W Release Notes jest m.in.:

• obsługa nowych modeli: Kimi-K3.1-Pro, Ripple-65B-Preview, xing4_0 oraz modelu TTS drama-3 od Fish Audio,
• nowy endpoint serwera /v1/audio/speech, zgodny z API OpenAI,
• cache KV w formacie FP8 (-ctk/-ctv f8_e4m3) i rozbudowany cache dla modeli MoE (mixture-of-experts), który część chybień potrafi policzyć na CPU,
• poprawki bezpieczeństwa w serwerze: --cors-origins, DNS rebinding i SSRF przez proxy CORS, a do tego HF_TOKEN wysyłany wyłącznie do hostów huggingface.co,
• prace nad wydajnością w backendach ggml, od CUDA i Metal po Vulkan, SYCL, OpenCL, WebGPU i Hexagon.

Według zapowiedzi llama.cpp obsługuje dziś ponad 150 wariantów architektur i wszystkie popularne metody dekodowania spekulatywnego. Nad jakością ma czuwać rozbudowane CI: każda zmiana trafiająca na master jest sprawdzana z użyciem infrastruktury Hugging Face, a przy wsparciu sprzętowym firm NVIDIA, AMD, Qualcomm, Arm, IBM i Intel zespół podłącza kolejne własne maszyny testowe.

Jak wypróbować llama.cpp 1.0?

README projektu podaje instalację jedną komendą. Na macOS i Linuksie:

curl -LsSf https://llama.app/install.sh | sh

W PowerShellu na Windows:

irm https://llama.app/install.ps1 | iex

Potem wystarczy wskazać model z Hugging Face. Przykład z README pobiera mały Qwen3.5 i otwiera czat albo lokalny serwer:

llama cli -hf ggml-org/Qwen3.5-0.8B-GGUF
llama serve -hf ggml-org/Qwen3.5-0.8B-GGUF

Dla osób, które wolą okienka, jest darmowa aplikacja Llama na Maca i Windows 11, rozwijana przez zespół llama.cpp i Hugging Face. Ma wbudowany czat i lokalne API pod adresem localhost:9931/v1, z którym działają SDK OpenAI. Na stronie aplikacji są też zalecenia co do pamięci: 16 GB dla Gemma 4, 24 GB dla GPT-OSS i 32 GB dla Qwen 3.8 (sprawdź, ile masz wolnej pamięci, zanim pobierzesz większy model).

Projekt jest też w Homebrew, Winget, conda-forge i MacPorts oraz jako obrazy Dockera i paczki Debiana. Jeśli lokalne modele to dla nas nowość, łagodniejszy start opisałem w poradniku jak uruchomić AI lokalnie.

Na co zwrócić uwagę?

Po pierwsze, na to, czego w zapowiedzi nie ma. Nie znajdziemy w niej benchmarków ani planu kolejnych funkcji z datami. Wersja 1.0 mówi o dojrzałości projektu, a nie o skoku wydajności.

Po drugie, na zakres obietnicy. Zmiany łamiące zgodność nadal będą się zdarzać, tyle że mają być oznaczone numerem wersji. Dotyczy to publicznego API w C, a nie każdej flagi w narzędziach.

Po trzecie, na podejście do pisania kodu z pomocą AI. Zespół deklaruje, że będzie włączał modele językowe do pracy w przemyślany sposób, a priorytetem pozostaje jakość kodu i kontrola nad architekturą. W projekcie, na którym stoi tyle cudzych aplikacji, to chyba dobra kolejność ;)

Komentarze na Hacker News są w większości gratulacjami. Jeden z użytkowników nazwał ggml i llama.cpp Linuksem świata AI (cytując „the Linux of the AI world”), inny napisał, że na karcie AMD obsługującej tylko Vulkan jego oprogramowanie jest używalne właśnie dzięki ggml i llama.cpp.

FAQ

Czy llama.cpp 1.0 jest darmowe?

Tak. To projekt open source na licencji MIT, a aplikacja Llama też jest bezpłatna. Płacimy tylko prądem (i zużyciem sprzętu).

Czy po aktualizacji do llama.cpp 1.0 coś przestanie działać?

Może, jeśli korzystamy z usuniętych elementów: 35 przestarzałych funkcji z llama.h, nagłówka clip.h albo opcji --defrag-thold. Pełna lista jest w Release Notes.

Czym różni się llama.cpp od ggml?

ggml to biblioteka tensorowa do uczenia maszynowego, czyli warstwa obliczeń na różnym sprzęcie. llama.cpp to zbudowana na niej biblioteka w C/C++ do uruchamiania modeli językowych, z narzędziami takimi jak czat w terminalu i serwer.