Sprawni Cyfrowo
llama.cpp 1.0 jest już dostępny. 13 listopada zespół ggml-org, który rozwija projekt w Hugging Face, wydał wersję 1.0.0 biblioteki do uruchamiania modeli językowych na własnym sprzęcie, a razem z nią wersję 1.0.0 silnika ggml. Najważniejsza zmiana nie dotyczy szybkości, tylko zasad. Twórcy obiecują, że każda zmiana, która może zepsuć programy zbudowane na bibliotece, dostanie nowy główny numer wersji.
llama.cpp to projekt napisany w C i C++, który pozwala uruchamiać modele językowe, także multimodalne, na laptopie, telefonie i firmowym serwerze. Dzięki kwantyzacji, czyli kompresji modelu, duże modele mieszczą się na słabszym sprzęcie. Projekt rozwija się od 3,5 roku i opiera się na nim coraz więcej aplikacji. Według zespołu obsługuje ponad 150 wariantów architektur modeli. Do tej pory twórcy tych aplikacji przy każdej aktualizacji musieli sami sprawdzać, czy coś się nie zepsuło. Teraz obowiązuje prosta reguła: zmiana publicznego API w C podnosi pierwszą cyfrę wersji, nowe funkcje i obsługa nowych modeli podnoszą drugą, a poprawki błędów trzecią.
Co dokładnie się zmieniło
Przy okazji zespół posprzątał kod. Jak opisuje Unite.AI, z publicznego API usunięto 35 przestarzałych funkcji. Doszła pamięć podręczna w 8-bitowym formacie FP8, która zajmuje mniej pamięci niż dotychczasowe formaty, oraz obsługa nowych modeli, m.in. Kimi-K3.1-Pro. Wbudowany serwer llama-server dostał poprawki bezpieczeństwa: ochronę przed atakami SSRF i DNS rebinding, poprawione reguły CORS, a token Hugging Face jest wysyłany już tylko do serwerów huggingface.co. Bibliotekę zainstalujesz też z popularnych kanałów, takich jak Homebrew, pakiety Debiana, Winget, conda-forge i Docker.
Co to znaczy dla polskich firm
Model uruchomiony lokalnie to sposób na AI bez wysyłania danych na zewnątrz. Kancelarii, przychodni czy biuru rachunkowemu, które pracują na danych osobowych, ułatwia to spełnienie wymogów RODO, bo dokumenty nie trafiają do zewnętrznego dostawcy. Stabilne API liczy się z kolei dla software house’ów, które budują na llama.cpp własne produkty. Aktualizacja przestaje być loterią, a koszt utrzymania łatwiej przewidzieć.
Jeśli Twoja firma ma już llama-server uruchomiony w sieci, zaktualizuj go od razu ze względu na poprawki bezpieczeństwa. Wersja 1.0 nie sprawi jednak, że lokalny model dorówna najmocniejszym modelom w chmurze. Rozsądny podział wygląda tak: powtarzalne zadania na poufnych danych zostają na własnym sprzęcie, a trudniejsze trafiają do modeli komercyjnych.
Źródło: Hugging Face Blog, llama.cpp v1.0.0 (EN), 13 listopada 2026; Unite.AI (EN), 13 listopada 2026.
