Liquid AI udostępniło LFM2.5-DSpark — zestaw otwartych modeli, dzięki którym szybsza inferencja AI staje się możliwa na sprzęcie od serwerowych kart NVIDIA H100 po zwykły laptop. Firma podaje przyspieszenie generowania odpowiedzi nawet 3,2-krotne, bez pogorszenia jakości wyników. Wagi opublikowano 20 sierpnia 2026 na platformie Hugging Face.
DSpark to modele pomocnicze do spekulatywnego dekodowania. Mały model (około 300 mln parametrów) proponuje kolejne tokeny, a większy model docelowy weryfikuje je w jednym przebiegu. Liquid AI wydało trzy warianty współpracujące z modelami 1,2B, 2,6B oraz 8B (MoE). Są dostępne w formatach safetensors i skwantyzowanym GGUF, z obsługą bibliotek llama.cpp i SGLang od pierwszego dnia.
Konkretne liczby robią wrażenie na tle kosztów. Dla modelu 2,6B na karcie H100 przepustowość rośnie z 323 do 864 tokenów na sekundę (średnio 2,67x). Ten sam model na laptopie MacBook z układem M4 Max przyspiesza z 61 do 139 tokenów na sekundę (2,27x). Co istotne, przy dekodowaniu zachłannym wynik jest identyczny jak w modelu bazowym: mechanizm skraca czas, a nie zmienia treści. Osobny pomiar pokazuje skrócenie opóźnień przy wywoływaniu funkcji średnio o 57%.
Co szybsza inferencja AI oznacza dla polskich firm
W praktyce produkcyjnej to nie trening, lecz inferencja generuje główny, powtarzalny rachunek za AI. Krótszy czas generowania odpowiedzi obniża zarówno koszt pojedynczego zapytania, jak i opóźnienie odczuwane przez użytkownika chatbota czy agenta. Dla zespołów, które planują wydatki na tokeny jak każdy koszt chmurowy, to wymierna różnica.
Drugi wątek to lokalne uruchamianie. Skoro model 2,6B działa sensownie na laptopie, część zastosowań można przenieść na własny sprzęt zamiast do zewnętrznej usługi. Przetwarzanie danych na urządzeniu upraszcza zgodność z RODO, bo dane nie opuszczają organizacji. Otwarte wagi ograniczają uzależnienie od jednego dostawcy. Warunek pozostaje ten sam: wdrożenie przez llama.cpp lub SGLang wymaga kompetencji technicznych, a realną korzyść trzeba zmierzyć na własnych zadaniach, nie na benchmarkach producenta.
Źródło: Hugging Face — Liquid AI, „LFM2.5-DSpark” (EN), 20 sierpnia 2026.
