Modele AI na urządzeniu przestają być ciekawostką i coraz częściej trafiają do realnych produktów. Liquid AI udostępniło 4 sierpnia 2026 otwarty model LFM2.5-2.6B, zaprojektowany do uruchamiania agentów w całości lokalnie, na laptopie, a nawet na telefonie. Dzień później firma MacPaw ogłosiła, że na technologii Liquid AI oprze lokalną wersję swojego asystenta Eney.
LFM2.5-2.6B ma 2,6 mld parametrów i kontekst 128 tys. tokenów, a jego ślad pamięciowy nie przekracza 2,5 GB. Według Liquid AI model dorównuje rozwiązaniom czterokrotnie większym w wywoływaniu narzędzi, wykonywaniu instrukcji i wieloetapowych zadaniach agentowych. Wagi są otwarte i dostępne na Hugging Face, z obsługą llama.cpp, MLX, vLLM i ONNX od pierwszego dnia. Na procesorze Apple M5 Max model generuje około 220 tokenów na sekundę, a na telefonie utrzymuje co najmniej 30 tokenów na sekundę. CEO Liquid AI Ramin Hasani tłumaczy, że architekturę dobiera się pod konkretny sprzęt, dzięki czemu wydajna wersja działa bezpośrednio na urządzeniu, z korzyścią dla prywatności i bezpieczeństwa.
MacPaw buduje z Liquid AI system inferencji na urządzeniu o nazwie Elix wraz z lokalną pamięcią, a docelowo chce udostępnić tę technologię twórcom aplikacji ze swojego sklepu SetApp, który ma ponad 150 tys. płacących użytkowników. Efekt dla użytkownika: asystent i procesy agentowe mogą działać offline, bez wysyłania danych do chmury. Wpisuje się to w szerszy trend, w którym otwarte wagi i gotowe wsparcie popularnych bibliotek sprawiają, że uruchomienie modelu na własnym sprzęcie przestaje wymagać zespołu badawczego.
Co modele AI na urządzeniu znaczą dla polskich firm
To sygnał, że część zadań AI można przenieść z chmury na własny sprzęt. Przetwarzanie lokalne upraszcza zgodność z RODO, bo dane nie opuszczają urządzenia, i obniża koszt inferencji przy zadaniach masowych. Małe modele nie zastąpią rozwiązań frontier w kodowaniu czy złożonym rozumowaniu, ale do wywoływania narzędzi, klasyfikacji tekstu czy prostych agentów często wystarczą. Przykład: firmowy asystent, który przeszukuje lokalne pliki albo wywołuje wewnętrzne API, nie musi za każdym razem odpytywać modelu w chmurze. Warto policzyć koszt na skuteczne zadanie i sprawdzić, które procesy naprawdę potrzebują dużego modelu w chmurze, a które obsłuży model działający na laptopie pracownika.
Źródło: Liquid AI — LFM2.5-2.6B (EN), 4 sierpnia 2026, oraz TechCrunch — MacPaw taps Liquid AI (EN), 5 sierpnia 2026.
