Sprawni Cyfrowo
Sprawni Cyfrowo

Liquid AI: otwarte modele AI, które działają na CPU

Liquid AI: otwarte modele AI, które działają na CPU

Firma Liquid AI udostępniła LFM2.5-Encoders, rodzinę otwartych modeli językowych zaprojektowanych tak, by szybko działać na zwykłym procesorze. To ważna wiadomość dla wszystkich, którzy chcą uruchamiać AI na CPU, bez inwestowania w drogie karty graficzne. Premiera odbyła się 28 lipca 2026 roku, a wagi modeli trafiły na platformę Hugging Face.

W przeciwieństwie do modeli generatywnych, takich jak ChatGPT czy Claude, LFM2.5-Encoders nie tworzą tekstu. To tak zwane encodery: zamieniają tekst na reprezentacje liczbowe i sprawdzają się w zadaniach rozumienia języka, czyli klasyfikacji, wykrywaniu intencji, filtrowaniu treści czy wyszukiwaniu. Liquid AI wypuściło dwa warianty: mniejszy o 230 milionach parametrów i większy o 350 milionach. Oba obsługują kontekst do 8192 tokenów.

Dlaczego liczy się działanie na CPU

Kluczowa jest wydajność bez procesora graficznego. Według danych producenta model 230M przetwarza dokument o długości 8192 tokenów w około 28 sekund na CPU, podczas gdy popularny ModernBERT-base potrzebuje ponad 90 sekund. To około 3,7 raza szybciej. W testach jakościowych mniejszy wariant wyprzedził ModernBERT-base oraz wszystkie modele z rodziny EuroBERT, a większy zajął czwarte miejsce wśród czternastu porównywanych modeli, ustępując tylko znacznie większym konstrukcjom.

Jednym z ciekawszych zastosowań jest wykrywanie danych osobowych. Modele rozpoznają 40 typów danych wrażliwych w 16 językach, co czyni je przydatnym narzędziem do budowania barier bezpieczeństwa wokół systemów AI.

Co to znaczy dla polskich firm

Dla polskich zespołów to konkretna oszczędność. Wiele codziennych zadań, takich jak segregowanie zgłoszeń, oznaczanie treści czy wykrywanie danych osobowych, nie wymaga generatywnego modelu ani GPU. Lekki encoder działający na CPU pozwala obsłużyć duże wolumeny taniej i lokalnie. Uruchomienie takiego modelu na własnym serwerze ułatwia też zgodność z RODO, bo dane nie opuszczają infrastruktury firmy.

Przed wdrożeniem warto sprawdzić dokładne warunki licencji na stronie modelu, bo określenie „otwarte wagi" nie zawsze oznacza pełną swobodę komercyjną. Dla zespołów budujących własne procesy rozumienia tekstu to jednak realna alternatywa dla płatnych API.

Źródło: Liquid AI — LFM2.5-Encoders (Hugging Face Blog) (EN), 28 lipca 2026.

Pomożemy Ci wdrożyć sztuczną inteligencję w Twojej firmie.

Konsultacje i wdrożenia AI

Powiązane artykuły