Sprawni Cyfrowo

Olala mini od OVHcloud: otwarty model AI działa na zwykłym komputerze

Olala mini od OVHcloud: otwarty model AI działa na zwykłym komputerze

Francuski OVHcloud zapowiedział Olala mini, pierwszy model z własnej rodziny modeli językowych. To model otwarty: wagi trafią na Hugging Face na licencji Apache 2.0, więc firmy będą mogły go pobrać, dostroić i uruchomić u siebie. Do działania wystarczy karta graficzna z 8 GB pamięci, a nawet sam procesor. Oficjalna premiera ma się odbyć 19 listopada na OVHcloud AI Summit.

Co wiadomo o Olala mini

Pełna nazwa to Olala mini 7A1B. Model ma 7 mld parametrów, ale przy każdym zapytaniu pracuje tylko 1 mld z nich, rozłożony na 256 ekspertów w każdej warstwie. Dzięki temu potrzebuje mniej pamięci i odpowiada szybciej niż model, który za każdym razem uruchamia całą sieć. Według OVHcloud generuje 160 tokenów na sekundę na karcie RTX A4500 i około 50 tokenów na sekundę na zwykłym procesorze. Okno kontekstu ma na razie 32 tys. tokenów.

Model wytrenowano od zera na trzech publicznych europejskich superkomputerach: Jupiter, MeluXina i Jean Zay. Wsparcie publiczne odpowiadało mocy obliczeniowej wartej około 7 mln euro. Razem z wagami OVHcloud udostępni model bazowy, raport techniczny i dokumentację zgodności z unijnym AI Act.

Pierwsze wdrożenie i plany

Olala mini już działa w wyszukiwarce Qwant, w funkcji szybkich odpowiedzi. OVHcloud podaje, że odpowiedzi powstają o 20% szybciej, a koszty spadły trzykrotnie w porównaniu z modelem używanym wcześniej. To dane producenta, nie niezależny test.

Wersja 1.1 ma się pojawić jeszcze w tym roku, z kontekstem 128 tys. tokenów i lepszym rozumowaniem matematycznym. Wersja 2.0 ma przekroczyć 100 mld parametrów. Dalej firma chce budować modele do agentów dla firm, do pracy zespołów DevOps i do cyberbezpieczeństwa. Szyfrowana wersja pakietu OVHai Workspace ma działać na modelach uruchamianych lokalnie, na komputerze pracownika. Prezes Octave Klaba mówi wprost, że firma nie chce zależeć od tego, czy inne laboratoria dalej będą udostępniać swoje modele za darmo.

Co to znaczy dla polskich firm

Mały otwarty model z Europy to dobra wiadomość dla firm, które nie chcą wysyłać danych klientów do zewnętrznej chmury. Jeśli model działa na komputerze z kartą 8 GB, można go postawić we własnym biurze i mieć pełną kontrolę nad tym, co się dzieje z danymi. Przy RODO to często prostsze niż analizowanie umów z dostawcą z USA. Dokumentacja zgodności z AI Act też ułatwi życie działom prawnym.

Trzeba jednak pamiętać o ograniczeniach. Model z 1 mld aktywnych parametrów nie zastąpi dużych modeli w trudnych zadaniach. Lepiej sprawdzi się przy streszczaniu dokumentów, porządkowaniu notatek czy krótkich odpowiedziach. W zapowiedziach nie ma też informacji, jak model radzi sobie z polszczyzną. Zanim wdrożysz go w firmie, przetestuj go na własnych dokumentach po polsku i porównaj wyniki z narzędziem, którego używasz dziś.

Źródło: ITwiz: OVHcloud rozwija własne modele AI (17.11.2026) oraz Unite.AI (EN) (17.11.2026).

Pomożemy Ci wdrożyć sztuczną inteligencję w Twojej firmie.

Konsultacje i wdrożenia AI

Powiązane artykuły