Bielik na VPS: który polski LLM wybrać

Który Bielik zmieści się na Twoim VPS?

Bielika, polski model językowy od SpeakLeash, uruchomisz na VPS przez Ollama, a wybór wersji sprowadza się do jednej liczby: ilości RAM na serwerze. W Ollama są cztery modele z serii v3.0, a ten tekst porównuje trzy największe z nich. Bielik-11B zajmuje od 6.7 GB do 22 GB pobrania, Bielik-Minitron-7B od 4.5 GB do 7.9 GB, a Bielik-4.5B ma 5.1 GB w wersji Q8_0. Model musi zmieścić się w pamięci razem z systemem i kontekstem rozmowy. Dlatego najpierw porównaj rozmiar pliku z RAM serwera, a potem zmierz zużycie na swojej maszynie.

Wszystkie rozmiary pochodzą ze stron tagów na ollama.com, odczytanych 20 października 2026. Prędkości generowania tu nie znajdziesz, bo nikt jej dla Twojego serwera nie zmierzył. Zmierzysz ją sam jednym poleceniem.

Po co polski model na własnym serwerze?

Są dwa typowe powody. Pierwszy to dane. Kancelaria albo biuro rachunkowe przetwarza dokumenty klientów, a przy modelu w chmurze każdy prompt trafia na cudzy serwer. Gdy model działa na Twoim VPS, treść zapytania i odpowiedź nie opuszczają tej maszyny. To ułatwia rozmowę o RODO z klientem, ale nie zastępuje analizy prawnej. Nadal odpowiadasz za to, gdzie stoi serwer i kto ma do niego dostęp.

Drugi powód to koszt. API w chmurze liczy opłatę za każdy token. VPS kosztuje tyle samo miesięcznie bez względu na liczbę zapytań. Przy stałym, dużym ruchu ta różnica ma znaczenie. Przy kilku zapytaniach dziennie zwykle nie ma.

Bielik ma tu jedną przewagę nad modelami trenowanymi głównie na angielskim: powstał z myślą o języku polskim. Jeśli dopiero zaczynasz z lokalnymi modelami, przeczytaj najpierw ogólny przewodnik jak uruchomić własny model LLM na VPS z Ollama. Poniżej opisujemy tylko to, co jest specyficzne dla Bielika.

Skąd pochodzi Bielik i na jakiej licencji

Strony modeli w Ollama podają, że Bielika rozwijają SpeakLeash i ACK Cyfronet AGH. Licencja to Apache 2.0, a strony modeli 11B i 4.5B dodają link do osobnych warunków użytkowania na bielik.ai/terms. Te warunki obowiązują obok Apache 2.0. Mówią między innymi, że to użytkownik odpowiada za sposób użycia modelu i za sprawdzanie jego odpowiedzi. Nazwy i logo Bielik wolno używać tylko do wskazania, że korzystasz z niezmienionego modelu. Przed wdrożeniem w firmie przeczytaj tę stronę w całości.

Repozytoria na Hugging Face, na przykład speakleash/Bielik-11B-v3.0-Instruct, są publicznie widoczne. Pliki pobierzesz jednak dopiero po zalogowaniu i zaakceptowaniu warunków. Strony modeli w przestrzeni SpeakLeash na ollama.com takiej bramki nie pokazują, więc ta droga jest prostsza. Jeśli wolisz pobrać plik GGUF samodzielnie, opis znajdziesz w poradniku jak zaimportować model GGUF do Ollama.

Dwie informacje z karty modelu warto znać od początku. Karty 11B i Minitron-7B podają, że Bielik używa formatu promptu ChatML. Te same karty mówią wprost, że model nie ma żadnych mechanizmów moderacji i może podawać nieprawdziwe informacje. Jeśli wystawiasz go klientom, filtrowanie treści i weryfikacja odpowiedzi są Twoim zadaniem.

Trzy modele v3.0 w Ollama: rozmiary i kontekst

Strony tagów w przestrzeni SpeakLeash wymieniają 11 wariantów trzech modeli v3.0. Liczby poniżej to rozmiar pobrania podany przy każdym tagu.

[
  {
    "label": "11B Q4_K_M",
    "rozmiar_gb": 6.7
  },
  {
    "label": "11B Q5_K_M",
    "rozmiar_gb": 7.9
  },
  {
    "label": "11B Q6_K",
    "rozmiar_gb": 9.2
  },
  {
    "label": "11B Q8_0",
    "rozmiar_gb": 12
  },
  {
    "label": "11B bf16",
    "rozmiar_gb": 22
  },
  {
    "label": "Minitron-7B Q4_K_M",
    "rozmiar_gb": 4.5
  },
  {
    "label": "Minitron-7B Q5_K_M",
    "rozmiar_gb": 5.3
  },
  {
    "label": "Minitron-7B Q6_K",
    "rozmiar_gb": 6.1
  },
  {
    "label": "Minitron-7B Q8_0",
    "rozmiar_gb": 7.9
  },
  {
    "label": "4.5B Q8_0",
    "rozmiar_gb": 5.1
  },
  {
    "label": "4.5B FP16",
    "rozmiar_gb": 9.5
  }
]

Bielik-11B-v3.0-Instruct to największy z trzech. Ma pięć tagów, od Q4_K_M do pełnej precyzji bf16 o rozmiarze 22 GB.

Bielik-Minitron-7B-v3.0-Instruct to przycięta wersja Bielika 11B, poddana destylacji wiedzy. Karta na Hugging Face opisuje metodę jako inspirowaną podejściem Minitron od NVIDIA. Model ma cztery tagi i nie ma wersji bf16 ani FP16. Najmniejszy tag, Q4_K_M, waży 4.5 GB.

Bielik-4.5B-v3.0-Instruct ma tylko dwa tagi: Q8_0 (5.1 GB) i FP16 (9.5 GB).

Okno kontekstu, czyli liczba tokenów, które model widzi naraz, też się różni:

[
  {
    "label": "Bielik-11B-v3.0",
    "kontekst_k": 32
  },
  {
    "label": "Bielik-Minitron-7B-v3.0",
    "kontekst_k": 32
  },
  {
    "label": "Bielik-4.5B-v3.0",
    "kontekst_k": 8
  }
]

Modele 11B i Minitron-7B mają podane 32K, a 4.5B tylko 8K. Przy długich dokumentach, takich jak umowy czy regulaminy, to realne ograniczenie mniejszego modelu.

Symbole Q4_K_M, Q8_0 i bf16 oznaczają kwantyzację, czyli zapis wag z mniejszą liczbą bitów. Niższa kwantyzacja daje mniejszy plik i mniejsze zużycie RAM, ale też gorszą jakość odpowiedzi. Strony Bielika w Ollama ostrzegają przed tym wprost: modele kwantyzowane mogą odpowiadać gorzej i częściej halucynować. Różnice między poziomami opisuje osobny tekst o kwantyzacji Q4, Q8 i FP16 w Ollama.

Jak dobrać model do pamięci VPS

Na VPS bez karty graficznej model działa w całości w zwykłej pamięci RAM. Rozmiar pobrania to dolna granica tego, ile pamięci zajmie. Po załadowaniu dochodzi pamięć na kontekst rozmowy. Obok modelu musi się też zmieścić system i inne usługi na serwerze. Dlatego plik nie może zajmować całego RAM.

Z samej arytmetyki wynika kilka pewnych wniosków:

• Bielik-11B w bf16 (22 GB) nie załaduje się na serwerze z 16 GB RAM, bo sam plik jest większy niż pamięć.
• Bielik-11B w Q8_0 (12 GB) nie ma szans na VPS z 8 GB RAM z tego samego powodu.
• Na VPS z 8 GB RAM sensownie jest zacząć od Minitron-7B Q4_K_M (4.5 GB) albo Bielika 11B Q4_K_M (6.7 GB), a potem zmierzyć, ile pamięci zostaje wolne.
• Bielik-4.5B Q8_0 (5.1 GB) jest większy niż Minitron-7B Q4_K_M, choć ma mniej parametrów. Powodem jest wyższa precyzja wag.

Wszystko powyżej tych granic to zgadywanie. Szersze wyjaśnienie, jak liczyć pamięć dla modeli językowych, znajdziesz w tekście jak duży model LLM zmieści się w Twoim RAM. Najlepsze dane i tak dostaniesz z własnego serwera, co pokazuje sekcja o pomiarach.

Instalacja Ollama na VPS

Oficjalny skrypt instalacyjny dla Linuksa to jedno polecenie:

curl -fsSL https://ollama.com/install.sh | sh
ollama -v
systemctl status ollama --no-pager

Na systemie z systemd skrypt tworzy usługę ollama, włącza ją i uruchamia. Na koniec wypisuje The Ollama API is now available at 127.0.0.1:11434. Na typowym VPS bez GPU zobaczysz też ostrzeżenie No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode. To nie jest błąd. Oznacza tylko, że model będzie liczony na procesorze.

ollama -v powinno wypisać wersję. systemctl status powinno pokazać active (running). Jeśli usługa nie działa, przyczynę zwykle znajdziesz w logu:

journalctl -e -u ollama

Aktualizacja Ollama to ponowne uruchomienie tego samego skryptu instalacyjnego.

Pobieranie Bielika z pełną nazwą tagu

Zawsze podawaj pełną nazwę: przestrzeń SpeakLeash/ przed nazwą modelu i tag kwantyzacji po dwukropku. Gdy czytaliśmy strony tagów 20 października 2026, żaden z trzech modeli nie miał tagu latest. Sama nazwa modelu bez tagu nie wskazuje więc konkretnego pliku. Wybierz jedno polecenie, zgodne z RAM Twojego serwera:

ollama pull SpeakLeash/bielik-11b-v3.0-instruct:Q4_K_M
ollama pull SpeakLeash/bielik-minitron-7B-v3.0-instruct:Q4_K_M
ollama pull SpeakLeash/bielik-4.5b-v3.0-instruct:Q8_0

Zwróć uwagę na wielkość liter. W nazwie Minitron jest 7B z dużym B, dokładnie tak, jak na stronie modelu. W nazwach 11B i 4.5B litera b jest mała. Kopiuj nazwy ze stron tagów, nie wpisuj ich z pamięci.

Po pobraniu sprawdź listę modeli:

ollama list

Model powinien pojawić się z rozmiarem zbliżonym do tego ze strony tagów. Gdzie Ollama trzyma pliki i czym różni się pull od run, wyjaśnia tekst o ollama pull, ollama run i miejscu na modele. Na małym dysku VPS ma to znaczenie, bo każdy tag kwantyzacji to osobny plik.

Pierwsza rozmowa i pomiar szybkości

Teraz zmierz dwie rzeczy: ile pamięci zajmuje model i jak szybko generuje tekst. Zapisz stan pamięci przed załadowaniem modelu, uruchom jedno zapytanie z flagą --verbose, a potem sprawdź pamięć jeszcze raz:

free -h
ollama run --verbose SpeakLeash/bielik-11b-v3.0-instruct:Q4_K_M "Wyjaśnij w trzech zdaniach, czym jest RODO."
ollama ps
free -h

Flaga --verbose dopisuje pod odpowiedzią statystyki czasu. Najważniejsza linia to eval rate, czyli liczba tokenów generowanych na sekundę. To jest prędkość pisania odpowiedzi, którą odczuje użytkownik. Jeśli Twoja wersja Ollama nie zna tej flagi, sprawdź dostępne opcje przez ollama run --help.

ollama ps pokazuje modele załadowane do pamięci. Kolumna PROCESSOR na VPS bez GPU powinna pokazywać 100% CPU, co oznacza, że model siedzi w całości w RAM. Różnica w kolumnie used między pierwszym a drugim free -h to rzeczywisty koszt pamięci tego modelu na Twoim serwerze.

Zapisz oba wyniki, eval rate i zużycie RAM, razem z nazwą tagu i typem VPS. To są Twoje liczby i tylko one mówią prawdę o Twoim sprzęcie. Powtórz pomiar dla drugiego kandydata, na przykład Minitron-7B, i porównaj. Jeden prompt to mała próbka, więc zrób kilka pomiarów na tekstach podobnych do tych, które naprawdę będziesz przetwarzać.

Okno kontekstu: 32K na stronie, 4096 w Ollama

Liczba 32K na stronie tagów to maksimum, jakie model obsługuje. Ollama domyślnie używa okna 4096 tokenów, chyba że zmienisz to ustawienie. Długi dokument wklejony w prompt może więc zostać obcięty, choć model obsłużyłby więcej.

W trybie interaktywnym ollama run zmienisz to poleceniem:

/set parameter num_ctx 8192

Dla całej usługi ustaw zmienną środowiskową przez systemd:

sudo systemctl edit ollama.service

[Service]
Environment="OLLAMA_CONTEXT_LENGTH=8192"

sudo systemctl daemon-reload
sudo systemctl restart ollama

Większe okno zajmuje więcej pamięci. Po każdej zmianie powtórz pomiar z free -h i ollama ps, zanim wpuścisz ruch produkcyjny. Dla Bielika 4.5B nie ustawiaj więcej niż podane 8K.

Wywołanie Bielika przez API

Ollama nasłuchuje lokalnie na porcie 11434. Endpoint POST /api/chat przyjmuje model i listę wiadomości. Domyślnie odpowiedź przychodzi strumieniem, więc dla prostego skryptu ustaw "stream": false. Do czytania JSON przyda się jq:

sudo apt install -y jq
curl -s http://localhost:11434/api/chat -d '{
  "model": "SpeakLeash/bielik-11b-v3.0-instruct:Q4_K_M",
  "messages": [{"role": "user", "content": "Napisz krótkie powitanie dla nowego klienta biura rachunkowego."}],
  "stream": false,
  "options": {"num_ctx": 8192}
}' > odpowiedz.json
jq -r '.message.content' odpowiedz.json
jq '.eval_count / (.eval_duration / 1000000000)' odpowiedz.json

Pierwsze jq wypisuje treść odpowiedzi. Drugie liczy tokeny na sekundę z dwóch pól odpowiedzi: eval_count to liczba wygenerowanych tokenów, a eval_duration to czas generowania w nanosekundach. Dzięki temu mierzysz szybkość także w aplikacji, nie tylko w terminalu.

Formatu ChatML nie składasz ręcznie. Ollama nakłada szablon promptu zapisany w pliku Modelfile modelu. Szablon i domyślne parametry obejrzysz poleceniem:

ollama show --modelfile SpeakLeash/bielik-11b-v3.0-instruct:Q4_K_M

Modelfile modelu 11B ustawia domyślną temperaturę 0.1, więc odpowiedzi są bardzo przewidywalne. Jeśli chcesz to zmienić, przeczytaj najpierw tekst o temperaturze i próbkowaniu w Ollama.

Port 11434: zostaw go na localhost

Domyślnie Ollama słucha tylko na 127.0.0.1:11434, więc z internetu nikt się do niej nie dostanie. Sprawdź to:

sudo ss -ltnp | grep 11434

Wynik powinien zawierać 127.0.0.1:11434. Jeśli widzisz 0.0.0.0:11434 albo *:11434, ktoś ustawił OLLAMA_HOST na wszystkie interfejsy.

Domyślnie API nie pyta o hasło ani klucz. Polecenie curl z poprzedniej sekcji zadziałało bez żadnego uwierzytelniania. Każdy, kto dosięgnie tego portu, może więc używać Twojego modelu i Twojego procesora. Przy danych klientów to także ryzyko wycieku treści zapytań.

Do pracy z własnego laptopa wystarczy tunel SSH. Port zostaje wtedy na localhost serwera:

ssh -N -L 11434:127.0.0.1:11434 uzytkownik@twoj-vps

Dopóki tunel działa, aplikacja na laptopie łączy się z http://localhost:11434 tak, jakby Ollama działała lokalnie. Jeśli API ma być dostępne dla innych systemów, postaw przed nim reverse proxy z TLS (transport layer security) i uwierzytelnianiem, a port 11434 zostaw zamknięty w firewallu. Konfigurację krok po kroku opisuje poradnik jak zabezpieczyć endpoint API Ollama.

Co się psuje i jak to rozpoznać

Pobieranie kończy się błędem. Najczęstszą przyczyną jest nazwa modelu. Zwykle brakuje tagu lub przedrostka SpeakLeash/. W nazwie Minitron częsty błąd to małe b zamiast 7B. Porównaj nazwę znak po znaku ze stroną tagów. Sprawdź też wolne miejsce na dysku przez df -h, bo tag bf16 modelu 11B zajmuje 22 GB.

Model się ładuje, a potem usługa pada. Zabrakło pamięci. Jądro zabija wtedy proces, a ślad zostaje w logu systemowym. Sprawdź:

sudo dmesg | grep -i "out of memory"
journalctl -e -u ollama

Rozwiązaniem jest mniejszy tag albo mniejsze okno kontekstu. Jeśli to nie wystarcza, potrzebujesz VPS z większą ilością RAM.

Pierwsza odpowiedź po przerwie trwa długo. Ollama domyślnie trzyma model w pamięci przez 5 minut od ostatniego zapytania, a potem go zwalnia. Kolejne zapytanie musi najpierw wczytać kilka gigabajtów z dysku. Czas trzymania modelu zmienisz zmienną OLLAMA_KEEP_ALIVE, ustawianą tak samo jak OLLAMA_CONTEXT_LENGTH powyżej. Pamiętaj, że załadowany model cały czas zajmuje RAM.

Aplikacja zgłasza timeout przy długich odpowiedziach. Na samym CPU długa odpowiedź może trwać dłużej niż limit czasu ustawiony w Twoim kliencie HTTP. Przyczyny i poprawki opisuje tekst o błędzie context deadline exceeded w Ollama.

curl nie łączy się z portem 11434. Komunikat Failed to connect oznacza, że usługa nie działa albo słucha na innym adresie. Sprawdź systemctl status ollama i wynik ss -ltnp z poprzedniej sekcji.

Nowsze wersje Bielika

Opisane tu modele to v3.0, bo właśnie te nazwy były w Ollama 20 października 2026. Przestrzeń SpeakLeash zawiera też starsze modele z serii v2 i mniejszy Bielik-1.5B-v3.0. Zanim wynajmiesz serwer, zajrzyj na ollama.com/SpeakLeash i sprawdź, czy pojawiła się nowsza wersja.

Przy zmianie wersji pobierz nowy tag obok starego, powtórz pomiary i porównaj odpowiedzi na swoich danych. Dopiero potem usuń stary model, żeby zwolnić miejsce na dysku:

ollama rm SpeakLeash/bielik-11b-v3.0-instruct:Q4_K_M

W aplikacji trzymaj pełną nazwę modelu z tagiem w konfiguracji, nie w kodzie. Wtedy zmiana modelu to jedna linia.

FAQ

Ile RAM potrzebuje Bielik 11B na VPS?

Najmniejszy tag Bielika 11B, Q4_K_M, ma 6.7 GB pobrania, a Q8_0 ma 12 GB. Serwer potrzebuje więcej RAM niż sam plik, bo dochodzi pamięć na kontekst rozmowy oraz system. Dokładny koszt zmierzysz u siebie: porównaj free -h przed zapytaniem do modelu i po nim, a ollama ps potwierdzi, że model jest załadowany.

Który Bielik wybrać na mały VPS bez GPU?

Na serwerze z około 8 GB RAM zacznij od Bielik-Minitron-7B-v3.0-Instruct w Q4_K_M (4.5 GB pobrania) i zmierz eval rate przez ollama run --verbose. Minitron to przycięta wersja modelu 11B i ma takie samo okno kontekstu, 32K. Bielik-4.5B w Q8_0 zajmuje więcej miejsca na dysku i ma tylko 8K kontekstu.

Dlaczego ollama pull z samą nazwą Bielika nie działa?

Gdy strony tagów były czytane 20 października 2026, żaden model Bielik v3.0 w Ollama nie miał tagu latest. Podaj pełną nazwę z przestrzenią i tagiem, na przykład SpeakLeash/bielik-11b-v3.0-instruct:Q4_K_M. W nazwie Minitron pisz 7B z dużym B, tak jak na stronie modelu.

Czy mogę używać Bielika komercyjnie w firmie?

Strony modeli podają licencję Apache 2.0 oraz osobne warunki użytkowania na bielik.ai/terms. Warunki mówią, że to użytkownik odpowiada za sposób użycia modelu i za sprawdzanie odpowiedzi. Nazwy Bielik wolno używać tylko do wskazania niezmienionego modelu. Model nie ma mechanizmów moderacji. Przed wdrożeniem przeczytaj oba dokumenty, a w razie wątpliwości zapytaj prawnika.