SSD Nodes Learn Hosting plans →
Przewodniki Matt ConnorAutor: Matt Connor

Ollama w rootless Podman na VPS: konfiguracja krok po

Uruchom Ollama jako kontener rootless Podman z wykorzystaniem Quadlet. Poradnik obejmuje włączanie lingering, poprawne etykiety SELinux oraz bezpieczny dostęp przez SSH.

Uruchamianie Ollama w trybie rootless Podman na VPS

Aby uruchomić Ollama w trybie rootless Podman na serwerze, musi być spełnionych pięć warunków, które można pominąć w instrukcji przeznaczonej dla komputera stacjonarnego. Dedykowany użytkownik bez uprzywilejowanych uprawnień musi być właścicielem kontenera. Dla tego użytkownika należy włączyć lingering, aby kontener nadal działał po wylogowaniu. Plik Quadlet przekazuje kontener do systemd, dzięki czemu kontener uruchamia się ponownie po restarcie. Katalog modeli musi mieć etykietę SELinux w dystrybucjach, które wymuszają jej stosowanie. API nasłuchuje wyłącznie na loopback, a dostęp do niego uzyskuje się przez tunel SSH (secure shell).

Ollama to serwer dużych modeli językowych (LLM). Przechowuje wagi modeli na dysku, ładuje je do pamięci i odpowiada na żądania HTTP na porcie 11434. Lokalne API nie wymaga logowania ani klucza API, dlatego jedyną kontrolą dostępu w tym przypadku jest sieć. Podman uruchamia kontenery bez demona i bez uprawnień root, więc wszystko, co wydostanie się z kontenera, działa początkowo jako zwykły użytkownik bez uprzywilejowanych uprawnień. Jeśli najpierw potrzebne jest porównanie środowisk uruchomieniowych, zobacz czym różnią się Podman i Docker na VPS. Jeśli kontenery mają zostać całkowicie pominięte, instalacja Ollama bezpośrednio na VPS jest krótszym rozwiązaniem.

Fedora domyślnie dostarcza zarówno Podman, jak i SELinux (security-enhanced Linux). Poniższe polecenia zakładają użycie Podman 5 lub nowszego. Jednostka Quadlet wymaga również cgroup v2, które dokumentacja Podman wymienia jako wymaganie Quadlet niezależnie od wersji Podman. Przed rozpoczęciem należy sprawdzić oba warunki: podman --version w przypadku pierwszego oraz podman info | grep -i cgroup w przypadku drugiego, przy czym wiersz cgroupVersion musi zawierać v2. W Ubuntu 24.04 pakiet podman z archiwum jest w wersji 4.9.3, czyli starszej niż wersja wymagana przez ten wiersz, dlatego najpierw należy sprawdzić wersję w tej dystrybucji.

Dlaczego wersja na laptopa wymaga zmian na serwerze

Magazyn Fedora opublikował 5 sierpnia 2026 r. przejrzysty przewodnik po tym stosie: Uruchamianie Ollama lokalnie za pomocą Podman na Fedora Linux, autorstwa Yazana Monsheda. Jest to dobre wprowadzenie do narzędzi. Poradnik ten jest jednak przeznaczony dla laptopa, a cztery zawarte w nim wybory zachowują się inaczej na maszynie z publicznym adresem IP.

  • Kontener uruchamiany jest za pomocą zwykłego podman run -d. Kontener uruchomiony ręcznie nie powraca po restarcie, ponieważ nie skonfigurowano mechanizmu jego automatycznego startu.
  • Używany jest zmienny tag ollama/ollama. Na laptopie zauważysz dzień, w którym zmieni się zachowanie aplikacji. Na serwerze pierwszym sygnałem będzie skrypt, który przestał działać z dnia na dzień.
  • Publikacja odbywa się za pomocą -p 11434:11434, co wiąże usługę z każdym interfejsem. Za domowym routerem jest to niedostępne z Internetu. Na VPS jest to publiczne API wnioskowania bez żadnego hasła.
  • Proces działa jako użytkownik, na którego jesteś zalogowany. Na serwerze konto będące właścicielem kontenera nie powinno posiadać żadnych innych uprawnień, aby w razie ucieczki z kontenera napastnik trafił do pustego katalogu domowego.

Żaden z tych punktów nie jest błędem w kontekście maszyny, dla której tekst został napisany. Każdy z nich to po prostu decyzja, którą należy zweryfikować, gdy serwer jest dostępny z każdego miejsca, a nikt nie siedzi bezpośrednio przed nim.

Utwórz użytkownika bez uprawnień uprzywilejowanych i sprawdź subuid

Rootless Podman mapuje wewnętrzne identyfikatory użytkowników kontenera (UID) na blok nieużywanych identyfikatorów na hoście. Ten blok jest deklarowany w /etc/subuid i /etc/subgid. Podman obsługuje również tryb z jednym UID, ale w tej konfiguracji należy skonfigurować zakresy podrzędnych identyfikatorów.

sudo dnf install -y podman        # or: sudo apt install -y podman
sudo useradd --create-home --shell /bin/bash --comment "Ollama container owner" ollama
sudo passwd --lock ollama
grep ollama /etc/subuid /etc/subgid

Polecenie grep powinno wyświetlić dwa wiersze, po jednym z każdego pliku. Każdy wiersz powinien określać zakres obejmujący 65536 identyfikatorów:

/etc/subuid:ollama:100000:65536
/etc/subgid:ollama:100000:65536

Początkowa liczba będzie inna i jest to prawidłowe. Jeśli polecenie grep nic nie wyświetla, useradd nie przydzieliło zakresu. Podman zgłasza brak mapowania komunikatem podobnym do tego:

Error: cannot find UID/GID for user ollama: no subuid ranges found for user "ollama" in /etc/subuid

Przydziel zakres, którego nie używa żaden inny użytkownik, a następnie poinformuj Podman, że poprzednie mapowanie jest nieaktualne:

sudo usermod --add-subuids 100000-165535 --add-subgids 100000-165535 ollama
sudo -iu ollama podman system migrate

Zablokowanie hasła uniemożliwia logowanie za pomocą hasła jako ollama. Nie blokuje innych metod uwierzytelniania, takich jak klucze SSH. Dostęp do tego konta z konta administratora uzyskuje się za pomocą sudo -iu ollama.

Włącz lingering, aby usługa działała po wylogowaniu

Instancja systemd użytkownika jest zwykle uruchamiana podczas logowania i zatrzymywana po wylogowaniu ostatniej sesji, a razem z nią usuwany jest /run/user/<uid>. Usługi zarządzane przez tę instancję zatrzymują się wraz z nią. Lingering utrzymuje instancję użytkownika uruchomioną bez przypisanej sesji.

sudo loginctl enable-linger ollama
loginctl show-user ollama --property=Linger

Polecenie powinno wyświetlić Linger=yes. Należy je włączyć przed utworzeniem jednostki, aby menedżer użytkownika i jego katalog runtime były dostępne bez sesji logowania.

Pozostaje jeszcze jeden krok, którego zwykle się nie uwzględnia. sudo -iu ollama udostępnia powłokę, ale nie udostępnia session bus, dlatego systemctl --user natychmiast kończy działanie:

Failed to connect to bus: $DBUS_SESSION_BUS_ADDRESS and $XDG_RUNTIME_DIR not defined

systemd szuka user bus pod adresem $XDG_RUNTIME_DIR/bus, a sudo -i nie ustawia tej zmiennej. Należy ustawić ją ręcznie w każdej powłoce administracyjnej, w której zarządza się tą usługą:

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user status

Gdzie trafiają pliki modeli i ile miejsca na dysku należy zaplanować

Ollama zapisuje wagi modeli w /root/.ollama/models wewnątrz kontenera. Należy podmontować katalog z katalogu domowego użytkownika w tej ścieżce, aby pliki trafiały w miejsce, którego rozmiar można zmierzyć: /home/ollama/ollama-data/models. Pliki blob są zapisywane w models/blobs jako pliki adresowane zawartością, a models/manifests zawiera niewielki indeks, który nadaje im nazwy. W przypadku użycia nazwanego wolumenu, tak jak w artykule Fedora Magazine, ta sama struktura znajduje się w /home/ollama/.local/share/containers/storage/volumes/<volume>/_data. W obu przypadkach ollama pull i ollama run zapisują wagi modeli w tej samej strukturze. To, co różni te dwa polecenia, sprowadza się wyłącznie do tego, czy po zakończeniu pobierania zostanie od razu otwarta sesja czatu.

Przed pobraniem czegokolwiek należy określić wymagane miejsce na dysku. Opublikowane rozmiary pobierania wyznaczają wartość minimalną.

WykresPublished download size per Ollama model tag, ollama.com/library, checked 27 October 2026
Dane, na których opiera się ten wykres
[
  {
    "label": "gemma3:4b",
    "download_gb": 3.4
  },
  {
    "label": "mistral:7b",
    "download_gb": 4.4
  },
  {
    "label": "qwen3:8b",
    "download_gb": 5.2
  },
  {
    "label": "gemma3:12b",
    "download_gb": 8.2
  },
  {
    "label": "qwen3:14b",
    "download_gb": 9.3
  },
  {
    "label": "gemma3:27b",
    "download_gb": 17
  },
  {
    "label": "qwen3:30b",
    "download_gb": 19
  }
]

Wszystkie 7 wierszy zawierają wartości opublikowane na ollama.com/library, a nie rozmiary zmierzone na dysku. Najmniejszy tag, gemma3:4b, wymaga pobrania 3.4 GB. Największy, qwen3:30b, wymaga pobrania 19 GB. Obraz kontenera zajmuje dodatkowe miejsce w pamięci masowej Podmana, dlatego obie wartości należy sprawdzić łącznie za pomocą podman system df i df -h /home. Dla uzyskania dobrej wydajności należy zaplanować mniej więcej rozmiar pliku modelu w pamięci RAM oraz dodatkowe miejsce na okno kontekstu. Ilość fizycznej pamięci RAM nie stanowi sztywnego ograniczenia: mapowanie pamięci oparte na dysku lub odpowiednia ilość swapu może umożliwić uruchomienie modelu o rozmiarze 19 GB na VPS z 16 GB pamięci, ale wydajność będzie niższa.

Przypnij tag obrazu i użyj pełnej nazwy rejestru

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
mkdir -p ~/ollama-data ~/.config/containers/systemd
podman pull docker.io/ollama/ollama:0.32.9

Użyj taga wydanej wersji, 0.32.9 według stanu na sierpień 2026, a nie latest. Od tego czasu wydano nowsze wersje: 30 października 2026 najnowszym zwykłym tagiem wersji w Docker Hub jest 0.40.13, dlatego należy sprawdzić stronę z tagami i użyć bieżącej wersji zarówno w poleceniu pull, jak i w wierszu Image=. Przypięty tag wersji zapobiega instalowaniu na serwerze wydań, których nie wybrano, dzięki czemu zmiana zachowania zwykle oznacza zmianę wprowadzoną przez użytkownika. Tag nadal jest jednak wskaźnikiem, a nie odciskiem obrazu: rejestr wskazuje nim inny obraz, gdy ktoś ponownie wypchnie obraz pod tą samą nazwą. Tylko digest jest niezmienny. Podman akceptuje obie formy w Image=. Jeśli restart o 04:00 musi uruchomić dokładnie plik binarny, który został przetestowany, należy po pobraniu uruchomić podman images --digests docker.io/ollama/ollama i zamiast tego zapisać Image=docker.io/ollama/ollama@sha256:<digest>. Docker Hub publikuje również tagi -rc i -rocm dla tych samych wersji. Należy wybrać zwykły tag, chyba że używany jest procesor graficzny AMD.

Należy również podać host rejestru. W systemie Fedora krótka nazwa w jednostce systemd nie ma terminala, w którym można wyświetlić monit, dlatego jednostka kończy działanie z błędem:

Error: short-name "ollama/ollama" did not resolve to an alias and no unqualified-search registries are defined

Ręczne pobranie obrazu z wyprzedzeniem jest opcjonalne, ale przydatne, ponieważ przenosi pobieranie wielogigabajtowego obrazu poza limit czasu uruchamiania jednostki.

Jednostka Quadlet przetrwała restart

Quadlet to generator systemd dla Podman. Tworzysz plik .container, systemd zamienia go w usługę podczas startu systemu, a podman generate systemd staje się zbędne. Zapisz plik jako /home/ollama/.config/containers/systemd/ollama.container, którego właścicielem jest użytkownik ollama.

[Unit]
Description=Ollama API (rootless)
After=network-online.target
Wants=network-online.target

[Container]
Image=docker.io/ollama/ollama:0.32.9
ContainerName=ollama
PublishPort=127.0.0.1:11434:11434
Volume=/home/ollama/ollama-data:/root/.ollama:Z
Environment=OLLAMA_KEEP_ALIVE=30m
Environment=OLLAMA_MAX_LOADED_MODELS=1

[Service]
Restart=always
TimeoutStartSec=900

[Install]
WantedBy=default.target

Nazwa pliku określa nazwę usługi, więc ollama.container staje się ollama.service.

systemctl --user daemon-reload
systemctl --user start ollama.service
systemctl --user status ollama.service

status powinno pokazać active (running). Nie uruchamiaj systemctl --user enable ollama.service. Jednostka nie istnieje jako plik na dysku, więc systemd odrzuci polecenie:

Failed to enable unit: Unit file /run/user/1001/systemd/generator/ollama.service is transient or generated.

Sekcja [Install] wykonuje już to zadanie. Quadlet tworzy dowiązanie startowe podczas daemon-reload, dlatego to polecenie nie jest opcjonalne. TimeoutStartSec=900 uwzględnia pierwsze uruchomienie, które musi pobrać obraz, ponieważ domyślne 90 sekund nie wystarcza na pobranie wielu gigabajtów danych, co spowoduje, że systemd oznaczy start jako nieudany. OLLAMA_KEEP_ALIVE=30m utrzymuje model w pamięci między żądaniami zamiast usuwać go po pięciu minutach; kompromisy opisano w utrzymywaniu modelu Ollama w pamięci. Jeśli słownictwo systemd jest nowe, jak działają usługi i timery systemd na VPS wyjaśnia same jednostki.

Dlaczego katalog modelu zwraca błąd permission denied w SELinux

W systemach Fedora, RHEL, Rocky oraz AlmaLinux, SELinux jest domyślnie włączony w trybie wymuszania (enforcing). Proces kontenera działa w domenie container_t, a katalog w katalogu domowym użytkownika jest oznaczony etykietą user_home_t. Polityka bezpieczeństwa nie zezwala na interakcję między nimi, dlatego Ollama nie może utworzyć drzewa modeli, co powoduje zakończenie pracy kontenera. getenforce wyświetla Enforcing w tych systemach, a odmowa dostępu jest rejestrowana:

sudo ausearch -m avc -ts recent

Widoczny będzie wiersz wskazujący domenę oraz etykietę docelową:

avc:  denied  { write } for  pid=1842 comm="ollama" name="models" dev="vda1" ino=131077 scontext=system_u:system_r:container_t:s0:c214,c827 tcontext=unconfined_u:object_r:user_home_t:s0 tclass=dir permlisted=0

Opcja :Z na końcu wiersza Volume= stanowi rozwiązanie. Powoduje ona zmianę etykiety katalogu hosta na container_file_t i przypisanie mu prywatnej kategorii MCS (multi-category security), którą posiada tylko dany kontener. Mała litera :z używa etykiety współdzielonej, co jest pożądane w przypadku, gdy dwa kontenery odczytują ten sam katalog.

Należy zachować ostrożność przy stosowaniu :Z, ponieważ operacja ta jest destrukcyjna i przebiega bez ostrzeżeń. Zmiana etykiet odbywa się rekurencyjnie. Wskazanie /home/ollama spowoduje zmianę etykiet wszystkich plików w tym katalogu domowym, co uniemożliwi użytkownikowi logowanie za pomocą kluczy SSH. Zawsze należy przypisywać :Z dedykowany podkatalog, który nie zawiera innych danych. Wolumeny nazwane nie wymagają tego zabiegu, ponieważ Podman nadaje im poprawne etykiety podczas tworzenia. Jeśli potrzebne są szersze informacje, podstawy SELinux dla serwera wyjaśniają konteksty oraz zmienne logiczne (booleans). W systemach Ubuntu i Debian stosowany jest AppArmor, dlatego :Z jest tam ignorowane, a pozostawienie tego parametru w jednostce nie powoduje błędów.

Zamknięcie portu 11434 i dostęp do API przez SSH

PublishPort=127.0.0.1:11434:11434 wiąże port po stronie hosta z interfejsem loopback. Należy to potwierdzić:

ss -ltnp | grep 11434
curl http://127.0.0.1:11434

Dane wyjściowe ss muszą zawierać 127.0.0.1:11434, a curl musi zwracać Ollama is running. Jeśli ss pokazuje 0.0.0.0:11434 lub *:11434, port nasłuchuje na wszystkich interfejsach. Możliwość dostępu z Internetu zależy wtedy od reguł zapory oraz sieci znajdującej się przed serwerem, dlatego nasłuchiwanie na adresie wieloznacznym nie oznacza automatycznie, że usługa jest dostępna z Internetu. Nie należy jednak na tym polegać: dokumentacja Ubuntu wskazuje, że ufw jest początkowo domyślnie wyłączone, a reguła zapory to kolejny element, który musi pozostać poprawnie skonfigurowany. Należy poprawić adres wiązania, aby port od początku nie nasłuchiwał publicznie.

Należy precyzyjnie określić, po której stronie następuje wiązanie. Adres w PublishPort jest adresem hosta. W kontenerze Ollama musi nadal nasłuchiwać na wszystkich interfejsach, zgodnie z domyślną konfiguracją obrazu. Ustawienie Environment=OLLAMA_HOST=127.0.0.1 wiąże Ollama z interfejsem loopback kontenera, a Podman przekazuje opublikowany ruch na adres sieciowy kontenera. W rezultacie każde żądanie jest odrzucane, nawet jeśli pochodzi z hosta.

Otwarty port 11434 powoduje dwa problemy. Ollama nie ma uwierzytelniania, więc każdy, kto uzyska dostęp do portu, może wyświetlać listę modeli za pomocą /api/tags, wykonywać obliczenia na procesorze i zużywać limit przepustowości za pomocą /api/generate, pobierać nowe modele na dysk oraz usuwać posiadane modele. Po drugie, zwykły HTTP do zdalnego portu przesyła prompty i wygenerowane odpowiedzi jawnym tekstem, dlatego każda maszyna na trasie może je odczytać. Oba problemy znikają, jeśli port nie opuszcza hosta.

Ze stacji roboczej należy przekierować port przez SSH:

ssh -N -L 11434:127.0.0.1:11434 you@vps.example.com

Teraz http://127.0.0.1:11434 na laptopie wskazuje na Ollama działającą na serwerze, a ruch jest chroniony szyfrowaniem sesji SSH. Jeśli na laptopie działa już Ollama, lokalne wiązanie zakończy się błędem bind [127.0.0.1]:11434: Address already in use. Należy użyć -L 11435:127.0.0.1:11434 i wskazać klientowi port 11435.

Jeśli jest potrzebny klient przeglądarkowy, należy umieścić przed nim reverse proxy z hasłem. Blok site w Caddy jest krótki, a caddy hash-password wyświetla wymagany hash bcrypt:

ollama.example.com {
  basic_auth {
    you $2a$14$replace_with_the_generated_hash
  }
  reverse_proxy 127.0.0.1:11434
}

Caddy samodzielnie uzyskuje certyfikat TLS (transport layer security), dlatego ruch jest szyfrowany. Najpierw należy przetestować klienta: klienci, którzy nie potrafią wysyłać nagłówka Authorization, nie przejdą uwierzytelniania podstawowego i otrzymają jedynie 401 Unauthorized. Tunel SSH nie ma tego problemu, dlatego jest tutaj domyślnie zalecanym rozwiązaniem.

Pobierz model i sprawdź całą ścieżkę

podman exec -it ollama ollama pull gemma3:4b
curl -s http://127.0.0.1:11434/api/tags
curl -s http://127.0.0.1:11434/api/generate -d '{"model":"gemma3:4b","prompt":"Reply with the single word: ready","stream":false}'
du -sh ~/ollama-data/models

/api/tags zwraca JSON z listą gemma3:4b. /api/generate zwraca obiekt JSON z polem response po chwili potrzebnej na wczytanie wag z dysku. du powinno zwrócić wartość zbliżoną do opublikowanego rozmiaru pobierania. Następnie należy potwierdzić działanie elementu, którego dotyczy cały ten poradnik:

sudo reboot
# reconnect, then:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user is-active ollama.service

active oznacza, że proces nadal działa, a sekcja [Install] i daemon-reload wykonały swoje zadania. Jeśli zwracana jest wartość inactive, należy najpierw sprawdzić te trzy elementy, a następnie przejrzeć journalctl --user -u ollama.service pod kątem błędów uruchamiania.

Tryby awarii wraz z komunikatami widocznymi w systemie

Kontener znika po ponownym uruchomieniu. Najpierw sprawdź loginctl show-user ollama --property=Linger, ponieważ bez Linger=yes instancja systemd użytkownika nie uruchamia się podczas startu systemu. Jeśli włączono lingering, sprawdź sekcję [Install] w pliku .container, uruchom systemctl --user daemon-reload i przejrzyj journalctl --user -u ollama.service pod kątem błędów uruchamiania.

Error: statfs /home/ollama/ollama-data: no such file or directory. Źródło bind mountu musi istnieć przed uruchomieniem kontenera. Podman nie tworzy automatycznie katalogów na hoście. Uruchom mkdir -p ~/ollama-data jako użytkownik ollama.

Uruchomienie kończy się niepowodzeniem po 90 sekundach. journalctl --user -u ollama.service wyświetla Start operation timed out. Terminating., ponieważ pobieranie obrazu nadal trwało. Pobierz obraz ręcznie albo zachowaj TimeoutStartSec=900.

Kontener uruchamia się i kończy działanie. podman logs ollama oraz sudo ausearch -m avc -ts recent razem wskazują, czy przyczyną jest etykieta SELinux. Komunikat AVC zawierający container_t i user_home_t oznacza, że brakuje :Z.

Żądania z hosta są odrzucane. curl: (7) Failed to connect to 127.0.0.1 port 11434: Connection refused wraz z usługą active zwykle oznacza, że OLLAMA_HOST ustawiono na adres loopback wewnątrz kontenera. Usuń ten wiersz.

Generowanie trwa bardzo długo albo kontener zostaje zakończony. Bez GPU wnioskowanie działa na CPU, dlatego duży model działa z natury wolno. Odwzorowanie pamięci z użyciem dysku lub pamięć swap dodatkowo spowalniają wnioskowanie, gdy model nie mieści się w fizycznej pamięci RAM. Jeśli kontener kończy działanie w trakcie żądania, a w dziennikach pojawia się signal: killed, należy sprawdzić przyczynę. Jeśli dziennik jądra potwierdza zakończenie procesu z powodu braku pamięci, wybierz mniejszy tag z powyższej tabeli.

Aktualizowanie przypiętego obrazu

Przypięcie oznacza, że za aktualizacje odpowiada administrator, a nie mechanizm automatyczny. Zmień Image= w ollama.container, a następnie przeładuj konfigurację i uruchom usługę ponownie:

systemctl --user daemon-reload
systemctl --user restart ollama.service
podman exec ollama ollama --version

Modele znajdują się w bind mount, więc po zmianie obrazu pozostają nienaruszone. AutoUpdate=registry w sekcji [Container] konfiguruje sprawdzanie digestów w registry; podman auto-update, uruchamiane ręcznie lub przez timer systemd, pobiera zmieniony obraz i ponownie uruchamia jednostkę. To rozwiązanie pasuje do ruchomego taga. W przypadku taga wersji mechanizm zadziała tylko wtedy, gdy wydawca ponownie opublikuje ten sam tag. Jest to dokładnie taka nieplanowana zmiana, której przypięcie ma zapobiegać, dlatego tutaj należy pozostawić tę opcję wyłączoną. Należy wykonać kopię zapasową /home/ollama/ollama-data/models/manifests oraz pliku .container, a pominąć bloby: są duże, a ollama pull pobierze je ponownie na nowym hoście.

FAQ

Dlaczego kontener rootless Podman zatrzymuje się po wylogowaniu?

Instancja systemd użytkownika i jej katalog /run/user/<uid> są zwykle usuwane po zakończeniu ostatniej sesji tego użytkownika. Powoduje to zatrzymanie usług zarządzanych przez tę instancję. Uruchom sudo loginctl enable-linger ollama i potwierdź, że loginctl show-user ollama --property=Linger wyświetla Linger=yes. Włącz lingering przed utworzeniem jednostki Quadlet, aby menedżer użytkownika i jego katalog środowiska uruchomieniowego były dostępne bez sesji logowania.

Czy w katalogu modeli Ollama są potrzebne etykiety SELinux?

W Fedora, RHEL, Rocky i AlmaLinux tak, jeśli jest montowany katalog z hosta. Kontener działa w domenie container_t, a katalog w folderze domowym ma etykietę user_home_t. Zapis jest wtedy blokowany i Ollama kończy działanie. Dodaj :Z do wiersza Volume= i użyj dedykowanego podkatalogu, ponieważ zmiana etykiet jest wykonywana rekurencyjnie, a wskazanie :Z na cały katalog domowy uniemożliwia temu użytkownikowi dostęp do kluczy SSH. Woluminy nazwane otrzymują prawidłowe etykiety od Podman i nie wymagają dodatkowej konfiguracji.

Ile miejsca na dysku wymaga model Ollama?

Zacznij od opublikowanego rozmiaru pobierania w ollama.com/library. Wynosi on od 3.4 GB dla gemma3:4b do 19 GB dla qwen3:30b. Następnie dodaj obraz Podman i pozostaw zapas miejsca, ponieważ drugi model nie zastępuje pierwszego na dysku. Sprawdź df -h /home przed pobraniem i du -sh ~/ollama-data/models po nim. Aby uzyskać dobrą wydajność, zaplanuj w pamięci RAM mniej więcej rozmiar pliku modelu oraz dodatkowe miejsce na okno kontekstu. Mapowanie plików z dysku do pamięci lub wystarczająca ilość swap może umożliwić uruchomienie większego modelu przy mniejszej ilości fizycznej pamięci RAM, ale z niższą wydajnością.

Czy wystawienie portu 11434 na VPS jest bezpieczne?

Nie. Ollama nie zapewnia żadnego uwierzytelniania, więc każdy, kto uzyska dostęp do portu, może wyświetlać listę modeli, usuwać je, pobierać nowe na dysk oraz uruchamiać wnioskowanie z użyciem procesora i dostępnego limitu transferu. Zwykły HTTP przez Internet przesyła również każdy prompt i każdą odpowiedź jawnym tekstem. Dowiąż stronę hosta do 127.0.0.1 za pomocą PublishPort=127.0.0.1:11434:11434, potwierdź ustawienie poleceniem ss -ltnp | grep 11434 i uzyskuj dostęp przez tunel SSH albo reverse proxy wymagające hasła.

Czy ten artykuł był przydatny?