SSD Nodes Learn Hosting plans →
Przewodniki Matt ConnorAutor: Matt Connor

Ollama pull a run: różnice i lokalizacja plików modeli

Wyjaśnienie różnic między poleceniami ollama pull oraz ollama run. Dowiedz się, gdzie zapisywane są pliki modeli i jak przenieść katalog OLLAMA_MODELS na inny dysk.

ollama pull a ollama run

ollama pull pobiera model i kończy działanie. W przypadku lokalnego modelu czatowego ollama run pobiera model tylko wtedy, gdy go brakuje, a następnie ładuje go do pamięci i otwiera interaktywny czat. Proces pobierania jest identyczny, a pliki trafiają w to samo miejsce. Tylko run kontynuuje działanie po zakończeniu pobierania. Modele embeddingowe stanowią wyjątek od części czatowej: oficjalna dokumentacja pokazuje ollama run embeddinggemma "Hello world" wypisujące embedding jako tablicę JSON zamiast odpowiedzi. Bez tekstu wejściowego ollama run odrzuca model embeddingowy z błędem embedding models require input text.

Ta jedna różnica decyduje o tym, które polecenie należy umieścić w skrypcie, a które przy klawiaturze.

ollama pull gemma4
ollama run gemma4
ollama run gemma4 "Reply with one word: ready"

Pierwsza linia pobiera model i kończy działanie, więc jest bezpieczna w procesach wdrażania oraz w jednostkach systemd. Druga otwiera sesję czatu; wpisz /bye lub naciśnij Ctrl+D, aby ją opuścić. Trzecia wysyła pojedynczy prompt, wypisuje odpowiedź i kończy działanie, co jest formą pożądaną w skrypcie, gdy wymagana jest odpowiedź, a nie sesja. Ta trzecia forma nadal pozostawia długość odpowiedzi całkowicie w gestii modelu, więc pytanie jednowierszowe może wrócić jako trzy akapity, a ograniczenie odpowiedzi za pomocą num_predict jest tym, co utrzymuje skryptowe run w rozmiarze, który wywołujący może faktycznie wykorzystać. Nazwy modeli zmieniają się szybko, więc traktuj gemma4 w tym miejscu jako symbol zastępczy: jest to przykład używany w oficjalnej dokumentacji Ollama na październik 2026; podstaw inny lokalny model czatowy, aby uzyskać ten sam przepływ pracy. Tagi kończące się na :cloud, takie jak gemma4:cloud, są inne: Ollama uruchamia je na własnych serwerach bez pobierania wag modelu, więc poniższe wymagania dotyczące miejsca na dysku dotyczą modeli lokalnych. Jeśli wolisz podstawić model, którego rozmiar został już zweryfikowany na rzeczywistym serwerze, uruchomienie Nemotron 3.5 Lightning na VPS podaje dokładny tag do pobrania oraz pamięć, której oczekuje.

Dlaczego pierwsze uruchomienie ollama wygląda na zawieszone

Pierwsze wywołanie run na świeżym serwerze VPS może przez kilka minut nie generować żadnych danych wyjściowych. Nie oznacza to awarii. Prompt czatu nie pojawi się, dopóki model nie zostanie pobrany na dysk i załadowany do pamięci, więc run wykonuje pobieranie o rozmiarze kilku gigabajtów, zanim będzie w stanie wyświetlić jakiekolwiek informacje.

Dwa czynniki maskują ten proces. Ollama zapisuje pasek postępu do standardowego strumienia błędów (stderr), więc w miejscach, gdzie ten strumień jest odrzucany lub odczytywany dopiero po zakończeniu operacji, na przykład w skryptach kończących się na 2>/dev/null lub zadaniach cron, użytkownik nie otrzymuje informacji o trwającym pobieraniu. Następnie, gdy dane zostaną zapisane, plik musi zostać odczytany z dysku do pamięci RAM przed wygenerowaniem pierwszego tokena, a na małym serwerze VPS ten odczyt jest powolny. Jeśli serwer nie posiada wystarczającej ilości pamięci dla modelu, jądro systemu rozpoczyna stronicowanie (swapping), co znacznie wydłuża czas oczekiwania.

Zamiast zgadywać, należy monitorować proces z poziomu drugiej sesji:

df -h /
watch -n5 df -h /

Na nowym serwerze stopniowy spadek wolnego miejsca oznacza, że pobieranie nadal trwa. Jeśli wolne miejsce przestaje maleć, a polecenie nadal pracuje, nie oznacza to automatycznie, że ładowanie się rozpoczęło: po pobraniu Ollama wykonuje oddzielną fazę verifying sha256 digest, która odczytuje pliki przed zapisaniem manifestu i zakończeniem operacji pull. Serwer, na którym już znajdowały się modele, może wprowadzać w błąd w wersji Ollama 0.40.2: pierwsze uruchomienie modelu pobranego starszą wersją powodowało zapisanie zaktualizowanej kopii w tle przy zachowaniu oryginału jako kopii zapasowej, więc wolne miejsce mogło maleć bez faktycznego pobierania danych. Wersja Ollama 0.40.3, wydana 11 października 2026, wstrzymała tę aktualizację w tle.

Jest to argument za wcześniejszym pobieraniem modeli. Osoba wpisująca ollama run nie powinna być tą, która czeka na zakończenie pobierania.

Pobierz model, zanim ktokolwiek o niego zapyta

To samo dotyczy wszystkiego, co nie jest człowiekiem: agent programistyczny wskazujący na endpoint Ollama otrzyma błąd modelu nieznalezionego, jeśli żądany lokalny model nie został pobrany; żądanie inferencji nie powoduje jego pobrania. Na nowej maszynie pobierz model w tym samym skrypcie, który instaluje serwer:

curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4

Jeśli uruchamiasz serwer po raz pierwszy, pełna instalacja Ollama na VPS obejmuje samą usługę oraz zasady dostępu do niej. Następnie warto skonfigurować pobieranie, które przetrwa zamknięcie terminala, ponieważ przerwanie pobierania w połowie prowadzi do powstania niekompletnych plików w magazynie modeli.

Uruchom to wewnątrz tmux lub przekaż do systemd jako jednostkę typu one-shot, która uruchamia się podczas startu systemu. Utwórz /etc/systemd/system/ollama-pull.service:

[Unit]
Description=Pre-pull Ollama models
Wants=ollama.service network-online.target
After=ollama.service network-online.target

[Service]
Type=oneshot
RemainAfterExit=yes
ExecStart=/bin/sh -c 'until ollama list >/dev/null 2>&1; do sleep 2; done'
ExecStart=/bin/sh -c 'ollama pull gemma4'

[Install]
WantedBy=multi-user.target

Oba polecenia celowo przechodzą przez /bin/sh -c. Surowe ExecStart= akceptuje ścieżkę bezwzględną lub prostą nazwę pliku wykonywalnego rozwiązywaną przez stałą ścieżkę wyszukiwania systemd; command -v ollama pokazuje ścieżkę, którą znajduje bieżąca powłoka. Użycie powłoki wykorzystuje zmienną PATH usługi zamiast ścieżki skopiowanej z poradnika. Pierwsze ExecStart również ma znaczenie: After=ollama.service oznacza, że jednostka serwera została uruchomiona, co nie jest równoznaczne z gotowością do pracy, dlatego pętla czeka, aż ollama list odpowie, zanim rozpocznie się pobieranie.

sudo systemctl daemon-reload
sudo systemctl enable --now ollama-pull.service
journalctl -u ollama-pull.service

Dziennik powinien pokazać zakończenie pobierania bez błędów, a ollama list powinno następnie wyświetlić model. Aby utrzymać aktualność zmiennego tagu, dodaj timer systemd lub cotygodniowy wpis w cron, który uruchamia to samo pobieranie. Ponowne pobranie tagu, który został zaktualizowany, spowoduje pobranie nowych warstw i, w przypadku większości modeli, usunięcie starych warstw, które nie są już używane, po zakończeniu tego samego procesu pobierania.

Co się dzieje w przypadku przerwania pobierania

Każda warstwa modelu jest przechowywana pod hashem własnej zawartości. Przerwane pobieranie nie oznacza zatem zmarnowanej pracy: po ponownym uruchomieniu tego samego ollama pull, ukończone już warstwy zostaną rozpoznane i pominięte, dzięki czemu pobieranie będzie kontynuowane od warstwy, na której zostało przerwane.

Jedno działanie może zniweczyć ten postęp. Podczas uruchamiania serwer Ollama usuwa częściowe pobrania oraz zapisane warstwy, do których nie odwołuje się żaden manifest modelu, a fragmenty pozostawione przez przerwane pobieranie są właśnie takimi plikami. Obecne wydania (0.40.11, sprawdzone 26 października 2026) pomijają pliki zapisane w ciągu ostatniej godziny, więc restart wykonany krótko po przerwaniu pobierania jest bezpieczny, ale restart wykonany kilka godzin później spowoduje usunięcie już pobranych fragmentów. Najpierw ponów pobieranie, a dopiero później wykonaj restart. Jeśli częściowe pobranie musi przetrwać restart, ustaw OLLAMA_NOPRUNE=1 w środowisku usługi, a następnie usuń to ustawienie, ponieważ ta zmienna wyłącza również czyszczenie po zakończeniu każdego pobierania, a te dwa procesy czyszczenia zapobiegają gromadzeniu się osieroconych warstw na dysku.

Jeśli pobieranie zostało przerwane z powodu no space left on device, zwolnij miejsce przed ponowną próbą. Jeśli df wskazuje na pełny dysk, a du w katalogu modelu nie wyjaśnia tego stanu, miejsce zostało zajęte przez inne dane i warto zapoznać się z przyczynami rozbieżności między df a du przed usunięciem jakichkolwiek plików.

Gdzie Ollama przechowuje modele na serwerze VPS?

Należy sprawdzić własny system zamiast polegać na ścieżce z jakiegokolwiek poradnika, w tym z tego. Lokalizacja różni się w zależności od tego, czy instalacja odbyła się przez pakiet, czy w kontenerze, a także zmienia się, jeśli ktoś ustawił OLLAMA_MODELS.

systemctl cat ollama.service
getent passwd ollama
sudo find / -xdev -type d -name blobs 2>/dev/null

systemctl cat wyświetla plik jednostki wraz z każdym plikiem typu drop-in, więc linia OLLAMA_MODELS ustawiona przez użytkownika lub zawarta w obrazie będzie tam widoczna. Jeśli taka linia nie istnieje, magazyn znajduje się w katalogu domowym konta, na którym uruchomiona jest usługa, a getent passwd wyświetla ten katalog domowy w szóstym polu oddzielonym dwukropkiem. Polecenie find przeszukuje system plików w poszukiwaniu katalogu blobs, w którym faktycznie zapisywane są warstwy. Należy pominąć -xdev, jeśli modele mogą już znajdować się na oddzielnym punkcie montowania.

Teraz należy dokonać pomiaru i odczytać własne wartości:

ollama list
df -h /
sudo du -sh /the/directory/you/found
sudo du -h -d1 /the/directory/you/found

Magazyn zawiera dwa rodzaje zawartości. Katalogi manifestów (manifests, połączone przez manifests-v2 w bieżących wydaniach) przechowują małe pliki, które dla każdego tagu modelu wymieniają warstwy, z których jest on zbudowany. blobs przechowuje same warstwy, z których każda jest nazwana zgodnie z hashem swojej zawartości; to tam znajduje się niemal cały zajmowany rozmiar. Ponieważ warstwy są współdzielone między tagami, dwa modele zbudowane na tych samych wagach zgłaszają swój własny rozmiar w ollama list, zajmując to miejsce na dysku tylko raz, więc sumaryczne rozmiary mogą przekraczać wartości zgłaszane przez du dla tego katalogu. Odwrotna niespodzianka wynika z wersji Ollama 0.40.2: modele zaktualizowane w tle zachowują oryginalną kopię na dysku jako kopię zapasową, czego ollama list nie pokazuje dwukrotnie, więc du może zgłaszać znacznie większe zużycie, niż sugeruje lista. Informacje o wydaniu 0.40.2 zawierają skrypt, który usuwa tylko te kopie zapasowe.

Pliki modeli zapełniają mały system plików root na VPS szybciej niż cokolwiek innego, co prawdopodobnie zostanie zainstalowane, a największy wpływ na ich rozmiar ma format wag. Wybór między q4, q8 a fp16 pozwala zaoszczędzić gigabajty na każdy model.

Przenoszenie modeli do wolumenu danych za pomocą OLLAMA_MODELS

Jeśli serwer posiada drugi dysk lub większy wolumen danych, należy przenieść magazyn przed zapełnieniem systemu plików root. Najpierw należy zatrzymać serwer, aby uniknąć kopiowania pliku, do którego wciąż trwa zapis.

sudo systemctl stop ollama
sudo mkdir -p /mnt/data/ollama-models
sudo rsync -a /the/directory/you/found/ /mnt/data/ollama-models/
sudo chown -R ollama:ollama /mnt/data/ollama-models
sudo systemctl edit ollama.service

systemctl edit otwiera edytor pliku typu drop-in, dzięki czemu oryginalna jednostka pakietowa pozostaje nienaruszona, a aktualizacja pakietu nie nadpisze wprowadzonych zmian. Należy dodać te dwie linie:

[Service]
Environment="OLLAMA_MODELS=/mnt/data/ollama-models"
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment
ollama list

systemctl show powinno wyświetlić nową ścieżkę, a ollama list powinno pokazać te same modele, co przed przeniesieniem. Jeśli lista jest pusta, należy sprawdzić, czy nowy katalog zawiera skopiowany magazyn oraz czy serwer ma uprawnienia do jego odczytu. Usługa działa jako użytkownik ollama, więc musi on posiadać uprawnienia do odczytu i zapisu w miejscu docelowym, co zapewnia linia chown powyżej. Należy sprawdzić journalctl -e -u ollama pod kątem błędów uprawnień wskazujących na nową ścieżkę. Starą kopię należy usunąć dopiero po upewnieniu się, że lista jest poprawna, ponieważ nieudane przeniesienie połączone z usunięciem źródła oznacza konieczność ponownego pobrania wszystkich danych.

Druga opcja polega na zachowaniu oryginalnej ścieżki i zamontowaniu w niej wolumenu danych:

echo '/mnt/data/ollama-models /the/directory/you/found none bind 0 0' | sudo tee -a /etc/fstab
sudo mount -a
findmnt /the/directory/you/found
df -h /

findmnt wyświetlające punkt montowania oznacza, że bind jest aktywny. Montowanie typu bind jest przydatne, gdy inne elementy systemu oczekują domyślnej lokalizacji. Istnieje jednak ryzyko: skopiowane pliki nadal znajdują się pod punktem montowania na dysku root, ukryte przez montowanie, więc zwolnienie miejsca nastąpi dopiero po odmontowaniu i usunięciu tych plików. Zmienna środowiskowa jest łatwiejsza do wyjaśnienia dla kolejnego administratora systemu.

Gdzie kontener przechowuje te dane

Oficjalny obraz przechowuje modele w miejscu, które zostanie zamontowane, a nie w katalogu hosta należącym do użytkownika ollama. Udokumentowane polecenie uruchomieniowe to:

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

ollama przed dwukropkiem to nazwany wolumen Docker, a /root/.ollama to ścieżka, w której serwer zapisuje dane wewnątrz kontenera. Dlatego du w odniesieniu do ścieżek z poprzedniej sekcji nie zwraca żadnych wyników, ponieważ nic się tam nie znajduje. Aby wyświetlić rzeczywistą lokalizację i rozmiar, należy użyć:

docker volume inspect ollama
docker system df -v
docker exec -it ollama ollama list

Należy odczytać pole Mountpoint z docker volume inspect, a następnie wykonać sudo du -sh dla tej ścieżki. Aby umieścić modele na wolumenie danych, należy zastąpić nazwany wolumen katalogiem hosta (-v /mnt/data/ollama:/root/.ollama) i utworzyć kontener ponownie. Kontener zapisuje dane jako root, więc katalog hosta stanie się własnością użytkownika root. W przypadku rootless Podman, root kontenera jest domyślnie mapowany na UID i GID użytkownika hosta, podczas gdy inne identyfikatory kontenera korzystają z podrzędnych zakresów: uruchamianie Ollama w trybie rootless Podman opisuje to mapowanie.

Ostrzeżenie dotyczące czyszczenia. Zwykłe polecenie docker volume prune usuwa tylko anonimowe wolumeny, więc pozostawia nazwany wolumen ollama w spokoju, ale docker volume prune --all usuwa każdy wolumen, do którego nie odwołuje się żaden kontener, w tym te nazwane. Usunięcie lub ponowne utworzenie kontenera ollama bez jego wolumenu, a następnie wykonanie prune --all, spowoduje usunięcie wszystkich pobranych modeli bez możliwości ich odzyskania poza ponownym pobraniem. Przed uruchomieniem czyszczenia na serwerze VPS przechowującym modele należy zapoznać się z jak czyścić użycie dysku przez Docker na VPS.

Usuwanie modelu za pomocą ollama rm, a nie rm

ollama list
ollama rm gemma4
ollama list
df -h /

ollama rm usuwa manifest dla danego tagu, a następnie usuwa warstwy, do których nie odwołuje się żaden pozostały manifest. Miejsce na dysku odzyskiwane jest natychmiast po odłączeniu tych plików, więc df działa niezwłocznie. Ponieważ warstwy są współdzielone, usunięcie jednego z dwóch blisko powiązanych tagów może zwolnić znacznie mniej miejsca, niż wskazywałby rozmiar ollama list wyświetlony obok. Jest to poprawne zachowanie, a nie błąd usuwania.

Ręczne usuwanie plików narusza spójność pary. Usunięcie obiektu blob za pomocą rm sprawia, że manifest nadal go zawiera, więc ollama list wciąż wyświetla model, a każda próba jego użycia kończy się niepowodzeniem w momencie odczytu brakującej warstwy. Ręczne usunięcie manifestu powoduje, że jego warstwy pozostają na dysku, nie będąc wskazywanymi przez żaden element, co zajmuje przestrzeń, o której nie poinformuje żadne polecenie Ollama. Jeśli obiekt blob został już usunięty, ollama rm na danym tagu wyczyści pozostały wpis; jeśli usunięto manifest, nie pozostaje żaden wpis tagu do usunięcia. Restart serwera czyści warstwy, do których nic się nie odwołuje, pod warunkiem, że są one starsze niż godzina.

Ostatnie rozróżnienie, ponieważ te dwie kwestie są stale mylone. ollama rm dotyczy dysku. ollama stop gemma4 zwalnia model z pamięci i nie zwalnia żadnego miejsca na dysku. Czas, przez jaki model pozostaje w pamięci RAM po zakończeniu pobierania, jest osobnym ustawieniem, a utrzymywanie modelu w pamięci zamiast przeładowywania go przy każdym żądaniu omawia to zagadnienie.

FAQ

Jaka jest różnica między ollama pull a ollama run?

ollama pull pobiera model na dysk i kończy działanie. ollama run sprawdza, czy model znajduje się już na dysku, pobiera go w razie potrzeby, ładuje do pamięci, a w przypadku modelu czatowego otwiera interaktywną sesję. Oba polecenia zapisują te same pliki w tym samym katalogu. Używaj pull w procesach wdrażania i skryptach, a run, gdy użytkownik pracuje przy klawiaturze. ollama run <model> "your prompt" wysyła pojedynczy prompt i kończy działanie, co stanowi wersję run przeznaczoną do skryptowania.

Dlaczego pierwsze uruchomienie ollama run wydaje się zawieszać?

Proces może pobierać, weryfikować lub ładować model. Prompt czatu nie pojawi się, dopóki model nie zostanie zapisany na dysku i załadowany do pamięci, a modele zajmują kilka gigabajtów. Ollama wypisuje pasek postępu do standardowego wyjścia błędów, więc run wewnątrz skryptu odrzucającego ten strumień lub w zadaniu cron nie wyświetli żadnych informacji podczas pracy. Otwórz drugą sesję i uruchom watch -n5 df -h /: na nowym systemie stopniowe zmniejszanie się wolnego miejsca oznacza, że pobieranie trwa. Pobierz model wcześniej, aby wyeliminować czas oczekiwania na pobranie i weryfikację; ładowanie nadal wymaga czasu.

Gdzie Ollama przechowuje swoje modele?

Lokalizacja zależy od instalacji, więc należy ją sprawdzić, zamiast zakładać domyślną. Uruchom systemctl cat ollama.service, aby sprawdzić, czy zmienna OLLAMA_MODELS jest ustawiona w jednostce lub pliku drop-in. Jeśli nie, magazyn znajduje się w katalogu domowym konta, na którym działa usługa, co wyświetla getent passwd ollama. sudo find / -xdev -type d -name blobs 2>/dev/null wskazuje bezpośrednio katalog warstw. W przypadku obrazu kontenera magazyn znajduje się wewnątrz zamontowanego wolumenu, a docker volume inspect ollama wyświetla jego ścieżkę Mountpoint na hoście.

Jak przenieść modele Ollama na inny dysk?

Zatrzymaj usługę, skopiuj magazyn do nowej lokalizacji za pomocą rsync -a, nadaj uprawnienia do katalogu dla konta usługi za pomocą sudo chown -R ollama:ollama <directory>, a następnie uruchom sudo systemctl edit ollama.service i dodaj Environment="OLLAMA_MODELS=<directory>" pod sekcją [Service]. Przeładuj konfigurację za pomocą sudo systemctl daemon-reload i zrestartuj usługę. Potwierdź za pomocą systemctl show ollama --property=Environment oraz ollama list. Jeśli lista jest pusta, sprawdź, czy nowy katalog zawiera skopiowany magazyn i czy użytkownik ollama ma do niego dostęp; sprawdź journalctl -e -u ollama pod kątem błędów uprawnień.

Czy usunięcie plików modelu zwalnia miejsce?

Ręczne usuwanie plików zwalnia bajty, ale powoduje niespójność magazynu. Usunięcie obiektu blob przy zachowaniu manifestu sprawia, że model nadal widnieje w ollama list i kończy się błędem przy próbie użycia. Usunięcie manifestu pozostawia na dysku warstwy, do których nic się nie odwołuje. Użyj ollama rm <model>, co usuwa manifest, a następnie warstwy, których nie potrzebuje żaden inny model. Jeśli obiekt blob został już usunięty ręcznie, uruchom ollama rm dla danego tagu, aby wyczyścić wpis. Jeśli manifest został usunięty, nie pozostaje żaden wpis tagu do usunięcia. Zrestartuj serwer, aby usunąć warstwy, do których nie odwołuje się żaden manifest, jeśli są starsze niż godzina.

Czy ten artykuł był przydatny?