SSD Nodes Learn Hosting plans →
指南 Matt Connor作者: Matt Connor

ollama pull 與 run 差在哪?模型檔案在哪裡

了解 ollama pull 下載後結束、ollama run 下載後開啟聊天的差異,並查找模型檔案位置、VPS 根磁碟被佔滿的原因與搬移方法。

ollama pull 與 ollama run 的差異

ollama pull 會下載模型後結束。對本機聊天模型而言,ollama run 只會在模型不存在時下載,接著將模型載入記憶體並開啟互動式聊天。兩者下載內容相同,檔案也會儲存在相同位置。只有 run 會在之後繼續執行。嵌入模型不適用於聊天部分:官方文件顯示,ollama run embeddinggemma "Hello world" 會輸出 JSON 陣列格式的嵌入向量,而不是回覆文字。未提供輸入文字時,ollama run 會以 embedding models require input text 拒絕嵌入模型。

這項差異決定了哪個命令適合放在腳本中,哪個命令適合在鍵盤前執行。

ollama pull gemma4
ollama run gemma4
ollama run gemma4 "Reply with one word: ready"

第一行會擷取模型後結束,因此適合用於佈建流程和 systemd 單元。第二行會開啟聊天工作階段;輸入 /bye 或按下 Ctrl+D 即可離開。第三行會傳送單一提示、輸出答案後結束;當腳本需要答案而不是工作階段時,這就是適合的形式。不過,第三種形式仍會讓回覆長度完全由模型決定,因此一行問題可能得到 3 個段落的回答;使用 以 num_predict 限制回答長度,才能讓腳本中的 run 控制在呼叫端實際可用的大小內。模型名稱變動很快,因此請將這裡的 gemma4 視為預留名稱:這是官方 Ollama 文件截至 October 2026 使用的範例;相同工作流程也可以替換成其他本機聊天模型。以 :cloud 結尾的標籤,例如 gemma4:cloud,則有所不同:Ollama 會在自己的伺服器上執行這些模型,不會下載模型權重,因此下文所述的磁碟空間是針對本機模型。若想改用已有人員依據實際伺服器規模設定過的模型,在 VPS 上執行 Nemotron 3.5 Lightning 會提供要擷取的確切標籤,以及模型需要的記憶體。

第一次執行 ollama run 看起來像是卡住

在全新的 VPS 上,第一次執行 run 可能會連續數分鐘沒有任何輸出。這不是故障。模型必須先下載到磁碟並載入記憶體,聊天提示字元才能顯示,因此 run 會先執行數 GB 的下載,之後才有內容可顯示。

有兩個因素會讓這項工作不易察覺。Ollama 會將進度列寫入標準錯誤,因此只要該串流被捨棄,或必須等到程序結束後才讀取,例如以 2>/dev/null 結尾的腳本或 cron 工作,就不會有任何訊息告知你正在下載。檔案下載完成後,還必須從磁碟讀入 RAM,才能產生第一個 token;在小型 VPS 上,這個讀取過程可能很慢。如果主機沒有足夠記憶體容納模型,kernel 會開始使用 swap,等待時間就會大幅延長。

請從第二個工作階段監看,不要只靠猜測:

df -h /
watch -n5 df -h /

在全新的主機上,如果可用空間逐步下降,表示下載仍在進行。即使命令仍在執行,若可用空間停止下降,也不能據此判定已開始載入:下載完成後,Ollama 會執行獨立的 verifying sha256 digest 階段,讀取檔案後才寫入 manifest 並完成 pull。已經存有模型的主機,在 Ollama 0.40.2 上可能造成誤判:以較舊版本下載的模型第一次執行時,會在背景寫入升級後的副本,並保留原始檔作為備份,因此即使完全沒有下載,可用空間也可能下降。Ollama 0.40.3 於 11 October 2026 發布後,已暫停這項背景升級。

這正是應提前執行 pull 的原因。輸入 ollama run 的人不應該同時承擔下載的等待時間。

在有人提出請求前先拉取模型

任何非互動式的使用者端也一樣:指向 Ollama endpoint 的程式碼代理若要求的本機模型尚未拉取,會收到 model-not-found 錯誤;inference request 不會下載模型。在新主機上,請在安裝伺服器的同一個 script 中執行拉取:

curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4

如果這是你第一次啟用伺服器,完整的 VPS 上 Ollama 安裝說明會涵蓋服務本身,以及允許連線的對象。接著值得設定的是不依賴終端機工作階段的拉取程序,因為下載途中被中斷,會造成 model store 只完成部分內容。

請在 tmux 內執行,或將它交給 systemd,設為開機時執行的一次性 unit。寫入 /etc/systemd/system/ollama-pull.service:

[Unit]
Description=Pre-pull Ollama models
Wants=ollama.service network-online.target
After=ollama.service network-online.target

[Service]
Type=oneshot
RemainAfterExit=yes
ExecStart=/bin/sh -c 'until ollama list >/dev/null 2>&1; do sleep 2; done'
ExecStart=/bin/sh -c 'ollama pull gemma4'

[Install]
WantedBy=multi-user.target

這兩個 command 都刻意透過 /bin/sh -c 執行。單獨使用 ExecStart= 時,可接受絕對路徑,或由 systemd 固定搜尋路徑解析的簡單 executable name;command -v ollama 則會顯示目前 shell 找到的路徑。透過 shell 執行時,會使用 service PATH,而不是照抄指南中的路徑。第一個 ExecStart 也很重要:After=ollama.service 表示 server unit 已啟動,但不代表服務已就緒。因此,迴圈會等待 ollama list 回應後,才開始拉取。

sudo systemctl daemon-reload
sudo systemctl enable --now ollama-pull.service
journalctl -u ollama-pull.service

journal 應顯示拉取已完成且沒有錯誤,接著 ollama list 應顯示該模型。若要讓會移動的 tag 保持最新,請加入 systemd timer,或設定每週執行一次相同拉取作業的 cron entry。重新拉取已移動的 tag 時,會下載新的 layers;對多數模型而言,完成同一次拉取後,也會刪除其他項目不再使用的舊 layers。

拉取中斷時會發生什麼事

模型的每個層都會以自身內容的雜湊值儲存。因此,拉取中斷不代表先前的工作白費:再次執行相同的 ollama pull 時,已完成的層會被辨識並略過,下載會從中斷的層繼續。

有一個動作可能會清除這些進度。Ollama server 啟動時,會移除未被任何模型 manifest 參照的部分下載檔案與已儲存層,而中斷拉取留下的檔案正屬於此類。近期版本(0.40.11,於 26 October 2026 確認)會略過最近 1 小時內寫入的檔案,因此在拉取失敗後不久重新啟動並無妨;但數小時後才重新啟動,已下載的部分就會被丟棄。請先重試拉取,之後再重新啟動。若確實需要讓部分下載內容在重新啟動後保留,請在服務環境中設定 OLLAMA_NOPRUNE=1,完成後再移除,因為此變數也會關閉每次拉取結束時的清理作業;正是這兩項清理機制,避免孤立層持續佔用磁碟空間。

如果拉取因 no space left on device 中斷,請先釋放空間再重試。若 df 顯示磁碟已滿,而模型目錄中的 du 無法說明這些用量,表示空間位於其他位置;在刪除任何內容前,建議先閱讀df 與 du 數值不一致的原因。

Ollama 會將模型儲存在哪裡?

請直接查詢自己的伺服器,不要盲目相信任何指南中的路徑,包括本指南。套件安裝與容器的儲存位置不同;如果有人設定了 OLLAMA_MODELS,位置也會再次改變。

systemctl cat ollama.service
getent passwd ollama
sudo find / -xdev -type d -name blobs 2>/dev/null

systemctl cat 會列出 unit file 及所有 drop-in,因此由你設定或內建於映像檔中的 OLLAMA_MODELS 行都會顯示在其中。若沒有這類設定,模型儲存區會位於執行服務之帳號的家目錄下,而 getent passwd 會在以冒號分隔的第六個欄位中列出該家目錄。find 會在單一檔案系統中搜尋 blobs 目錄;模型層實際寫入的位置就是這裡。如果模型可能已位於獨立掛載點,請移除 -xdev。

現在測量儲存空間,並解讀你自己的數值:

ollama list
df -h /
sudo du -sh /the/directory/you/found
sudo du -h -d1 /the/directory/you/found

儲存區包含兩類內容。manifest 目錄(manifests,目前版本會透過 manifests-v2 串接)存放小型檔案;這些檔案會列出每個模型標籤所使用的模型層。blobs 存放模型層本身,每個模型層都以其內容的雜湊值命名,幾乎所有容量都使用在這裡。由於不同標籤之間會共用模型層,若兩個模型使用相同的權重建立,ollama list 會分別列出各自的大小,但磁碟上只會實際佔用一份空間。因此,列出的大小總和可能大於 du 回報的目錄大小。另一個容易忽略的情況出現在 Ollama 0.40.2:在背景升級的模型會將原始副本保留在磁碟上作為備份;ollama list 不會將這些備份重複計算,因此 du 回報的大小可能遠大於清單所顯示的數值。0.40.2 的版本說明包含一個只會刪除這些備份的 script。

模型檔案會比其他可能安裝的項目更快填滿小型 VPS 的根檔案系統,而影響模型大小最大的因素是權重格式。選擇 q4、q8 或 fp16 每個模型都可能節省數 GB 的空間。

使用 OLLAMA_MODELS 將模型移至資料磁碟區

如果規劃中包含第二顆磁碟或較大的資料磁碟區,請在 root 檔案系統用滿前先移動儲存目錄。先停止伺服器,避免複製仍在寫入的檔案。

sudo systemctl stop ollama
sudo mkdir -p /mnt/data/ollama-models
sudo rsync -a /the/directory/you/found/ /mnt/data/ollama-models/
sudo chown -R ollama:ollama /mnt/data/ollama-models
sudo systemctl edit ollama.service

systemctl edit 會在 drop-in 檔案上開啟編輯器,因此不會修改套件提供的 unit,套件升級也不會覆寫你的變更。加入以下兩行:

[Service]
Environment="OLLAMA_MODELS=/mnt/data/ollama-models"
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment
ollama list

systemctl show 應輸出新的路徑,而 ollama list 應顯示移動前相同的模型。如果清單是空的,請確認新的目錄包含已複製的儲存目錄,且伺服器可以讀取該目錄。服務會以 ollama 使用者身分執行,因此該使用者必須具備目的地的讀寫權限;上方的 chown 行就是用來設定這項權限。檢查 journalctl -e -u ollama 是否有指出新路徑的權限錯誤。只有在清單正確後才能刪除舊副本,因為移動失敗後刪除來源,代表必須重新下載所有內容。

另一個選項是保留原始路徑,並將資料磁碟區掛載到該路徑:

echo '/mnt/data/ollama-models /the/directory/you/found none bind 0 0' | sudo tee -a /etc/fstab
sudo mount -a
findmnt /the/directory/you/found
df -h /

findmnt 輸出掛載資訊,表示 bind mount 已生效。當主機上的其他元件已預期使用預設位置時,bind mount 很有用。但有一項需要注意:你複製出去的檔案仍位於 root 磁碟上的掛載點下,只是被掛載內容遮住,因此必須卸載並移除這些檔案後,空間才會釋放。對下一位登入系統的人來說,使用環境變數是兩種方式中較容易說明的選項。

容器實際儲存模型的位置

官方映像會將模型儲存在你掛載的位置,而不是任何屬於 ollama 使用者的主機目錄。文件提供的執行命令如下:

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

冒號前的 ollama 是具名 Docker volume,/root/.ollama 則是伺服器在容器內寫入的位置。因此,對上一節所列路徑執行 du 會找不到任何內容,因為模型不在那些位置。請列出實際位置與大小:

docker volume inspect ollama
docker system df -v
docker exec -it ollama ollama list

從 docker volume inspect 讀取 Mountpoint 欄位,然後對該路徑執行 sudo du -sh。若要將模型放在資料 volume 中,請將具名 volume 替換為主機目錄(-v /mnt/data/ollama:/root/.ollama),再重新建立容器。容器會以 root 身分寫入,因此該主機目錄最後會由 root 擁有。在 rootless Podman 下,容器中的 root 預設會對應到主機使用者的 UID 與 GID,其他容器 ID 則會使用 subordinate range:在 rootless Podman 下執行 Ollama 說明這項對應關係。

清理時請注意。單純執行 docker volume prune 只會移除匿名 volume,因此會保留具名的 ollama volume;但 docker volume prune --all 會移除所有未被任何容器參照的 volume,包括具名 volume。若移除或重新建立 ollama 容器時未保留其 volume,之後執行 prune --all 會刪除你下載的所有模型,除了重新下載之外沒有復原方法。在存放模型的伺服器上執行 prune 前,請先閱讀 如何在 VPS 上清理 Docker 磁碟使用量。

使用 ollama rm 移除模型,不要使用 rm

ollama list
ollama rm gemma4
ollama list
df -h /

ollama rm 會刪除該標籤的 manifest,接著刪除任何剩餘 manifest 都未參照的 layer。這些檔案解除連結後,空間就會立即釋出,因此 df 也會馬上移動。由於 layer 可以共用,移除兩個密切相關標籤中的其中一個時,釋出的空間可能遠小於 ollama list 顯示在旁邊的大小。這是正常行為,不代表刪除失敗。

手動刪除檔案會破壞這組對應關係。使用 rm 移除 blob 後,manifest 仍會列出該 blob,因此 ollama list 仍會顯示該模型,而嘗試使用模型時,讀取遺失的 layer 便會失敗。手動移除 manifest 後,對應的 layer 仍會留在磁碟上,因為沒有任何項目參照它們,這些檔案會持續占用空間,而 Ollama 的任何命令都不會回報這些空間。如果你已經刪除 blob,對該標籤執行 ollama rm 即可清除遺留項目;如果你刪除的是 manifest,就不再有可移除的標籤項目。當無任何項目參照的 layer 存在超過一小時後,重新啟動伺服器會將其清除。

最後要區分一點,因為這兩者經常混淆。ollama rm 處理的是磁碟空間。ollama stop gemma4 會將模型從記憶體卸載,完全不會釋放磁碟空間。下載完成後模型要在 RAM 中保留多久,是另一項設定;讓模型保持載入狀態,而不是每次請求都重新載入 會說明這項設定。

FAQ

ollama pull 和 ollama run 有何不同?

ollama pull 會將模型下載到磁碟,然後結束。ollama run 會檢查模型是否已存在於磁碟;如果不存在,就會下載模型、將模型載入記憶體,接著對於聊天模型開啟互動式聊天工作階段。兩者都會將相同檔案寫入相同目錄。在佈建流程與指令碼中使用 pull,人在鍵盤前操作時則使用 run。ollama run <model> "your prompt" 會送出一個提示後結束,這是 run 可供指令碼使用的形式。

為什麼第一次執行 ollama run 時看起來像當機?

程式可能正在下載、驗證下載內容,或載入模型。模型必須先儲存到磁碟並載入記憶體,聊天提示才會出現,而模型通常有數 GB。Ollama 會將進度列寫入標準錯誤,因此指令碼中捨棄該串流的 run,或 cron 工作中的 run,在執行期間不會顯示任何資訊。開啟第二個工作階段並執行 watch -n5 df -h /:在全新的主機上,如果可用空間逐步減少,表示下載正在進行。先下載模型可以省去下載與驗證的等待時間,但載入模型仍需要時間。

Ollama 將模型儲存在哪裡?

儲存位置取決於安裝方式,因此應將其列印出來,不要自行假設。執行 systemctl cat ollama.service,查看 OLLAMA_MODELS 是否在 unit 或 drop-in 中設定。如果未設定,模型儲存區會位於服務執行帳號的家目錄下;可使用 getent passwd ollama 列印該目錄。sudo find / -xdev -type d -name blobs 2>/dev/null 可直接找出 layer 目錄。對於容器映像,儲存區位於掛載的 volume 內,而 docker volume inspect ollama 會列印其主機上的 Mountpoint。

如何將 Ollama 模型移到另一個磁碟?

停止服務,使用 rsync -a 將儲存區複製到新位置,使用 sudo chown -R ollama:ollama <directory> 將目錄的擁有權交給服務帳號,接著執行 sudo systemctl edit ollama.service,並在 [Service] 行下加入 Environment="OLLAMA_MODELS=<directory>"。使用 sudo systemctl daemon-reload 重新載入設定並重新啟動服務。使用 systemctl show ollama --property=Environment 和 ollama list 確認結果。如果清單為空,請確認新目錄包含已複製的儲存區,且 ollama 使用者可以讀取該目錄;另請檢查 journalctl -e -u ollama 是否有權限錯誤。

刪除模型檔案是否會釋放空間?

手動刪除檔案會釋放磁碟空間,但會使儲存區狀態不一致。刪除 blob 後,manifest 仍會列出該模型,因此模型仍會出現在 ollama list 中,且使用時會失敗。刪除 manifest 後,其 layer 仍會留在磁碟上,但沒有任何項目參照它們。請使用 ollama rm <model>;此指令會刪除 manifest,然後刪除其他模型不再需要的 layer。如果 blob 已經由手動方式刪除,請對該 tag 執行 ollama rm,以清除對應項目。如果 manifest 已遭刪除,就沒有剩餘的 tag 項目可供移除。重新啟動伺服器,以移除沒有任何 manifest 參照且已超過一小時的 layer。

這篇文章對您有幫助嗎?