Phân biệt Ollama pull và run: Vị trí lưu model
Hiểu rõ sự khác biệt giữa lệnh ollama pull và run để tránh đầy ổ đĩa root trên VPS. Hướng dẫn cách di chuyển thư mục lưu model mặc định và tối ưu hóa dung lượng.
ollama pull so với ollama run
ollama pull tải xuống một model rồi dừng lại. Đối với một model chat cục bộ, ollama run chỉ tải xuống model nếu nó chưa tồn tại, sau đó load vào bộ nhớ và mở một phiên chat tương tác. Quá trình tải xuống là như nhau và các file được lưu cùng một vị trí. Chỉ có run là tiếp tục chạy sau đó. Các embedding model là ngoại lệ đối với phần chat: tài liệu chính thức cho thấy ollama run embeddinggemma "Hello world" sẽ in embedding dưới dạng mảng JSON thay vì phản hồi. Nếu không có input text, ollama run sẽ từ chối một embedding model kèm theo embedding models require input text.
Sự khác biệt duy nhất đó quyết định lệnh nào dùng trong script và lệnh nào dùng khi gõ phím trực tiếp.
ollama pull gemma4
ollama run gemma4
ollama run gemma4 "Reply with one word: ready"Dòng đầu tiên lấy model về rồi thoát, nên nó an toàn khi dùng trong quá trình provisioning và trong một systemd unit. Dòng thứ hai mở một phiên chat; hãy gõ /bye hoặc nhấn Ctrl+D để thoát. Dòng thứ ba gửi một prompt đơn lẻ, in câu trả lời rồi thoát; đây là dạng mà script cần khi nó muốn lấy câu trả lời thay vì mở một phiên làm việc. Dạng thứ ba đó vẫn để độ dài phản hồi hoàn toàn phụ thuộc vào model, vì vậy một câu hỏi một dòng có thể trả về ba đoạn văn, và giới hạn câu trả lời bằng num_predict là cách giữ cho run trong script nằm trong kích thước mà chương trình gọi có thể sử dụng được. Tên model thay đổi nhanh chóng, vì vậy hãy coi gemma4 ở đây là một placeholder: đó là ví dụ mà tài liệu chính thức của Ollama sử dụng tính đến tháng 10 năm 2026; hãy thay thế bằng một model chat cục bộ khác cho cùng quy trình làm việc. Các tag kết thúc bằng :cloud, ví dụ như gemma4:cloud, thì khác biệt: Ollama chạy chúng trên máy chủ của chính họ mà không cần tải xuống model weights, vì vậy dung lượng ổ đĩa dưới đây chỉ dành cho các model cục bộ. Nếu bạn muốn thay thế bằng một model đã được đánh giá kích thước trên một máy chủ thực tế, chạy Nemotron 3.5 Lightning trên VPS sẽ cung cấp tag chính xác để pull và dung lượng bộ nhớ mà nó yêu cầu.
Tại sao lần chạy ollama đầu tiên trông như bị treo
Một run đầu tiên trên VPS mới có thể đứng yên không xuất ra thông tin gì trong vài phút. Không có gì bị hỏng cả. Prompt chat không thể xuất hiện cho đến khi model nằm trên ổ đĩa và được nạp vào bộ nhớ, vì vậy run đang thực hiện tải xuống dung lượng vài gigabyte trước khi có bất kỳ thứ gì để hiển thị cho bạn.
Có hai lý do che giấu quá trình này. Ollama ghi thanh tiến trình vào luồng standard error, vì vậy ở bất kỳ nơi nào luồng này bị loại bỏ hoặc chỉ được đọc sau đó, ví dụ như một script kết thúc bằng 2>/dev/null hoặc một cron job, sẽ không có gì thông báo cho bạn biết quá trình tải xuống đang chạy. Sau đó, khi dữ liệu đã tải xong, file vẫn phải được đọc từ ổ đĩa vào RAM trước khi token đầu tiên được tạo, và trên một VPS nhỏ, quá trình đọc này rất chậm. Nếu máy chủ không đủ bộ nhớ cho model, kernel sẽ bắt đầu swap và thời gian chờ đợi sẽ kéo dài hơn nhiều.
Hãy theo dõi từ một phiên làm việc thứ hai thay vì đoán mò:
df -h /
watch -n5 df -h /Trên một máy chủ mới, dung lượng trống giảm dần theo từng bước nghĩa là quá trình tải xuống vẫn đang chạy. Dung lượng trống ngừng giảm trong khi lệnh vẫn đang bận không có nghĩa là quá trình nạp đã bắt đầu: sau khi tải xuống, Ollama thực hiện một giai đoạn verifying sha256 digest riêng biệt để đọc các file trước khi ghi manifest và hoàn tất việc pull. Một máy chủ đã chứa sẵn các model có thể làm bạn hiểu nhầm trên Ollama 0.40.2: lần chạy đầu tiên của một model được tải bằng phiên bản cũ hơn đã ghi một bản nâng cấp trong nền và giữ lại bản gốc làm bản sao lưu, vì vậy dung lượng trống có thể giảm mà không cần tải xuống bất cứ thứ gì. Ollama 0.40.3, phát hành ngày 11 tháng 10 năm 2026, đã tạm dừng quá trình nâng cấp nền đó.
Đây là lý do tại sao nên pull model trước. Người gõ lệnh ollama run không bao giờ nên là người phải chờ đợi quá trình tải xuống.
Tải model về trước khi có yêu cầu
Điều này cũng áp dụng cho bất kỳ thứ gì không phải là con người: một coding agent trỏ vào endpoint Ollama của bạn sẽ nhận lỗi model-not-found nếu model cục bộ được yêu cầu chưa được tải về; một yêu cầu inference sẽ không tự động tải model đó. Trên một máy chủ mới, hãy thực hiện lệnh tải model ngay trong script cài đặt server:
curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4Nếu bạn đang thiết lập server lần đầu tiên, hướng dẫn cài đặt Ollama đầy đủ trên VPS sẽ bao gồm cả dịch vụ và cấu hình quyền truy cập. Sau đó, việc đáng làm là thiết lập một lệnh tải model chạy độc lập với terminal của bạn, vì việc ngắt quãng giữa chừng khi đang tải sẽ khiến kho model bị lỗi dữ liệu.
Hãy chạy lệnh này bên trong tmux, hoặc giao nó cho systemd dưới dạng một unit one-shot chạy khi khởi động. Tạo file /etc/systemd/system/ollama-pull.service:
[Unit]
Description=Pre-pull Ollama models
Wants=ollama.service network-online.target
After=ollama.service network-online.target
[Service]
Type=oneshot
RemainAfterExit=yes
ExecStart=/bin/sh -c 'until ollama list >/dev/null 2>&1; do sleep 2; done'
ExecStart=/bin/sh -c 'ollama pull gemma4'
[Install]
WantedBy=multi-user.targetCả hai lệnh đều chạy thông qua /bin/sh -c một cách có chủ đích. Một lệnh ExecStart= thuần túy chấp nhận đường dẫn tuyệt đối hoặc tên file thực thi đơn giản được phân giải qua đường dẫn tìm kiếm cố định của systemd; command -v ollama hiển thị đường dẫn mà shell hiện tại của bạn tìm thấy. Việc chạy qua shell sẽ sử dụng biến PATH của dịch vụ thay vì đường dẫn sao chép từ tài liệu hướng dẫn. Lệnh ExecStart đầu tiên cũng rất quan trọng: After=ollama.service có nghĩa là unit server đã được khởi động, nhưng điều đó không đồng nghĩa với việc nó đã sẵn sàng, vì vậy vòng lặp sẽ đợi cho đến khi ollama list phản hồi trước khi quá trình tải bắt đầu.
sudo systemctl daemon-reload
sudo systemctl enable --now ollama-pull.service
journalctl -u ollama-pull.serviceJournal sẽ hiển thị quá trình tải hoàn tất mà không có lỗi, và ollama list sau đó sẽ hiển thị model. Để giữ cho một tag luôn được cập nhật, hãy thêm một systemd timer hoặc một cron job hàng tuần để chạy lại lệnh tải đó. Việc tải lại một tag đã thay đổi sẽ tải xuống các layer mới và, đối với hầu hết các model, nó sẽ tự động xóa các layer cũ không còn được sử dụng sau khi quá trình tải kết thúc.
Điều gì xảy ra khi quá trình pull bị gián đoạn
Mỗi layer của một model được lưu trữ dựa trên hash của chính nội dung đó. Do đó, một lần pull bị gián đoạn không phải là công sức đổ sông đổ bể: hãy chạy lại ollama pull, các layer đã hoàn tất sẽ được nhận diện và bỏ qua, vì vậy quá trình tải xuống sẽ tiếp tục từ layer bị ngắt quãng.
Có một hành động có thể phá hủy tiến trình này. Khi server Ollama khởi động, nó sẽ xóa các bản tải xuống dở dang và các layer đã lưu trữ không được model manifest nào tham chiếu đến, và các mảnh dữ liệu để lại bởi một lần pull bị chết chính là những thứ đó. Các bản release hiện tại (0.40.11, kiểm tra ngày 26 tháng 10 năm 2026) sẽ bỏ qua bất kỳ file nào được ghi trong vòng một giờ qua, vì vậy việc khởi động lại ngay sau khi quá trình pull bị chết là vô hại, nhưng khởi động lại sau vài giờ sẽ làm mất phần dữ liệu bạn đã tải xuống. Hãy thử pull lại trước rồi mới khởi động lại sau. Nếu một bản tải xuống dở dang thực sự cần phải tồn tại sau khi khởi động lại, hãy thiết lập OLLAMA_NOPRUNE=1 trong môi trường của service, sau đó xóa nó đi, vì biến đó cũng tắt tính năng dọn dẹp ở cuối mỗi lần pull, và hai quá trình dọn dẹp đó là thứ ngăn chặn các layer mồ côi tích tụ trên ổ đĩa.
Nếu quá trình pull bị chết với no space left on device, hãy giải phóng dung lượng trước khi thử lại. Nếu df báo cáo ổ đĩa đầy và du trên thư mục model không giải thích được điều đó, thì dung lượng đã bị chiếm dụng ở nơi khác, và các lý do df và du không khớp nhau là tài liệu đáng đọc trước khi bạn xóa bất cứ thứ gì.
Ollama lưu model ở đâu trên VPS?
Hãy kiểm tra chính máy chủ của bạn thay vì tin vào một đường dẫn trong bất kỳ tài liệu hướng dẫn nào, kể cả tài liệu này. Vị trí lưu khác nhau giữa cài đặt bằng package và container. Vị trí cũng thay đổi nếu ai đó đã thiết lập OLLAMA_MODELS.
systemctl cat ollama.service
getent passwd ollama
sudo find / -xdev -type d -name blobs 2>/dev/nullsystemctl cat in unit file cùng với mọi drop-in, nên dòng OLLAMA_MODELS do bạn đặt hoặc được tích hợp sẵn trong image sẽ xuất hiện ở đó. Nếu không có dòng này, thư mục lưu nằm dưới home directory của account mà service chạy bằng account đó. getent passwd in home directory trong field thứ sáu, được phân tách bằng dấu hai chấm. find tìm blobs trên một filesystem. Đây là nơi các layer thực sự được ghi. Bỏ -xdev nếu model có thể đã nằm trên một mount riêng.
Bây giờ hãy đo dung lượng và đọc các số liệu của chính bạn:
ollama list
df -h /
sudo du -sh /the/directory/you/found
sudo du -h -d1 /the/directory/you/foundThư mục lưu có hai loại nội dung. Các thư mục manifest (manifests, được nối với nhau bằng manifests-v2 trong các release hiện tại) chứa những file nhỏ liệt kê các layer tạo nên từng model tag. blobs chứa chính các layer. Tên mỗi layer là hash của nội dung tương ứng, và gần như toàn bộ dung lượng nằm ở đây. Vì các layer được dùng chung giữa các tag, hai model được xây dựng từ cùng một weight sẽ báo dung lượng riêng trong ollama list, nhưng chỉ chiếm dung lượng một lần trên disk. Vì vậy, tổng dung lượng được liệt kê có thể lớn hơn dung lượng mà du báo cho thư mục. Trường hợp ngược lại xảy ra với Ollama 0.40.2: các model được Ollama nâng cấp trong background vẫn giữ bản sao ban đầu trên disk để làm backup. ollama list không hiển thị bản sao này lần thứ hai, nên du có thể báo dung lượng lớn hơn nhiều so với tổng trong danh sách. Release notes của 0.40.2 có kèm script chỉ xóa các bản backup đó.
File model có thể làm đầy root filesystem của một VPS nhanh hơn hầu hết mọi thứ khác mà bạn có thể cài đặt. Yếu tố ảnh hưởng lớn nhất đến dung lượng là định dạng weight. Chọn giữa q4, q8 và fp16 có thể tiết kiệm hàng gigabyte cho mỗi model.
Di chuyển các model sang một data volume với OLLAMA_MODELS
Nếu kế hoạch của bạn có ổ đĩa thứ hai hoặc một data volume lớn hơn, hãy di chuyển kho lưu trữ trước khi root filesystem bị đầy. Hãy dừng server trước để tránh việc sao chép file đang trong quá trình ghi.
sudo systemctl stop ollama
sudo mkdir -p /mnt/data/ollama-models
sudo rsync -a /the/directory/you/found/ /mnt/data/ollama-models/
sudo chown -R ollama:ollama /mnt/data/ollama-models
sudo systemctl edit ollama.servicesystemctl edit mở một trình soạn thảo trên file drop-in, giúp unit gốc của gói phần mềm không bị thay đổi và các bản cập nhật gói không thể ghi đè lên cấu hình của bạn. Thêm hai dòng sau:
[Service]
Environment="OLLAMA_MODELS=/mnt/data/ollama-models"sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment
ollama listsystemctl show sẽ in ra đường dẫn mới của bạn và ollama list sẽ hiển thị các model giống như trước khi di chuyển. Nếu danh sách trống, hãy kiểm tra xem thư mục mới đã chứa kho lưu trữ được sao chép hay chưa và server có quyền đọc thư mục đó không. Service chạy dưới quyền người dùng ollama, vì vậy người dùng đó cần quyền đọc và ghi tại đích đến, đây là nhiệm vụ của dòng chown ở trên. Kiểm tra journalctl -e -u ollama để xem các lỗi phân quyền liên quan đến đường dẫn mới. Chỉ xóa bản sao cũ sau khi danh sách đã hiển thị chính xác, vì nếu di chuyển lỗi mà bạn đã xóa nguồn thì bạn sẽ phải tải lại toàn bộ.
Lựa chọn khác là giữ nguyên đường dẫn gốc và mount data volume vào đó:
echo '/mnt/data/ollama-models /the/directory/you/found none bind 0 0' | sudo tee -a /etc/fstab
sudo mount -a
findmnt /the/directory/you/found
df -h /findmnt in ra kết quả mount nghĩa là bind mount đang hoạt động. Bind mount hữu ích khi một thành phần khác trên máy chủ đã mặc định tìm kiếm tại vị trí đó. Nó có một điểm cần lưu ý: các file bạn đã sao chép ra vẫn nằm dưới điểm mount trên ổ đĩa root, bị che khuất bởi mount point, nên dung lượng sẽ không được giải phóng cho đến khi bạn unmount và xóa chúng. Biến môi trường là cách dễ giải thích hơn cho bất kỳ ai đăng nhập vào hệ thống sau này.
Nơi container lưu trữ chúng
Image chính thức lưu trữ các model tại vị trí bạn mount, không phải trong bất kỳ thư mục host nào thuộc về người dùng ollama. Lệnh chạy được tài liệu hóa là:
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollamaollama trước dấu hai chấm là một Docker volume được đặt tên, và /root/.ollama là nơi server ghi dữ liệu bên trong container. Do đó, du đối chiếu với các đường dẫn từ phần trước sẽ không tìm thấy gì, vì không có dữ liệu ở đó. Hãy in ra vị trí và dung lượng thực tế:
docker volume inspect ollama
docker system df -v
docker exec -it ollama ollama listĐọc trường Mountpoint từ docker volume inspect, sau đó chạy sudo du -sh với trường đó. Để đặt các model vào một data volume, hãy thay thế volume được đặt tên bằng một thư mục trên host (-v /mnt/data/ollama:/root/.ollama) và tạo lại container. Container ghi dữ liệu với quyền root, nên thư mục host đó sẽ thuộc sở hữu của root. Trong môi trường Podman rootless, root của container mặc định được map tới UID và GID của người dùng trên host, trong khi các ID khác của container sử dụng các dải phụ: chạy Ollama dưới Podman rootless giải thích về cơ chế mapping này.
Một cảnh báo về việc dọn dẹp. Lệnh docker volume prune thông thường chỉ xóa các anonymous volume, nên nó không đụng đến volume ollama được đặt tên, nhưng docker volume prune --all sẽ xóa mọi volume không được container nào tham chiếu tới, bao gồm cả các volume được đặt tên. Nếu bạn xóa hoặc tạo lại container ollama mà không có volume của nó, lệnh prune --all sau đó sẽ xóa sạch mọi model bạn đã tải về, và không có cách nào khôi phục ngoại trừ việc tải lại từ đầu. Hãy đọc cách dọn dẹp dung lượng đĩa Docker trên VPS trước khi chạy lệnh prune trên một máy chủ đang lưu trữ các model.
Xóa model bằng ollama rm, không dùng rm
ollama list
ollama rm gemma4
ollama list
df -h /ollama rm xóa manifest của tag đó, sau đó xóa các layer mà không còn manifest nào tham chiếu đến. Dung lượng được giải phóng ngay khi các file đó bị hủy liên kết, vì vậy df có tác dụng tức thì. Do các layer được chia sẻ, việc xóa một trong hai tag có liên quan chặt chẽ có thể giải phóng ít dung lượng hơn nhiều so với kích thước ollama list hiển thị bên cạnh nó. Đây là hành vi đúng, không phải lỗi xóa.
Việc xóa file thủ công sẽ làm hỏng cặp dữ liệu này. Nếu xóa một blob bằng rm, manifest vẫn liệt kê nó, vì vậy ollama list vẫn hiển thị model và bất kỳ nỗ lực sử dụng nào cũng sẽ thất bại khi hệ thống đọc phải layer bị thiếu. Nếu xóa manifest thủ công, các layer của nó vẫn nằm trên đĩa mà không có gì trỏ tới, chiếm dụng dung lượng mà không lệnh Ollama nào báo cáo cho bạn. Nếu bạn đã lỡ xóa một blob, ollama rm trên tag đó sẽ xóa mục nhập còn sót lại; nếu bạn đã xóa manifest, sẽ không còn mục nhập tag nào để xóa nữa. Việc khởi động lại server sẽ xóa các layer không được tham chiếu sau khi chúng tồn tại quá một giờ.
Một điểm khác biệt cuối cùng, vì hai khái niệm này thường xuyên bị nhầm lẫn. ollama rm liên quan đến dung lượng đĩa. ollama stop gemma4 chỉ giải phóng model khỏi bộ nhớ và không giải phóng bất kỳ dung lượng đĩa nào. Thời gian một model lưu trú trong RAM sau khi tải xong là một thiết lập riêng biệt, và giữ model trong bộ nhớ thay vì tải lại sau mỗi request sẽ giải thích rõ vấn đề này.
FAQ
Sự khác biệt giữa ollama pull và ollama run là gì?
ollama pull tải model về ổ cứng rồi thoát. ollama run kiểm tra xem model đã có trên ổ cứng chưa, nếu chưa thì tải về, nạp vào bộ nhớ, rồi mở phiên chat tương tác (đối với model chat). Cả hai đều ghi cùng các file vào cùng một thư mục. Hãy dùng pull trong các script cài đặt hoặc tự động hóa, và dùng run khi bạn đang trực tiếp thao tác. ollama run <model> "your prompt" gửi một prompt rồi thoát, đây là dạng dùng được trong script của run.
Tại sao lần đầu chạy ollama run lại có vẻ bị treo?
Có thể hệ thống đang tải, xác thực file tải về hoặc nạp model vào bộ nhớ. Prompt chat không thể hiện ra cho đến khi model đã nằm trên ổ cứng và được nạp vào RAM, trong khi một model thường nặng vài gigabyte. Ollama ghi thanh tiến trình vào standard error, nên nếu dùng run trong script loại bỏ luồng này hoặc trong cron job, bạn sẽ không thấy gì trong khi nó đang chạy. Hãy mở một session thứ hai và chạy watch -n5 df -h /: trên một máy mới, nếu thấy dung lượng trống giảm dần thì nghĩa là quá trình tải đang diễn ra. Hãy pull model trước để tránh chờ đợi tải và xác thực; việc nạp model vẫn sẽ tốn thời gian.
Ollama lưu trữ model ở đâu?
Vị trí lưu trữ phụ thuộc vào cách cài đặt, vì vậy hãy in ra thay vì đoán. Chạy systemctl cat ollama.service để xem OLLAMA_MODELS có được thiết lập trong unit hoặc file drop-in hay không. Nếu không, kho lưu trữ nằm trong thư mục home của tài khoản chạy service, vị trí này được in ra bởi getent passwd ollama. sudo find / -xdev -type d -name blobs 2>/dev/null xác định trực tiếp thư mục layer. Đối với container image, kho lưu trữ nằm bên trong volume được mount, và docker volume inspect ollama sẽ in ra Mountpoint trên host.
Làm thế nào để chuyển model của Ollama sang ổ đĩa khác?
Dừng service, copy kho lưu trữ sang vị trí mới bằng rsync -a, cấp quyền sở hữu thư mục cho tài khoản service bằng sudo chown -R ollama:ollama <directory>, sau đó chạy sudo systemctl edit ollama.service và thêm Environment="OLLAMA_MODELS=<directory>" vào dưới dòng [Service]. Reload bằng sudo systemctl daemon-reload và khởi động lại service. Xác nhận bằng systemctl show ollama --property=Environment và ollama list. Nếu danh sách trống, hãy kiểm tra xem thư mục mới đã chứa kho lưu trữ đã copy chưa và user ollama có quyền đọc không; kiểm tra journalctl -e -u ollama để xem các lỗi phân quyền.
Xóa file model có giải phóng dung lượng không?
Xóa file thủ công sẽ giải phóng byte nhưng làm kho lưu trữ bị lỗi nhất quán. Nếu xóa một blob, manifest vẫn liệt kê model đó, khiến nó vẫn xuất hiện trong ollama list và sẽ lỗi khi sử dụng. Nếu xóa một manifest, các layer của nó vẫn nằm trên ổ cứng mà không có gì tham chiếu tới. Hãy dùng ollama rm <model>, lệnh này sẽ xóa manifest và sau đó xóa các layer không còn model nào cần. Nếu một blob đã bị xóa thủ công, hãy chạy ollama rm trên tag đó để xóa entry. Nếu manifest đã bị xóa, sẽ không còn tag entry nào để xóa nữa. Hãy khởi động lại server để xóa các layer không có manifest nào tham chiếu tới sau khi chúng tồn tại quá một giờ.