Chạy Ollama bằng Podman rootless trên VPS
Chạy Ollama bằng Podman rootless trên VPS với user riêng, lingering, Quadlet tự chạy sau reboot, SELinux label và API chỉ mở qua SSH tunnel.
Chạy Ollama trong Podman rootless trên VPS
Để chạy Ollama trong Podman rootless trên máy chủ, bạn cần đảm bảo năm điều kiện mà các hướng dẫn trên desktop thường bỏ qua. Một user không có quyền root (unprivileged) sẽ sở hữu container. Tính năng lingering được bật cho user đó để container tiếp tục chạy sau khi bạn logout. Một file Quadlet bàn giao container cho systemd để nó tự khởi động lại sau khi reboot. Thư mục chứa model phải có nhãn SELinux trên các bản phân phối có áp dụng chính sách này. API chỉ lắng nghe trên loopback và bạn truy cập nó thông qua SSH tunnel.
Ollama là một server cho các mô hình ngôn ngữ lớn (LLM). Nó lưu trữ trọng số mô hình trên ổ đĩa, load chúng vào bộ nhớ và phản hồi các request HTTP tại cổng 11434. API cục bộ của nó không yêu cầu đăng nhập hay API key, vì vậy mạng là cơ chế kiểm soát truy cập duy nhất bạn có ở đây. Podman chạy container không cần daemon và không cần quyền root, nên bất kỳ tiến trình nào thoát khỏi container cũng chỉ có quyền của một user thông thường. Nếu bạn muốn so sánh runtime trước, hãy đọc sự khác biệt giữa Podman và Docker trên VPS. Nếu bạn muốn bỏ qua container hoàn toàn, cài đặt Ollama trực tiếp trên VPS là con đường ngắn hơn.
Fedora mặc định đi kèm cả Podman và SELinux (security-enhanced Linux). Các lệnh dưới đây giả định bạn dùng Podman 5 trở lên, và unit Quadlet cũng cần cgroup v2, vốn là yêu cầu của Quadlet theo tài liệu của Podman bất kể phiên bản nào. Hãy kiểm tra cả hai trước khi bắt đầu: podman --version cho cái đầu tiên, và podman info | grep -i cgroup cho cái thứ hai, trong đó dòng cgroupVersion phải hiển thị là v2. Trên Ubuntu 24.04, gói podman trong kho lưu trữ là phiên bản 4.9.3, cũ hơn yêu cầu đó, nên hãy kiểm tra phiên bản tại đó trước.
Vì sao phiên bản cho laptop cần thay đổi khi chạy trên server
Fedora Magazine đã đăng một hướng dẫn rõ ràng về stack này vào ngày 5 August 2026: Chạy Ollama cục bộ với Podman trên Fedora Linux, do Yazan Monshed viết. Đây là tài liệu phù hợp để làm quen với các công cụ trong giờ đầu tiên. Tuy nhiên, tài liệu này nhắm đến laptop, và bốn lựa chọn trong đó hoạt động khác trên máy có public IP address.
- Tài liệu khởi động container bằng
podman run -dthông thường. Container được khởi động thủ công sẽ không tự chạy lại sau reboot, vì chưa có cấu hình nào yêu cầu khởi động nó. - Tài liệu dùng tag thay đổi theo thời gian
ollama/ollama. Trên laptop, bạn nhận ra ngay ngày hành vi thay đổi. Trên server, dấu hiệu đầu tiên có thể là một script đột nhiên ngừng hoạt động qua đêm. - Tài liệu publish bằng
-p 11434:11434, khiến dịch vụ bind trên mọi interface. Sau home router, dịch vụ này không thể truy cập từ Internet. Trên VPS, đây là một inference API public không có password. - Tài liệu chạy container bằng user đăng nhập của bạn. Trên server, account sở hữu container không nên sở hữu thêm tài nguyên nào khác, để nếu có break-out thì kẻ tấn công chỉ rơi vào một home directory trống.
Không lựa chọn nào trong số đó là sai đối với máy mà tài liệu hướng đến. Bạn chỉ cần xem xét lại từng lựa chọn khi server có thể truy cập từ mọi nơi và không có ai ngồi trực tiếp trước máy.
Tạo người dùng không đặc quyền và kiểm tra subuid
Rootless Podman ánh xạ các ID người dùng (UID) bên trong container vào một khối các ID chưa sử dụng trên host. Khối này được khai báo trong /etc/subuid và /etc/subgid. Podman cũng hỗ trợ chế độ single-UID, nhưng hãy cấu hình các dải subordinate cho thiết lập này.
sudo dnf install -y podman # or: sudo apt install -y podman
sudo useradd --create-home --shell /bin/bash --comment "Ollama container owner" ollama
sudo passwd --lock ollama
grep ollama /etc/subuid /etc/subgidLệnh grep sẽ in ra hai dòng, mỗi dòng từ một file, mỗi dòng chỉ định một dải gồm 65536 ID:
/etc/subuid:ollama:100000:65536
/etc/subgid:ollama:100000:65536Số bắt đầu của bạn sẽ khác, điều đó hoàn toàn bình thường. Nếu grep không in ra gì, useradd đã không cấp phát dải ID nào. Podman sẽ báo lỗi thiếu ánh xạ với thông báo như sau:
Error: cannot find UID/GID for user ollama: no subuid ranges found for user "ollama" in /etc/subuidHãy gán một dải ID mà chưa người dùng nào khác sở hữu, sau đó thông báo cho Podman rằng ánh xạ cũ đã lỗi thời:
sudo usermod --add-subuids 100000-165535 --add-subgids 100000-165535 ollama
sudo -iu ollama podman system migrateViệc khóa mật khẩu sẽ chặn đăng nhập bằng mật khẩu đối với ollama; nó không chặn các phương thức xác thực khác như SSH keys. Bạn có thể truy cập tài khoản này từ người dùng quản trị của mình bằng sudo -iu ollama.
Bật tính năng lingering để service không bị tắt khi logout
Instance systemd của người dùng thường khởi động khi đăng nhập và dừng lại sau khi logout phiên cuối cùng, và /run/user/<uid> cũng bị xóa theo. Các service do instance đó quản lý sẽ dừng khi instance dừng. Lingering giữ cho instance của người dùng chạy mà không cần phiên đăng nhập nào.
sudo loginctl enable-linger ollama
loginctl show-user ollama --property=LingerLệnh đó sẽ in ra Linger=yes. Hãy bật tính năng này trước khi tạo unit để trình quản lý người dùng và thư mục runtime của nó khả dụng mà không cần phiên đăng nhập.
Còn một bước nữa mà ít ai để ý. sudo -iu ollama cung cấp cho bạn một shell nhưng không có session bus, vì vậy systemctl --user sẽ thất bại ngay lập tức:
Failed to connect to bus: $DBUS_SESSION_BUS_ADDRESS and $XDG_RUNTIME_DIR not definedsystemd tìm user bus tại $XDG_RUNTIME_DIR/bus, và sudo -i không thiết lập biến đó. Hãy tự thiết lập biến này trong mọi shell quản trị nơi bạn quản lý service này:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user statusNơi lưu trữ các blob của model và cách tính toán dung lượng đĩa
Ollama ghi các trọng số (weights) vào /root/.ollama/models bên trong container. Hãy bind một thư mục từ thư mục home của người dùng vào đường dẫn đó để các file được lưu tại vị trí bạn có thể kiểm soát: /home/ollama/ollama-data/models. Các blob nằm trong models/blobs dưới dạng file được định danh theo nội dung (content-addressed), và models/manifests chứa chỉ mục nhỏ để đặt tên cho chúng. Nếu bạn sử dụng named volume thay thế, như bài viết trên Fedora Magazine, cấu trúc cây thư mục tương tự sẽ nằm dưới /home/ollama/.local/share/containers/storage/volumes/<volume>/_data. Dù bằng cách nào, ollama pull và ollama run đều ghi trọng số vào cùng một cây thư mục, và điểm khác biệt giữa hai lệnh chỉ là việc một phiên chat có được mở ra sau khi quá trình tải xuống hoàn tất hay không.
Hãy tính toán dung lượng đĩa trước khi thực hiện bất kỳ lệnh pull nào. Dung lượng tải xuống được công bố chỉ là mức tối thiểu.
Dữ liệu đằng sau biểu đồ này
[
{
"label": "gemma3:4b",
"download_gb": 3.4
},
{
"label": "mistral:7b",
"download_gb": 4.4
},
{
"label": "qwen3:8b",
"download_gb": 5.2
},
{
"label": "gemma3:12b",
"download_gb": 8.2
},
{
"label": "qwen3:14b",
"download_gb": 9.3
},
{
"label": "gemma3:27b",
"download_gb": 17
},
{
"label": "qwen3:30b",
"download_gb": 19
}
]Tất cả 7 hàng đều là các con số được công bố trên ollama.com/library, không phải dung lượng đo được trên đĩa. Tag nhỏ nhất ở đây, gemma3:4b, tải xuống 3.4 GB. Tag lớn nhất, qwen3:30b, tải xuống 19 GB. Bản thân image của container nằm trên đó trong bộ nhớ lưu trữ của Podman, vì vậy hãy kiểm tra cả hai con số cùng với podman system df và df -h /home. Để có hiệu năng tốt, hãy dự tính dung lượng RAM khoảng bằng kích thước file của model cộng thêm không gian cho context window. RAM vật lý không phải là giới hạn cứng: việc ánh xạ bộ nhớ vào đĩa (disk-backed memory mapping) hoặc có đủ swap có thể cho phép một model 19 GB chạy trên một VPS 16 GB, dù hiệu năng sẽ bị giảm.
Ghim tag của image và sử dụng tên registry đầy đủ
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
mkdir -p ~/ollama-data ~/.config/containers/systemd
podman pull docker.io/ollama/ollama:0.32.9Hãy sử dụng một tag phiên bản đã phát hành, 0.32.9 tính đến tháng 8 năm 2026, thay vì latest. Các bản phát hành mới hơn đã được tung ra: vào ngày 30 tháng 10 năm 2026, tag phiên bản thuần mới nhất trên Docker Hub là 0.40.13, vì vậy hãy kiểm tra trang tag và sử dụng bản phát hành hiện tại trong cả lệnh pull và dòng Image=. Một tag phiên bản được ghim sẽ ngăn các bản phát hành mà bạn không chọn tự động cập nhật lên máy chủ, do đó bất kỳ thay đổi nào về hành vi thường là do chính bạn thực hiện. Tuy nhiên, tag vẫn chỉ là một con trỏ chứ không phải là một dấu vân tay (fingerprint): registry sẽ trỏ nó đến một image khác bất cứ khi nào có người push đè lên cùng một tên, và chỉ có digest mới là cố định. Podman chấp nhận cả hai định dạng trong Image=. Nếu một lần khởi động lại lúc 04:00 bắt buộc phải chạy chính xác binary mà bạn đã kiểm thử, hãy chạy podman images --digests docker.io/ollama/ollama sau khi pull và viết Image=docker.io/ollama/ollama@sha256:<digest> thay thế. Docker Hub cũng xuất bản các tag -rc và -rocm cho cùng các phiên bản đó; hãy chọn tag thuần trừ khi bạn có GPU AMD.
Hãy viết cả host của registry. Trên Fedora, một tên ngắn trong unit của systemd sẽ không có terminal để hiển thị prompt, và unit sẽ thất bại với lỗi:
Error: short-name "ollama/ollama" did not resolve to an alias and no unqualified-search registries are definedViệc pull thủ công trước là tùy chọn nhưng hữu ích, vì nó tách quá trình tải xuống hàng gigabyte ra khỏi thời gian chờ khởi động (start timeout) của unit.
Quadlet unit vẫn hoạt động sau khi reboot
Quadlet là systemd generator của Podman. Bạn viết một file .container, systemd chuyển file đó thành một service khi boot, và không còn cần podman generate systemd nữa. Lưu nội dung này vào /home/ollama/.config/containers/systemd/ollama.container, với user sở hữu là ollama.
[Unit]
Description=Ollama API (rootless)
After=network-online.target
Wants=network-online.target
[Container]
Image=docker.io/ollama/ollama:0.32.9
ContainerName=ollama
PublishPort=127.0.0.1:11434:11434
Volume=/home/ollama/ollama-data:/root/.ollama:Z
Environment=OLLAMA_KEEP_ALIVE=30m
Environment=OLLAMA_MAX_LOADED_MODELS=1
[Service]
Restart=always
TimeoutStartSec=900
[Install]
WantedBy=default.targetTên file quyết định tên service, vì vậy ollama.container sẽ trở thành ollama.service.
systemctl --user daemon-reload
systemctl --user start ollama.service
systemctl --user status ollama.servicestatus phải hiển thị active (running). Không chạy systemctl --user enable ollama.service. Unit này không tồn tại dưới dạng file trên disk, nên systemd từ chối:
Failed to enable unit: Unit file /run/user/1001/systemd/generator/ollama.service is transient or generated.Section [Install] đã thực hiện công việc đó. Quadlet tự tạo link để start khi boot trong lúc chạy daemon-reload. Vì vậy, command đó là bắt buộc. TimeoutStartSec=900 xử lý lần start đầu tiên, khi image vẫn cần được pull, vì 90 giây mặc định không đủ cho việc download image có dung lượng vài gigabyte và systemd sẽ kill tiến trình start với trạng thái failed. OLLAMA_KEEP_ALIVE=30m giữ model trong memory giữa các request thay vì unload model sau 5 phút. Các đánh đổi được trình bày trong giữ model Ollama trong memory. Nếu có thuật ngữ systemd nào ở đây còn mới, cách systemd service và timer hoạt động trên VPS giải thích về chính các unit đó.
Vì sao thư mục model trả về lỗi permission denied dưới SELinux
Trên Fedora, RHEL, Rocky và AlmaLinux, SELinux được bật chế độ enforcing theo mặc định. Tiến trình container chạy trong domain container_t, còn thư mục trong home của người dùng được gắn nhãn user_home_t. Policy không cho phép hai bên truy cập lẫn nhau, nên Ollama không thể tạo cây thư mục model và container thoát. getenforce in ra Enforcing trên các hệ thống này, và denial được ghi lại:
sudo ausearch -m avc -ts recentBạn sẽ thấy một dòng nêu domain và nhãn đích:
avc: denied { write } for pid=1842 comm="ollama" name="models" dev="vda1" ino=131077 scontext=system_u:system_r:container_t:s0:c214,c827 tcontext=unconfined_u:object_r:user_home_t:s0 tclass=dir permlisted=0:Z ở cuối dòng Volume= là cách khắc phục. Lệnh này gắn lại nhãn cho thư mục trên host thành container_file_t và gắn thêm một category MCS (multi-category security) riêng mà chỉ container này có. Chữ thường :z dùng shared label thay thế. Đây là lựa chọn phù hợp khi hai container cùng đọc một thư mục.
Cần đặc biệt lưu ý với :Z vì lệnh này có tính phá hủy và không hiện thông báo. Thao tác gắn nhãn sẽ áp dụng đệ quy. Nếu trỏ lệnh vào /home/ollama, mọi file trong thư mục home đó sẽ bị gắn lại nhãn, làm hỏng quyền truy cập SSH key của người dùng đó. Luôn cung cấp cho :Z một thư mục con riêng và không chứa dữ liệu nào khác. Named volume không cần bước này vì Podman tự gắn nhãn đúng khi tạo volume. Nếu cần xem tổng quan, kiến thức cơ bản về SELinux cho server giải thích context và boolean. Ubuntu và Debian dùng AppArmor thay thế, :Z không làm gì trên các hệ thống đó, và để lệnh này trong unit cũng không gây hại.
Đóng cổng 11434 và truy cập API qua SSH
PublishPort=127.0.0.1:11434:11434 liên kết phía host với loopback. Hãy xác nhận điều này:
ss -ltnp | grep 11434
curl http://127.0.0.1:11434Đầu ra của ss phải hiển thị 127.0.0.1:11434, và curl phải trả về Ollama is running. Nếu ss hiển thị 0.0.0.0:11434 hoặc *:11434, cổng đang lắng nghe trên mọi giao diện mạng. Việc internet có thể truy cập được hay không còn phụ thuộc vào các quy tắc firewall và hạ tầng mạng phía trước máy chủ, vì vậy một listener wildcard không mặc định bị lộ ra ngoài. Tuy nhiên, đừng dựa vào điều đó: tài liệu của Ubuntu lưu ý rằng ufw mặc định bị vô hiệu hóa, và quy tắc firewall là một lớp bảo mật cần phải duy trì chính xác. Hãy sửa địa chỉ bind để cổng không bao giờ lắng nghe công khai ngay từ đầu.
Hãy chính xác về phía bạn đang bind. Địa chỉ trong PublishPort là địa chỉ của host. Bên trong container, Ollama phải tiếp tục lắng nghe trên tất cả các giao diện, đây là mặc định của image. Việc thiết lập Environment=OLLAMA_HOST=127.0.0.1 sẽ bind Ollama vào loopback của chính container, và Podman chuyển tiếp lưu lượng đã publish tới địa chỉ mạng của container, dẫn đến mọi yêu cầu đều bị từ chối ngay cả từ host.
Việc mở cổng 11434 gây ra hai rủi ro. Ollama không có xác thực, vì vậy bất kỳ ai truy cập được cổng này đều có thể liệt kê các model của bạn thông qua /api/tags, chạy inference trên CPU và tiêu tốn băng thông của bạn thông qua /api/generate, tải các model mới về ổ đĩa và xóa những model bạn đang có. Thứ hai, HTTP thuần túy tới một cổng từ xa sẽ gửi các prompt và kết quả hoàn thiện dưới dạng văn bản rõ (cleartext), vì vậy mọi máy tính trên đường truyền đều có thể đọc được chúng. Cả hai vấn đề này đều biến mất nếu cổng không bao giờ rời khỏi máy chủ.
Từ máy trạm của bạn, hãy chuyển tiếp cổng qua SSH:
ssh -N -L 11434:127.0.0.1:11434 you@vps.example.comBây giờ http://127.0.0.1:11434 trên laptop của bạn chính là Ollama của máy chủ, nằm trong lớp mã hóa của phiên SSH. Nếu laptop của bạn đã chạy Ollama, việc bind cục bộ sẽ thất bại với bind [127.0.0.1]:11434: Address already in use; hãy sử dụng -L 11435:127.0.0.1:11434 và trỏ client của bạn vào cổng 11435.
Khi một trình duyệt client cần truy cập, hãy đặt một reverse proxy có mật khẩu ở phía trước. Một site block của Caddy rất ngắn gọn, và caddy hash-password sẽ in ra mã hash bcrypt mà nó yêu cầu:
ollama.example.com {
basic_auth {
you $2a$14$replace_with_the_generated_hash
}
reverse_proxy 127.0.0.1:11434
}Caddy tự động lấy chứng chỉ qua TLS (transport layer security), vì vậy lưu lượng được mã hóa. Hãy kiểm tra client của bạn trước: các client không thể gửi header Authorization sẽ thất bại khi xác thực basic auth với lỗi 401 Unauthorized. SSH tunnel không gặp vấn đề này, đó là lý do tại sao đây là khuyến nghị mặc định ở đây.
Tải model và kiểm tra toàn bộ đường dẫn
podman exec -it ollama ollama pull gemma3:4b
curl -s http://127.0.0.1:11434/api/tags
curl -s http://127.0.0.1:11434/api/generate -d '{"model":"gemma3:4b","prompt":"Reply with the single word: ready","stream":false}'
du -sh ~/ollama-data/models/api/tags trả về danh sách JSON của gemma3:4b. /api/generate trả về một đối tượng JSON với trường response, sau một khoảng dừng để load trọng số từ ổ cứng. du sẽ báo một con số gần với dung lượng tải xuống đã công bố. Sau đó, hãy xác thực phần quan trọng nhất của hướng dẫn này:
sudo reboot
# reconnect, then:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user is-active ollama.serviceactive nghĩa là tiến trình vẫn đang chạy, phần [Install] và daemon-reload đều đã thực hiện đúng nhiệm vụ. Nếu nó báo inactive, hãy kiểm tra lại ba phần đó trước, sau đó kiểm tra journalctl --user -u ollama.service để tìm lỗi khởi động.
Các lỗi thường gặp và thông báo tương ứng
Container biến mất sau khi reboot. Hãy kiểm tra loginctl show-user ollama --property=Linger trước, vì nếu không có Linger=yes, instance systemd của người dùng sẽ không bao giờ khởi động cùng hệ thống. Nếu đã bật lingering, hãy kiểm tra phần [Install] trong file .container, chạy systemctl --user daemon-reload và xem journalctl --user -u ollama.service để tìm lỗi khởi động.
Error: statfs /home/ollama/ollama-data: no such file or directory. Nguồn của bind mount phải tồn tại trước khi container khởi động. Podman không tự tạo thư mục trên host cho bạn. Hãy chạy mkdir -p ~/ollama-data với tư cách là người dùng ollama.
Khởi động thất bại sau 90 giây. journalctl --user -u ollama.service hiển thị Start operation timed out. Terminating. vì quá trình pull image vẫn đang chạy. Hãy pull thủ công hoặc giữ TimeoutStartSec=900.
Container khởi động rồi thoát ngay. podman logs ollama và sudo ausearch -m avc -ts recent kết hợp với nhau sẽ cho bạn biết liệu đó có phải là do nhãn SELinux hay không. Một thông báo AVC nhắc đến container_t và user_home_t nghĩa là :Z đang bị thiếu.
Yêu cầu bị từ chối từ host. curl: (7) Failed to connect to 127.0.0.1 port 11434: Connection refused với dịch vụ active thường có nghĩa là OLLAMA_HOST đã được thiết lập thành địa chỉ loopback bên trong container. Hãy xóa dòng đó đi.
Tốc độ tạo phản hồi rất chậm hoặc container bị kill. Nếu không có GPU, quá trình inference sẽ chạy trên CPU và các model lớn vốn dĩ rất chậm. Việc sử dụng disk-backed memory mapping hoặc swap sẽ làm inference chậm hơn nữa khi model không nằm gọn trong RAM vật lý. Một container bị chết giữa chừng khi đang xử lý yêu cầu với thông báo signal: killed trong log cần được kiểm tra nguyên nhân; nếu log của kernel xác nhận lỗi out-of-memory, hãy chọn một tag nhỏ hơn từ bảng phía trên.
Cập nhật image đã ghim
Ghim phiên bản (pinning) nghĩa là việc cập nhật nằm trong tầm kiểm soát của bạn, không phải là thứ tự động xảy ra. Hãy sửa Image= trong ollama.container, sau đó reload và restart:
systemctl --user daemon-reload
systemctl --user restart ollama.service
podman exec ollama ollama --versionCác model nằm trong bind mount, nên chúng vẫn tồn tại nguyên vẹn sau khi thay đổi image. AutoUpdate=registry trong phần [Container] cấu hình việc kiểm tra digest so với registry; podman auto-update, khi chạy thủ công hoặc qua systemd timer, sẽ pull image đã thay đổi và restart unit. Cách này phù hợp với các tag thay đổi liên tục (moving tag). Đối với version tag, nó chỉ kích hoạt khi nhà phát hành đẩy đè cùng một tag đó lên, đây chính là thay đổi ngoài ý muốn mà việc ghim phiên bản cần ngăn chặn, vì vậy hãy tắt nó đi trong trường hợp này. Hãy backup /home/ollama/ollama-data/models/manifests và file .container, và bỏ qua các blob: chúng có dung lượng lớn, và ollama pull sẽ tự tải lại chúng trên máy chủ mới.
FAQ
Tại sao container Podman rootless của tôi dừng lại khi tôi đăng xuất?
Instance systemd của người dùng và thư mục /run/user/<uid> của nó thường bị xóa sau khi phiên làm việc cuối cùng của người dùng đó kết thúc, dẫn đến việc các dịch vụ do instance đó quản lý cũng bị dừng. Hãy chạy sudo loginctl enable-linger ollama và xác nhận loginctl show-user ollama --property=Linger in ra Linger=yes. Hãy bật tính năng lingering trước khi tạo unit Quadlet để trình quản lý người dùng và thư mục runtime của nó luôn khả dụng mà không cần phiên đăng nhập.
Tôi có cần gắn nhãn SELinux cho thư mục chứa model Ollama không?
Trên Fedora, RHEL, Rocky và AlmaLinux, có, nếu bạn bind mount một thư mục từ host. Container chạy trong domain container_t và một thư mục trong home folder thường được gắn nhãn user_home_t, do đó thao tác ghi bị từ chối và Ollama sẽ thoát. Hãy thêm :Z vào dòng Volume= và sử dụng một thư mục con riêng biệt, vì việc gắn nhãn lại sẽ đệ quy và nếu trỏ :Z vào toàn bộ thư mục home sẽ làm hỏng quyền truy cập SSH key của người dùng đó. Các named volume được Podman gắn nhãn chính xác và không cần cấu hình gì thêm.
Ollama model cần bao nhiêu dung lượng đĩa?
Hãy bắt đầu từ kích thước tải xuống được công bố trên ollama.com/library, dao động từ 3.4 GB cho gemma3:4b đến 19 GB cho qwen3:30b. Cộng thêm dung lượng image Podman, sau đó để dư ra một khoảng trống, vì model thứ hai không thay thế model thứ nhất trên đĩa. Kiểm tra df -h /home trước khi pull và du -sh ~/ollama-data/models sau khi pull. Để có hiệu năng tốt, hãy dự tính dung lượng RAM bằng kích thước file của model cộng thêm không gian cho context window. Việc ánh xạ bộ nhớ từ đĩa (disk-backed memory mapping) hoặc sử dụng đủ swap có thể cho phép chạy model lớn hơn với ít RAM vật lý hơn, nhưng hiệu năng sẽ giảm.
Có an toàn không khi mở cổng 11434 trên VPS?
Không. Ollama không có bất kỳ cơ chế xác thực nào, vì vậy bất kỳ ai truy cập được vào cổng này đều có thể liệt kê các model của bạn, xóa chúng, tải model mới về đĩa của bạn và chạy inference bằng CPU cũng như băng thông của bạn. Giao thức HTTP thuần qua Internet cũng gửi mọi prompt và kết quả trả về dưới dạng văn bản rõ (cleartext). Hãy bind phía host vào 127.0.0.1 với PublishPort=127.0.0.1:11434:11434, xác nhận bằng ss -ltnp | grep 11434, và truy cập nó thông qua SSH tunnel hoặc reverse proxy có yêu cầu mật khẩu.