SSD Nodes Learn Hosting plans →
คู่มือ Matt Connorโดย Matt Connor

วิธีรัน Ollama ด้วย rootless Podman บน VPS อย่างปลอดภัย

เรียนรู้วิธีติดตั้ง Ollama บน VPS ด้วย rootless Podman อย่างปลอดภัยผ่าน Quadlet พร้อมตั้งค่า lingering และ SELinux เพื่อให้คอนเทนเนอร์ทำงานต่อเนื่องหลังรีบูตระบบ

การรัน Ollama ใน Podman แบบ rootless บน VPS

การรัน Ollama ใน Podman แบบ rootless บนเซิร์ฟเวอร์จำเป็นต้องมีเงื่อนไข 5 ประการที่คู่มือสำหรับเดสก์ท็อปมักข้ามไป ผู้ใช้ที่ไม่มีสิทธิ์ root (unprivileged user) ต้องเป็นเจ้าของคอนเทนเนอร์ ต้องเปิดใช้งาน lingering สำหรับผู้ใช้นั้นเพื่อให้คอนเทนเนอร์ทำงานต่อไปได้หลังจากคุณออกจากระบบ ไฟล์ Quadlet จะส่งต่อการจัดการคอนเทนเนอร์ไปยัง systemd เพื่อให้ระบบเริ่มทำงานใหม่โดยอัตโนมัติหลังรีบูต ไดเรกทอรีโมเดลต้องมี SELinux label บนดิสทริบิวชันที่มีการบังคับใช้ และ API ต้องฟังเฉพาะที่ loopback เท่านั้น โดยคุณจะเข้าถึงผ่าน SSH tunnel

Ollama เป็นเซิร์ฟเวอร์สำหรับโมเดลภาษาขนาดใหญ่ (LLM) โดยจะจัดเก็บน้ำหนักของโมเดลไว้ในดิสก์ โหลดเข้าสู่หน่วยความจำ และตอบสนองคำขอ HTTP บนพอร์ต 11434 API ภายในของ Ollama ไม่ต้องการการล็อกอินหรือ API key ดังนั้นเครือข่ายจึงเป็นระบบควบคุมการเข้าถึงเพียงอย่างเดียวที่คุณมี Podman รันคอนเทนเนอร์โดยไม่มี daemon และไม่มีสิทธิ์ root ดังนั้นหากมีสิ่งใดหลุดออกจากคอนเทนเนอร์ มันจะเริ่มต้นด้วยสิทธิ์ของผู้ใช้ทั่วไปที่ไม่มีสิทธิ์พิเศษ หากคุณต้องการเปรียบเทียบ runtime ก่อน โปรดอ่าน ความแตกต่างระหว่าง Podman และ Docker บน VPS หากคุณต้องการข้ามการใช้คอนเทนเนอร์ไปเลย การติดตั้ง Ollama โดยตรงบน VPS เป็นวิธีที่สั้นกว่า

Fedora มาพร้อมกับ Podman และ SELinux (security-enhanced Linux) เป็นค่าเริ่มต้น คำสั่งด้านล่างนี้อนุมานว่าคุณใช้ Podman 5 หรือใหม่กว่า และ Quadlet unit ยังต้องการ cgroup v2 ซึ่งเอกสารของ Podman ระบุว่าเป็นข้อกำหนดของ Quadlet ไม่ว่าจะเป็น Podman เวอร์ชันใดก็ตาม ให้ตรวจสอบทั้งสองอย่างก่อนเริ่ม: podman --version สำหรับรายการแรก และ podman info | grep -i cgroup สำหรับรายการที่สอง โดยที่บรรทัด cgroupVersion ต้องแสดงผลเป็น v2 สำหรับ Ubuntu 24.04 แพ็กเกจ podman ในคลังซอฟต์แวร์เป็นเวอร์ชัน 4.9.3 ซึ่งเก่ากว่าบรรทัดดังกล่าว ดังนั้นให้ตรวจสอบเวอร์ชันที่นั่นก่อน

เหตุผลที่เวอร์ชันสำหรับแล็ปท็อปต้องมีการปรับเปลี่ยนเมื่อนำมาใช้บนเซิร์ฟเวอร์

Fedora Magazine ได้เผยแพร่บทความแนะนำการใช้งาน stack นี้อย่างชัดเจนเมื่อวันที่ 5 สิงหาคม 2026 ในหัวข้อ Running Ollama Locally with Podman on Fedora Linux โดย Yazan Monshed ซึ่งเป็นจุดเริ่มต้นที่ดีในการทำความรู้จักกับเครื่องมือเหล่านี้ อย่างไรก็ตาม บทความดังกล่าวมุ่งเน้นไปที่การใช้งานบนแล็ปท็อป และมี 4 ประเด็นที่ส่งผลแตกต่างออกไปเมื่อนำไปใช้บนเครื่องที่มี Public IP address:

  • การเริ่ม container ด้วยคำสั่ง podman run -d แบบปกติ: container ที่เริ่มด้วยวิธีนี้จะไม่กลับมาทำงานใหม่หลังจาก reboot เพราะไม่มีการกำหนดค่าให้ระบบเริ่มทำงานอัตโนมัติ
  • การใช้ tag แบบเปลี่ยนแปลงได้ ollama/ollama: บนแล็ปท็อป คุณจะสังเกตเห็นทันทีเมื่อพฤติกรรมของโปรแกรมเปลี่ยนไป แต่บนเซิร์ฟเวอร์ สัญญาณแรกที่คุณจะพบคือสคริปต์ที่หยุดทำงานไปเองในชั่วข้ามคืน
  • การเผยแพร่บริการด้วย -p 11434:11434: ซึ่งเป็นการผูกพอร์ตเข้ากับทุก interface หากอยู่หลัง home router บริการนี้จะเข้าถึงจากอินเทอร์เน็ตไม่ได้ แต่หากอยู่บน VPS นี่จะเป็นการเปิด API สำหรับ inference สู่สาธารณะโดยไม่มีการตั้งรหัสผ่านป้องกัน
  • การรันด้วยสิทธิ์ของผู้ใช้งานทั่วไป: บนเซิร์ฟเวอร์ บัญชีผู้ใช้ที่เป็นเจ้าของ container ไม่ควรมีสิทธิ์เข้าถึงข้อมูลอื่น เพื่อป้องกันกรณีที่หากเกิดการเจาะระบบ (break-out) ผู้บุกรุกจะพบเพียง home directory ที่ว่างเปล่าเท่านั้น

สิ่งที่กล่าวมาข้างต้นไม่ใช่เรื่องผิดสำหรับการใช้งานบนเครื่องที่บทความตั้งใจไว้ แต่ละประเด็นเป็นเพียงการตัดสินใจที่คุณต้องทบทวนใหม่เมื่อเครื่องเซิร์ฟเวอร์สามารถเข้าถึงได้จากทุกที่และไม่มีผู้ดูแลนั่งใช้งานอยู่หน้าเครื่องโดยตรง

สร้างผู้ใช้ที่ไม่มีสิทธิ์ (unprivileged user) และตรวจสอบ subuid

Rootless Podman จะแมป UID ภายในคอนเทนเนอร์เข้ากับช่วงของ UID ที่ไม่ได้ใช้งานบนโฮสต์ โดยช่วงดังกล่าวจะถูกประกาศไว้ใน /etc/subuid และ /etc/subgid แม้ว่า Podman จะรองรับโหมด single-UID แต่สำหรับการตั้งค่านี้เราจะกำหนดค่าช่วง subordinate ไว้

sudo dnf install -y podman        # or: sudo apt install -y podman
sudo useradd --create-home --shell /bin/bash --comment "Ollama container owner" ollama
sudo passwd --lock ollama
grep ollama /etc/subuid /etc/subgid

คำสั่ง grep ควรแสดงผลลัพธ์สองบรรทัด โดยมาจากแต่ละไฟล์และระบุช่วงของ UID จำนวน 65536 ไอดี:

/etc/subuid:ollama:100000:65536
/etc/subgid:ollama:100000:65536

ตัวเลขเริ่มต้นของคุณอาจแตกต่างกันไปซึ่งถือเป็นเรื่องปกติ หาก grep ไม่แสดงผลลัพธ์ใดๆ แสดงว่า useradd ไม่ได้จัดสรรช่วง UID ไว้ Podman จะแจ้งเตือนเมื่อพบการแมปที่ไม่สมบูรณ์ด้วยข้อความในลักษณะนี้:

Error: cannot find UID/GID for user ollama: no subuid ranges found for user "ollama" in /etc/subuid

ให้กำหนดช่วงที่ไม่มีผู้ใช้อื่นถือครองอยู่ จากนั้นแจ้งให้ Podman ทราบว่าการแมปเดิมนั้นล้าสมัยแล้ว:

sudo usermod --add-subuids 100000-165535 --add-subgids 100000-165535 ollama
sudo -iu ollama podman system migrate

การล็อกรหัสผ่านจะบล็อกการเข้าสู่ระบบด้วยรหัสผ่านสำหรับ ollama แต่จะไม่บล็อกวิธีการยืนยันตัวตนอื่น เช่น SSH keys คุณสามารถเข้าถึงบัญชีดังกล่าวจากผู้ใช้ระดับแอดมินของคุณได้ด้วย sudo -iu ollama

การเปิดใช้งาน lingering เพื่อให้ service ทำงานต่อไปได้หลัง logout

instance ของ systemd สำหรับผู้ใช้โดยปกติจะเริ่มทำงานเมื่อเข้าสู่ระบบและหยุดทำงานหลังจาก logout ครั้งสุดท้าย ซึ่ง /run/user/<uid> จะถูกลบออกไปพร้อมกัน ส่งผลให้ service ที่จัดการโดย instance นั้นหยุดทำงานไปด้วย การเปิดใช้งาน lingering จะช่วยให้ instance ของผู้ใช้ยังคงทำงานต่อไปได้แม้ไม่มี session เชื่อมต่ออยู่

sudo loginctl enable-linger ollama
loginctl show-user ollama --property=Linger

คำสั่งดังกล่าวควรแสดงผลลัพธ์เป็น Linger=yes ให้เปิดใช้งานก่อนที่คุณจะสร้าง unit เพื่อให้ user manager และไดเรกทอรี runtime พร้อมใช้งานโดยไม่ต้องพึ่งพา session การเข้าสู่ระบบ

ยังมีอีกหนึ่งขั้นตอนที่มักถูกมองข้าม sudo -iu ollama ให้ shell แก่คุณแต่ไม่ได้ให้ session bus ส่งผลให้ systemctl --user ล้มเหลวในทันที:

Failed to connect to bus: $DBUS_SESSION_BUS_ADDRESS and $XDG_RUNTIME_DIR not defined

systemd จะค้นหา user bus ที่ $XDG_RUNTIME_DIR/bus แต่ sudo -i ไม่ได้กำหนดตัวแปรดังกล่าวไว้ ให้คุณกำหนดค่าด้วยตนเองในทุก admin shell ที่คุณใช้จัดการ service นี้:

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user status

ตำแหน่งที่จัดเก็บโมเดลและขนาดพื้นที่ดิสก์ที่ควรเตรียมไว้

Ollama จะเขียนไฟล์น้ำหนัก (weights) ลงใน /root/.ollama/models ภายในคอนเทนเนอร์ หากคุณทำการ bind directory จากโฮมไดเรกทอรีของผู้ใช้ไปยัง path ดังกล่าว ไฟล์จะถูกจัดเก็บในตำแหน่งที่คุณสามารถตรวจสอบขนาดได้คือ /home/ollama/ollama-data/models โดยไฟล์ blob จะถูกเก็บไว้ใน models/blobs ในรูปแบบไฟล์ที่อ้างอิงตามเนื้อหา (content-addressed) และ models/manifests จะเป็นที่เก็บดัชนีขนาดเล็กสำหรับระบุชื่อไฟล์เหล่านั้น หากคุณใช้ named volume แทนตามที่ระบุในบทความของ Fedora Magazine โครงสร้างไฟล์เดียวกันนี้จะอยู่ใน /home/ollama/.local/share/containers/storage/volumes/<volume>/_data ไม่ว่ากรณีใดทั้ง ollama pull และ ollama run ต่างก็เขียนไฟล์น้ำหนักลงในโครงสร้างเดียวกัน และ สิ่งที่แยกคำสั่งทั้งสองออกจากกัน มีเพียงแค่ว่าเซสชันการแชทจะเปิดขึ้นทันทีหลังจากดาวน์โหลดเสร็จสิ้นหรือไม่

ควรประเมินขนาดดิสก์ก่อนเริ่มดาวน์โหลดข้อมูลใดๆ ขนาดไฟล์ที่ระบุไว้ในการดาวน์โหลดคือค่าต่ำสุดที่คุณต้องเตรียม

แผนภูมิPublished download size per Ollama model tag, ollama.com/library, checked 27 October 2026
ข้อมูลเบื้องหลังแผนภูมินี้
[
  {
    "label": "gemma3:4b",
    "download_gb": 3.4
  },
  {
    "label": "mistral:7b",
    "download_gb": 4.4
  },
  {
    "label": "qwen3:8b",
    "download_gb": 5.2
  },
  {
    "label": "gemma3:12b",
    "download_gb": 8.2
  },
  {
    "label": "qwen3:14b",
    "download_gb": 9.3
  },
  {
    "label": "gemma3:27b",
    "download_gb": 17
  },
  {
    "label": "qwen3:30b",
    "download_gb": 19
  }
]

แถวทั้งหมดใน 7 คือตัวเลขที่เผยแพร่บน ollama.com/library ไม่ใช่ขนาดที่วัดจริงบนดิสก์ แท็กที่เล็กที่สุดในที่นี้คือ gemma3:4b ซึ่งมีขนาดดาวน์โหลด 3.4 GB ส่วนแท็กที่ใหญ่ที่สุดคือ qwen3:30b ซึ่งมีขนาดดาวน์โหลด 19 GB ตัวอิมเมจคอนเทนเนอร์เองจะถูกเก็บแยกต่างหากในพื้นที่จัดเก็บของ Podman ดังนั้นควรตรวจสอบตัวเลขทั้งสองส่วนร่วมกันด้วย podman system df และ df -h /home เพื่อประสิทธิภาพที่ดี ควรเตรียม RAM ให้เพียงพอต่อขนาดไฟล์ของโมเดลบวกกับพื้นที่สำหรับ context window ทั้งนี้ RAM จริงไม่ใช่ข้อจำกัดที่ตายตัว การใช้ disk-backed memory mapping หรือ swap ที่เพียงพออาจช่วยให้โมเดลขนาด 19 GB สามารถรันบน VPS ที่มี RAM 16 GB ได้ แต่ประสิทธิภาพจะลดลง

ตรึงแท็กของอิมเมจและระบุชื่อ Registry ให้ครบถ้วน

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
mkdir -p ~/ollama-data ~/.config/containers/systemd
podman pull docker.io/ollama/ollama:0.32.9

ให้ใช้แท็กเวอร์ชันที่ปล่อยออกมาแล้ว ซึ่ง ณ เดือนสิงหาคม 2026 คือ 0.32.9 ไม่ใช่ latest เนื่องจากมีการปล่อยเวอร์ชันใหม่ๆ ออกมาหลังจากนั้น โดย ณ วันที่ 30 ตุลาคม 2026 แท็กเวอร์ชันปกติล่าสุดบน Docker Hub คือ 0.40.13 ดังนั้นควรตรวจสอบหน้าแท็กและใช้เวอร์ชันที่ปล่อยล่าสุดทั้งในคำสั่ง pull และบรรทัด Image= การตรึงแท็กเวอร์ชันจะช่วยป้องกันไม่ให้เวอร์ชันที่คุณไม่ได้เลือกถูกนำมาใช้บนเซิร์ฟเวอร์ ดังนั้นการเปลี่ยนแปลงพฤติกรรมของระบบมักเกิดจากการที่คุณเป็นผู้เปลี่ยนแปลงเอง อย่างไรก็ตาม แท็กเป็นเพียงตัวชี้ตำแหน่งไม่ใช่ลายนิ้วมือดิจิทัล (fingerprint) เนื่องจาก Registry จะย้ายแท็กไปยังอิมเมจอื่นหากมีการ push อิมเมจใหม่ด้วยชื่อเดิม มีเพียงค่า digest เท่านั้นที่คงที่ Podman รองรับทั้งสองรูปแบบใน Image= หากการรีสตาร์ทตอน 04:00 น. จำเป็นต้องรัน binary ตัวเดียวกับที่คุณทดสอบ ให้รัน podman images --digests docker.io/ollama/ollama หลังจากดึงอิมเมจมาแล้ว และเขียนเป็น Image=docker.io/ollama/ollama@sha256:<digest> แทน นอกจากนี้ Docker Hub ยังเผยแพร่แท็ก -rc และ -rocm สำหรับเวอร์ชันเดียวกัน ให้เลือกใช้แท็กปกติเว้นแต่คุณจะใช้งาน AMD GPU

ให้ระบุชื่อโฮสต์ของ Registry ด้วย บน Fedora หากใช้ชื่อย่อใน systemd unit จะไม่มีเทอร์มินัลสำหรับแสดงข้อความแจ้งเตือน และ unit จะล้มเหลวพร้อมข้อความ:

Error: short-name "ollama/ollama" did not resolve to an alias and no unqualified-search registries are defined

การดึงอิมเมจด้วยตนเองก่อนเป็นทางเลือกที่ไม่บังคับ แต่มีประโยชน์เพราะช่วยแยกการดาวน์โหลดขนาดหลายกิกะไบต์ออกจากการนับเวลา timeout ในการเริ่มทำงานของ unit

หน่วย Quadlet ที่คงอยู่หลังการรีบูต

Quadlet คือตัวสร้าง systemd ของ Podman คุณเขียนไฟล์ .container แล้ว systemd จะเปลี่ยนไฟล์นั้นให้เป็น service ในขณะบูตเครื่อง ทำให้ไม่จำเป็นต้องใช้ podman generate systemd อีกต่อไป ให้บันทึกไฟล์นี้เป็น /home/ollama/.config/containers/systemd/ollama.container โดยกำหนดให้ผู้ใช้ ollama เป็นเจ้าของ

[Unit]
Description=Ollama API (rootless)
After=network-online.target
Wants=network-online.target

[Container]
Image=docker.io/ollama/ollama:0.32.9
ContainerName=ollama
PublishPort=127.0.0.1:11434:11434
Volume=/home/ollama/ollama-data:/root/.ollama:Z
Environment=OLLAMA_KEEP_ALIVE=30m
Environment=OLLAMA_MAX_LOADED_MODELS=1

[Service]
Restart=always
TimeoutStartSec=900

[Install]
WantedBy=default.target

ชื่อไฟล์จะเป็นตัวกำหนดชื่อของ service ดังนั้น ollama.container จะกลายเป็น ollama.service

systemctl --user daemon-reload
systemctl --user start ollama.service
systemctl --user status ollama.service

status ควรแสดงผลเป็น active (running) ห้ามรันคำสั่ง systemctl --user enable ollama.service เนื่องจากหน่วยนี้ไม่มีไฟล์อยู่บนดิสก์ systemd จึงปฏิเสธการทำงาน:

Failed to enable unit: Unit file /run/user/1001/systemd/generator/ollama.service is transient or generated.

ส่วน [Install] ทำหน้าที่นี้อยู่แล้ว Quadlet จะสร้างลิงก์สำหรับเริ่มทำงานตอนบูตเครื่องให้โดยอัตโนมัติระหว่างการรัน daemon-reload ซึ่งเป็นเหตุผลว่าทำไมคำสั่งดังกล่าวจึงจำเป็นต้องรัน TimeoutStartSec=900 ครอบคลุมการเริ่มทำงานครั้งแรกที่ยังต้องดึง image มาใช้งาน เนื่องจากค่าเริ่มต้น 90 วินาทีไม่เพียงพอสำหรับการดาวน์โหลดไฟล์ขนาดหลายกิกะไบต์ และ systemd จะยุติการทำงานของ service นั้นเพราะถือว่าล้มเหลว OLLAMA_KEEP_ALIVE=30m จะคงโมเดลไว้ในหน่วยความจำระหว่างการร้องขอแทนที่จะยกเลิกการโหลดหลังจากผ่านไปห้านาที คุณสามารถดูข้อดีข้อเสียได้ที่ การคงโมเดล Ollama ไว้ในหน่วยความจำ หากคำศัพท์ของ systemd ที่ใช้ในที่นี้เป็นเรื่องใหม่ วิธีการทำงานของ systemd service และ timer บน VPS จะอธิบายรายละเอียดเกี่ยวกับตัวหน่วยเหล่านี้ไว้

เหตุใดไดเรกทอรีโมเดลจึงแจ้งว่า permission denied ภายใต้ SELinux

บน Fedora, RHEL, Rocky และ AlmaLinux นั้น SELinux จะถูกเปิดใช้งาน (enforcing) เป็นค่าเริ่มต้น กระบวนการทำงานของคอนเทนเนอร์จะรันอยู่ในโดเมน container_t ในขณะที่ไดเรกทอรีในโฮมไดเรกทอรีของผู้ใช้จะถูกติดป้ายกำกับ (label) เป็น user_home_t นโยบายความปลอดภัยไม่อนุญาตให้ทั้งสองส่วนเข้าถึงกันได้ ส่งผลให้ Ollama ไม่สามารถสร้างโครงสร้างโมเดลและคอนเทนเนอร์หยุดทำงาน getenforce จะแสดงผล Enforcing บนระบบเหล่านี้ และการปฏิเสธการเข้าถึงจะถูกบันทึกไว้ดังนี้:

sudo ausearch -m avc -ts recent

คุณจะพบข้อความที่ระบุชื่อโดเมนและป้ายกำกับเป้าหมาย:

avc:  denied  { write } for  pid=1842 comm="ollama" name="models" dev="vda1" ino=131077 scontext=system_u:system_r:container_t:s0:c214,c827 tcontext=unconfined_u:object_r:user_home_t:s0 tclass=dir permlisted=0

การเติม :Z ไว้ที่ท้ายบรรทัด Volume= คือวิธีแก้ไข โดยจะเป็นการเปลี่ยนป้ายกำกับของไดเรกทอรีบนโฮสต์ให้เป็น container_file_t และประทับตราด้วยหมวดหมู่ MCS (multi-category security) ส่วนตัวที่เฉพาะคอนเทนเนอร์นี้เท่านั้นที่ถือครองอยู่ ส่วน :z ตัวพิมพ์เล็กจะใช้ป้ายกำกับแบบแชร์ ซึ่งเป็นสิ่งที่คุณต้องการเมื่อมีคอนเทนเนอร์สองตัวอ่านไดเรกทอรีเดียวกัน

ข้อควรระวังเกี่ยวกับ :Z คือมันเป็นการทำงานที่ทำลายข้อมูลเดิมและไม่มีการแจ้งเตือน การเปลี่ยนป้ายกำกับจะทำงานแบบวนซ้ำ (recursive) หากคุณชี้ไปที่ /home/ollama ไฟล์ทุกไฟล์ในโฮมไดเรกทอรีนั้นจะถูกเปลี่ยนป้ายกำกับทั้งหมด ซึ่งจะทำให้การเข้าถึงผ่าน SSH key ของผู้ใช้นั้นใช้งานไม่ได้ ควรระบุ :Z ให้เป็นไดเรกทอรีย่อยที่แยกออกมาโดยเฉพาะและไม่มีข้อมูลอื่นปะปน สำหรับ Named volumes ไม่จำเป็นต้องใช้ตัวเลือกนี้เนื่องจาก Podman จะติดป้ายกำกับให้อย่างถูกต้องเมื่อสร้างขึ้น หากคุณต้องการทำความเข้าใจในภาพรวม พื้นฐาน SELinux สำหรับเซิร์ฟเวอร์ จะอธิบายเกี่ยวกับบริบท (contexts) และค่าบูลีน (booleans) ไว้ สำหรับ Ubuntu และ Debian จะใช้ AppArmor แทน ซึ่ง :Z จะไม่มีผลใดๆ ในระบบเหล่านั้น และการคงไว้ใน unit file ก็ไม่ก่อให้เกิดอันตรายแต่อย่างใด

ปิดพอร์ต 11434 และเข้าถึง API ผ่าน SSH

PublishPort=127.0.0.1:11434:11434 จะผูกฝั่งโฮสต์เข้ากับ loopback ให้ตรวจสอบดังนี้:

ss -ltnp | grep 11434
curl http://127.0.0.1:11434

ผลลัพธ์ของ ss ต้องแสดง 127.0.0.1:11434 และ curl ต้องตอบกลับเป็น Ollama is running หาก ss แสดงเป็น 0.0.0.0:11434 หรือ *:11434 แสดงว่าพอร์ตกำลังเปิดรับการเชื่อมต่อจากทุกอินเทอร์เฟซ การที่อินเทอร์เน็ตจะเข้าถึงได้หรือไม่นั้นขึ้นอยู่กับกฎของไฟร์วอลล์และเครือข่ายหน้าเซิร์ฟเวอร์ ดังนั้นการเปิดรับแบบ wildcard ไม่ได้หมายความว่าจะถูกเปิดเผยสู่สาธารณะโดยอัตโนมัติ อย่างไรก็ตาม อย่าพึ่งพาจุดนั้น เอกสารของ Ubuntu ระบุว่า ufw ถูกปิดใช้งานโดยค่าเริ่มต้น และกฎของไฟร์วอลล์เป็นอีกหนึ่งสิ่งที่ต้องคงความถูกต้องไว้เสมอ ให้แก้ไขที่อยู่การผูกพอร์ต (bind address) เพื่อไม่ให้พอร์ตเปิดรับการเชื่อมต่อจากภายนอกตั้งแต่แรก

ต้องระบุให้ชัดเจนว่าคุณกำลังผูกพอร์ตที่ฝั่งใด ที่อยู่ภายใน PublishPort คือที่อยู่ของโฮสต์ ภายในคอนเทนเนอร์ Ollama ต้องเปิดรับฟังทุกอินเทอร์เฟซตามค่าเริ่มต้นของอิมเมจ การตั้งค่า Environment=OLLAMA_HOST=127.0.0.1 จะเป็นการผูก Ollama เข้ากับ loopback ของคอนเทนเนอร์เอง และ Podman จะส่งต่อทราฟฟิกที่เผยแพร่ไปยังที่อยู่เครือข่ายของคอนเทนเนอร์แทน ส่งผลให้ทุกคำขอถูกปฏิเสธแม้จะมาจากโฮสต์ก็ตาม

การเปิดพอร์ต 11434 ทิ้งไว้สร้างความเสียหายสองทาง Ollama ไม่มีการยืนยันตัวตน ดังนั้นใครก็ตามที่เข้าถึงพอร์ตนี้ได้สามารถดูรายการโมเดลของคุณผ่าน /api/tags, รัน inference โดยใช้ CPU และโควตาแบนด์วิดท์ของคุณผ่าน /api/generate, ดึงโมเดลใหม่ลงดิสก์ของคุณ และลบโมเดลที่คุณมีอยู่ได้ ประการที่สอง การส่งข้อมูลผ่าน HTTP ธรรมดาไปยังพอร์ตระยะไกลจะส่ง prompt และผลลัพธ์แบบข้อความธรรมดา (cleartext) ทำให้ทุกเครื่องที่อยู่ระหว่างทางสามารถอ่านข้อมูลได้ ปัญหาทั้งสองจะหมดไปหากพอร์ตไม่ถูกเปิดออกนอกเครื่อง

จากเครื่องเวิร์กสเตชันของคุณ ให้ส่งต่อพอร์ตผ่าน SSH:

ssh -N -L 11434:127.0.0.1:11434 you@vps.example.com

ตอนนี้ http://127.0.0.1:11434 บนแล็ปท็อปของคุณคือ Ollama ของเซิร์ฟเวอร์ที่อยู่ภายใต้การเข้ารหัสของเซสชัน SSH หากแล็ปท็อปของคุณรัน Ollama อยู่แล้ว การผูกพอร์ตในเครื่องจะล้มเหลวด้วย bind [127.0.0.1]:11434: Address already in use ให้ใช้ -L 11435:127.0.0.1:11434 และชี้ไคลเอนต์ของคุณไปที่ 11435 แทน

เมื่อไคลเอนต์เบราว์เซอร์จำเป็นต้องใช้งาน ให้ใช้ reverse proxy ที่มีการป้องกันด้วยรหัสผ่านแทน บล็อกไซต์ของ Caddy นั้นสั้น และ caddy hash-password จะแสดงค่า bcrypt hash ที่ต้องการ:

ollama.example.com {
  basic_auth {
    you $2a$14$replace_with_the_generated_hash
  }
  reverse_proxy 127.0.0.1:11434
}

Caddy จะขอใบรับรองผ่าน TLS (transport layer security) โดยอัตโนมัติ ทำให้ทราฟฟิกถูกเข้ารหัส ให้ทดสอบไคลเอนต์ของคุณก่อน ไคลเอนต์ที่ไม่สามารถส่งเฮดเดอร์ Authorization จะไม่สามารถใช้งาน basic auth และได้รับ 401 Unauthorized เปล่าๆ กลับมา อุโมงค์ SSH ไม่มีปัญหานี้ ซึ่งเป็นเหตุผลว่าทำไมจึงเป็นคำแนะนำเริ่มต้นในที่นี้

ดึงโมเดลและตรวจสอบเส้นทางทั้งหมด

podman exec -it ollama ollama pull gemma3:4b
curl -s http://127.0.0.1:11434/api/tags
curl -s http://127.0.0.1:11434/api/generate -d '{"model":"gemma3:4b","prompt":"Reply with the single word: ready","stream":false}'
du -sh ~/ollama-data/models

/api/tags จะส่งคืน JSON ที่แสดงรายการ gemma3:4b ส่วน /api/generate จะส่งคืนออบเจกต์ JSON ที่มีฟิลด์ response หลังจากหยุดรอช่วงหนึ่งขณะที่โหลดน้ำหนัก (weights) จากดิสก์ โดย du ควรรายงานตัวเลขที่ใกล้เคียงกับขนาดไฟล์ดาวน์โหลดที่ประกาศไว้ จากนั้นให้พิสูจน์ส่วนที่เป็นหัวใจสำคัญของคู่มือฉบับนี้:

sudo reboot
# reconnect, then:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user is-active ollama.service

active หมายถึงกระบวนการยังคงค้างอยู่ ซึ่งแสดงว่าส่วน [Install] และ daemon-reload ทำงานได้ตามปกติแล้ว หากระบบรายงาน inactive ให้ตรวจสอบสามส่วนนั้นก่อน จากนั้นจึงตรวจสอบ journalctl --user -u ollama.service เพื่อดูข้อผิดพลาดระหว่างการเริ่มต้นระบบ

รูปแบบความล้มเหลวและข้อความที่คุณจะพบ

Container หายไปหลังจาก reboot ให้ตรวจสอบ loginctl show-user ollama --property=Linger ก่อน เพราะหากไม่มี Linger=yes instance ของ systemd สำหรับผู้ใช้จะไม่เริ่มทำงานตอนบูต หากเปิดใช้งาน lingering แล้ว ให้ตรวจสอบส่วน [Install] ในไฟล์ .container จากนั้นรัน systemctl --user daemon-reload และตรวจสอบ journalctl --user -u ollama.service เพื่อดูข้อผิดพลาดในการเริ่มทำงาน

Error: statfs /home/ollama/ollama-data: no such file or directory ต้นทางของ bind mount ต้องมีอยู่จริงก่อนที่ container จะเริ่มทำงาน Podman จะไม่สร้าง directory บน host ให้คุณ ให้รัน mkdir -p ~/ollama-data ในฐานะผู้ใช้ ollama

การเริ่มทำงานล้มเหลวที่ 90 วินาที journalctl --user -u ollama.service แสดง Start operation timed out. Terminating. เนื่องจากกระบวนการดึง image ยังทำงานอยู่ ให้ดึง image ด้วยตนเอง หรือคงค่า TimeoutStartSec=900 ไว้

Container เริ่มทำงานแล้วหยุดทันที podman logs ollama และ sudo ausearch -m avc -ts recent จะบอกคุณว่าปัญหาเกิดจาก SELinux label หรือไม่ หากพบ AVC ที่ระบุ container_t และ user_home_t แสดงว่า :Z หายไป

คำขอถูกปฏิเสธจาก host curl: (7) Failed to connect to 127.0.0.1 port 11434: Connection refused ร่วมกับ service active มักหมายความว่า OLLAMA_HOST ถูกตั้งค่าเป็น loopback address ภายใน container ให้ลบบรรทัดนั้นออก

การสร้างผลลัพธ์ช้ามาก หรือ container ถูกสั่ง kill หากไม่มี GPU การประมวลผล inference จะทำงานบน CPU ซึ่งโมเดลขนาดใหญ่จะทำงานช้าโดยธรรมชาติ การใช้ disk-backed memory mapping หรือ swap จะทำให้ inference ช้าลงเมื่อโมเดลไม่สามารถโหลดลงใน RAM จริงได้ หาก container หยุดทำงานระหว่างประมวลผลคำขอและพบ signal: killed ใน log จำเป็นต้องตรวจสอบสาเหตุ หาก log ของ kernel ยืนยันว่าเกิด out-of-memory kill ให้เลือก tag ที่มีขนาดเล็กลงจากตารางด้านบน

การอัปเดตอิมเมจที่ถูกตรึงเวอร์ชันไว้ (Pinned image)

การตรึงเวอร์ชันหมายความว่าการอัปเดตเป็นสิ่งที่คุณต้องดำเนินการเอง ไม่ใช่สิ่งที่เกิดขึ้นโดยอัตโนมัติ ให้แก้ไข Image= ใน ollama.container จากนั้นโหลดการตั้งค่าใหม่และรีสตาร์ทบริการ:

systemctl --user daemon-reload
systemctl --user restart ollama.service
podman exec ollama ollama --version

โมเดลต่างๆ ถูกเก็บไว้ใน bind mount จึงไม่ได้รับผลกระทบเมื่อมีการเปลี่ยนอิมเมจ AutoUpdate=registry ในส่วน [Container] จะกำหนดค่าการตรวจสอบ digest เทียบกับ registry ส่วน podman auto-update ซึ่งรันด้วยตนเองหรือผ่าน systemd timer จะดึงอิมเมจที่เปลี่ยนแปลงมาและรีสตาร์ท unit ซึ่งเหมาะสำหรับกรณีที่ใช้ tag แบบเลื่อนตำแหน่ง (moving tag) แต่หากใช้คู่กับ version tag ตัวเลือกนี้จะทำงานก็ต่อเมื่อผู้เผยแพร่ push tag เดิมซ้ำอีกครั้ง ซึ่งเป็นเหตุการณ์ไม่คาดคิดที่การตรึงเวอร์ชันมีไว้เพื่อป้องกัน ดังนั้นให้ปิดการใช้งานในกรณีนี้ ให้สำรองข้อมูล /home/ollama/ollama-data/models/manifests และไฟล์ .container โดยไม่ต้องสำรองข้อมูล blobs เนื่องจากมีขนาดใหญ่และ ollama pull จะดึงข้อมูลเหล่านั้นมาใหม่เองเมื่อติดตั้งบนเครื่องใหม่

FAQ

ทำไม container แบบ rootless ของ Podman ถึงหยุดทำงานเมื่อฉันออกจากระบบ?

โดยปกติแล้ว instance ของ systemd และไดเรกทอรี /run/user/<uid> ของผู้ใช้จะถูกลบออกหลังจาก session สุดท้ายของผู้ใช้สิ้นสุดลง ส่งผลให้บริการที่จัดการโดย instance นั้นหยุดทำงาน ให้รันคำสั่ง sudo loginctl enable-linger ollama และตรวจสอบว่า loginctl show-user ollama --property=Linger แสดงผลเป็น Linger=yes หรือไม่ คุณควรเปิดใช้งาน lingering ก่อนสร้าง Quadlet unit เพื่อให้ user manager และไดเรกทอรีรันไทม์ยังคงทำงานอยู่ได้โดยไม่ต้องมี session การล็อกอิน

ฉันจำเป็นต้องใส่ SELinux label ให้กับไดเรกทอรีโมเดลของ Ollama หรือไม่?

บน Fedora, RHEL, Rocky และ AlmaLinux จำเป็นต้องทำหากคุณใช้การ bind mount ไดเรกทอรีจากโฮสต์ เนื่องจาก container ทำงานภายใต้โดเมน container_t แต่ไดเรกทอรีใน home folder มักจะมี label เป็น user_home_t ทำให้การเขียนข้อมูลถูกปฏิเสธและ Ollama จะหยุดทำงาน ให้เพิ่ม :Z ต่อท้ายบรรทัด Volume= และกำหนดให้ใช้ไดเรกทอรีย่อยเฉพาะเจาะจง เนื่องจากกระบวนการ relabel จะทำงานแบบ recursive หากคุณชี้ :Z ไปที่ไดเรกทอรี home ทั้งหมด จะทำให้การเข้าถึงผ่าน SSH key ของผู้ใช้ใช้งานไม่ได้ สำหรับ Named volumes นั้น Podman จะจัดการ label ให้ถูกต้องโดยอัตโนมัติและไม่ต้องตั้งค่าเพิ่มเติม

Ollama ต้องการพื้นที่ดิสก์เท่าใด?

ให้เริ่มพิจารณาจากขนาดไฟล์ดาวน์โหลดที่ระบุไว้บน ollama.com/library ซึ่งมีตั้งแต่ 3.4 GB สำหรับ gemma3:4b ไปจนถึง 19 GB สำหรับ qwen3:30b จากนั้นให้บวกขนาดของ Podman image เพิ่มเข้าไป และควรเผื่อพื้นที่ว่างไว้ด้วยเนื่องจากการดาวน์โหลดโมเดลตัวที่สองจะไม่ไปทับพื้นที่ของโมเดลตัวแรก ให้ตรวจสอบพื้นที่ด้วย df -h /home ก่อนทำการ pull และ du -sh ~/ollama-data/models หลังจากนั้น เพื่อประสิทธิภาพที่ดี ควรวางแผนเตรียม RAM ให้เพียงพอต่อขนาดไฟล์ของโมเดลบวกกับพื้นที่สำหรับ context window การใช้ disk-backed memory mapping หรือการมี swap ที่เพียงพออาจช่วยให้รันโมเดลขนาดใหญ่ขึ้นได้แม้จะมี RAM จริงจำกัด แต่จะส่งผลให้ประสิทธิภาพลดลง

การเปิดพอร์ต 11434 บน VPS ปลอดภัยหรือไม่?

ไม่ปลอดภัย Ollama ไม่มีระบบยืนยันตัวตนใดๆ ดังนั้นใครก็ตามที่เข้าถึงพอร์ตนี้ได้จะสามารถดูรายการโมเดลของคุณ ลบโมเดล ดาวน์โหลดโมเดลใหม่ลงในดิสก์ของคุณ รวมถึงรัน inference โดยใช้ CPU และโควตาแบนด์วิดท์ของคุณได้ นอกจากนี้การใช้ HTTP แบบปกติผ่านอินเทอร์เน็ตยังทำให้ prompt และผลลัพธ์ทั้งหมดถูกส่งเป็นข้อความธรรมดา (cleartext) ให้ผูกพอร์ตฝั่งโฮสต์ไว้ที่ 127.0.0.1 ด้วย PublishPort=127.0.0.1:11434:11434 ตรวจสอบความถูกต้องด้วย ss -ltnp | grep 11434 และเข้าถึงผ่าน SSH tunnel หรือ reverse proxy ที่มีการป้องกันด้วยรหัสผ่านเท่านั้น

บทความนี้มีประโยชน์หรือไม่