Menjalankan Ollama di Podman Rootless pada VPS
Panduan menjalankan Ollama sebagai container Podman rootless di VPS, dengan user khusus, lingering, Quadlet setelah reboot, label SELinux, dan port tertutup.
Menjalankan Ollama di Podman rootless pada VPS
Untuk menjalankan Ollama di Podman rootless pada server, ada lima hal yang harus terpenuhi dan biasanya dapat dilewati dalam panduan desktop. Pengguna tidak berprivilege khusus memiliki container tersebut. Lingering diaktifkan untuk pengguna itu agar container tetap berjalan setelah Anda logout. File Quadlet menyerahkan pengelolaan container kepada systemd agar container berjalan kembali setelah reboot. Direktori model memiliki label SELinux pada distribusi yang menerapkan SELinux. API hanya listening pada loopback, dan Anda mengaksesnya melalui tunnel SSH (secure shell).
Ollama adalah server untuk large language models (LLM). Ollama menyimpan bobot model di disk, memuatnya ke memori, dan menjawab request HTTP pada port 11434. API lokalnya tidak memerlukan login atau API key, sehingga jaringan adalah satu-satunya kontrol akses yang tersedia di sini. Podman menjalankan container tanpa daemon dan tanpa root, sehingga apa pun yang keluar dari container pada awalnya hanya berjalan sebagai pengguna biasa tanpa privilege. Jika Anda ingin membaca perbandingan runtime terlebih dahulu, baca perbedaan Podman dan Docker pada VPS. Jika Anda ingin sepenuhnya melewati container, menginstal Ollama langsung pada VPS adalah jalur yang lebih singkat.
Fedora menyediakan Podman dan SELinux (security-enhanced Linux) secara default. Perintah di bawah mengasumsikan Podman 5 atau yang lebih baru. Unit Quadlet juga memerlukan cgroup v2, yang dicantumkan dalam dokumentasi Podman sebagai persyaratan Quadlet pada semua versi Podman. Periksa keduanya sebelum memulai: podman --version untuk yang pertama dan podman info | grep -i cgroup untuk yang kedua. Baris cgroupVersion harus berisi v2. Pada Ubuntu 24.04, paket podman dalam arsip memiliki versi 4.9.3, yang lebih lama daripada versi pada baris tersebut. Jadi, periksa versinya terlebih dahulu di sana.
Mengapa versi laptop memerlukan perubahan di server
Fedora Magazine menerbitkan panduan yang jelas tentang stack ini pada 5 Agustus 2026: Menjalankan Ollama Secara Lokal dengan Podman di Fedora Linux, oleh Yazan Monshed. Panduan itu cocok untuk satu jam pertama mempelajari alat-alat tersebut. Namun, panduan itu ditujukan untuk laptop, dan empat pilihannya berperilaku berbeda pada mesin dengan alamat IP publik.
- Container dijalankan dengan
podman run -dbiasa. Container yang dijalankan secara manual tidak akan berjalan kembali setelah reboot karena tidak ada konfigurasi yang memintanya untuk start. - Panduan tersebut menggunakan tag yang terus berubah, yaitu
ollama/ollama. Pada laptop, Anda akan menyadari perubahan perilakunya pada hari perubahan itu terjadi. Di server, tanda pertama biasanya berupa script yang tiba-tiba berhenti bekerja pada malam sebelumnya. - Publikasi dilakukan dengan
-p 11434:11434, yang mengikat semua interface. Di belakang router rumah, layanan tersebut tidak dapat dijangkau dari Internet. Di VPS, konfigurasi ini menjadi API inference publik tanpa password. - Container dijalankan sebagai user login Anda sendiri. Di server, account yang memiliki container seharusnya tidak memiliki resource lain, sehingga jika terjadi container breakout, penyerang masuk ke home directory yang kosong.
Tidak ada yang salah dengan pilihan tersebut untuk mesin yang menjadi sasaran panduan. Setiap pilihan hanya perlu ditinjau kembali ketika server dapat dijangkau dari mana saja dan tidak ada orang yang duduk di depannya.
Buat pengguna tanpa hak istimewa dan periksa subuid
Rootless Podman memetakan ID pengguna (UID) internal container ke blok ID yang belum digunakan pada host. Blok tersebut dideklarasikan dalam /etc/subuid dan /etc/subgid. Podman juga mendukung mode satu UID, tetapi konfigurasikan rentang subordinate untuk penyiapan ini.
sudo dnf install -y podman # or: sudo apt install -y podman
sudo useradd --create-home --shell /bin/bash --comment "Ollama container owner" ollama
sudo passwd --lock ollama
grep ollama /etc/subuid /etc/subgidgrep harus menampilkan dua baris, masing-masing dari satu file, dan setiap baris mencantumkan rentang yang terdiri atas 65536 ID:
/etc/subuid:ollama:100000:65536
/etc/subgid:ollama:100000:65536Nomor awal Anda akan berbeda, dan itu tidak masalah. Jika grep tidak menampilkan apa pun, useradd belum mengalokasikan rentang. Podman melaporkan pemetaan yang hilang dengan pesan seperti berikut:
Error: cannot find UID/GID for user ollama: no subuid ranges found for user "ollama" in /etc/subuidTetapkan rentang yang tidak digunakan oleh pengguna lain, lalu beri tahu Podman bahwa pemetaan lamanya sudah tidak berlaku:
sudo usermod --add-subuids 100000-165535 --add-subgids 100000-165535 ollama
sudo -iu ollama podman system migrateMengunci kata sandi mencegah login dengan kata sandi sebagai ollama; tindakan ini tidak memblokir metode autentikasi lain seperti kunci SSH. Anda dapat mengakses akun tersebut dari pengguna admin dengan sudo -iu ollama.
Aktifkan lingering agar service tetap berjalan setelah logout
Instance systemd milik pengguna biasanya dimulai saat login dan dihentikan setelah logout terakhir. /run/user/<uid> juga dihapus bersamanya. Service yang dikelola oleh instance tersebut berhenti saat instance itu berhenti. Lingering mempertahankan instance pengguna tetap berjalan tanpa sesi yang terpasang.
sudo loginctl enable-linger ollama
loginctl show-user ollama --property=LingerPerintah tersebut seharusnya menampilkan Linger=yes. Aktifkan lingering sebelum membuat unit agar user manager dan direktori runtime-nya tersedia tanpa sesi login.
Ada satu langkah lain yang sering terlewat. sudo -iu ollama menyediakan shell, tetapi bukan session bus. Karena itu, systemctl --user langsung gagal:
Failed to connect to bus: $DBUS_SESSION_BUS_ADDRESS and $XDG_RUNTIME_DIR not definedsystemd mencari user bus di $XDG_RUNTIME_DIR/bus, sedangkan sudo -i tidak menetapkan variabel tersebut. Tetapkan variabel itu secara manual di setiap shell admin tempat Anda mengelola service ini:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user statusLokasi blob model dan perencanaan kapasitas disk
Ollama menulis bobot model ke /root/.ollama/models di dalam container. Bind sebuah direktori dari home pengguna ke path tersebut agar file tersimpan di lokasi yang dapat Anda ukur: /home/ollama/ollama-data/models. Blob disimpan di models/blobs sebagai file berbasis alamat konten, sedangkan models/manifests menyimpan indeks kecil yang memberi nama pada blob tersebut. Jika menggunakan named volume, seperti dalam artikel Fedora Magazine, tree yang sama berada di bawah /home/ollama/.local/share/containers/storage/volumes/<volume>/_data. Dalam kedua kasus, ollama pull dan ollama run menulis bobot ke tree yang sama. Perbedaan antara kedua perintah tersebut hanya terletak pada apakah sesi chat dibuka setelah proses download selesai.
Tentukan kapasitas disk sebelum mengunduh apa pun. Ukuran download yang dipublikasikan menunjukkan kapasitas minimum.
Data di balik grafik ini
[
{
"label": "gemma3:4b",
"download_gb": 3.4
},
{
"label": "mistral:7b",
"download_gb": 4.4
},
{
"label": "qwen3:8b",
"download_gb": 5.2
},
{
"label": "gemma3:12b",
"download_gb": 8.2
},
{
"label": "qwen3:14b",
"download_gb": 9.3
},
{
"label": "gemma3:27b",
"download_gb": 17
},
{
"label": "qwen3:30b",
"download_gb": 19
}
]Semua 7 baris merupakan angka yang dipublikasikan di ollama.com/library, bukan ukuran yang diukur langsung pada disk. Tag terkecil di sini, gemma3:4b, memerlukan download sebesar 3.4 GB. Tag terbesar, qwen3:30b, memerlukan download sebesar 19 GB. Image container sendiri menggunakan ruang tambahan dalam storage milik Podman, jadi periksa kedua angka tersebut secara bersamaan dengan podman system df dan df -h /home. Untuk performa yang baik, siapkan RAM kira-kira sebesar ukuran file model, ditambah ruang untuk context window. RAM fisik bukan batas mutlak: memory mapping berbasis disk atau swap yang memadai dapat memungkinkan model berukuran 19 GB berjalan pada VPS dengan RAM 16 GB, tetapi performanya menurun.
Sematkan tag image dan gunakan nama registry lengkap
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
mkdir -p ~/ollama-data ~/.config/containers/systemd
podman pull docker.io/ollama/ollama:0.32.9Gunakan tag versi yang sudah dirilis, 0.32.9 per Agustus 2026, bukan latest. Rilis yang lebih baru telah tersedia: pada 30 October 2026, tag versi biasa terbaru di Docker Hub adalah 0.40.13. Periksa halaman tag dan gunakan rilis saat ini pada perintah pull serta baris Image=. Tag versi yang disematkan mencegah rilis yang tidak Anda pilih dipasang di server. Dengan demikian, perubahan perilaku biasanya berasal dari perubahan yang Anda buat. Namun, tag tetap merupakan pointer, bukan fingerprint. Registry dapat mengarahkannya ke image lain jika seseorang kembali melakukan push dengan nama yang sama. Hanya digest yang bersifat tetap. Podman menerima kedua bentuk tersebut pada Image=. Jika restart pada pukul 04:00 harus menjalankan binary yang persis sama dengan yang telah Anda uji, jalankan podman images --digests docker.io/ollama/ollama setelah pull, lalu tulis Image=docker.io/ollama/ollama@sha256:<digest> sebagai gantinya. Docker Hub juga menerbitkan tag -rc dan -rocm untuk versi yang sama. Pilih tag biasa, kecuali Anda memiliki GPU AMD.
Tuliskan juga host registry. Di Fedora, short name dalam unit systemd tidak memiliki terminal untuk menampilkan prompt. Akibatnya, unit gagal dengan:
Error: short-name "ollama/ollama" did not resolve to an alias and no unqualified-search registries are definedMelakukan pull secara manual terlebih dahulu bersifat opsional, tetapi berguna karena download berukuran beberapa gigabyte dilakukan di luar batas waktu start unit.
Unit Quadlet yang tetap berjalan setelah reboot
Quadlet adalah generator systemd milik Podman. Anda menulis file .container, lalu systemd mengubahnya menjadi service saat boot, sehingga podman generate systemd tidak lagi diperlukan. Simpan file ini sebagai /home/ollama/.config/containers/systemd/ollama.container, dengan kepemilikan oleh user ollama.
[Unit]
Description=Ollama API (rootless)
After=network-online.target
Wants=network-online.target
[Container]
Image=docker.io/ollama/ollama:0.32.9
ContainerName=ollama
PublishPort=127.0.0.1:11434:11434
Volume=/home/ollama/ollama-data:/root/.ollama:Z
Environment=OLLAMA_KEEP_ALIVE=30m
Environment=OLLAMA_MAX_LOADED_MODELS=1
[Service]
Restart=always
TimeoutStartSec=900
[Install]
WantedBy=default.targetNama file menentukan nama service, sehingga ollama.container menjadi ollama.service.
systemctl --user daemon-reload
systemctl --user start ollama.service
systemctl --user status ollama.servicestatus harus menampilkan active (running). Jangan jalankan systemctl --user enable ollama.service. Unit tersebut tidak ada sebagai file di disk, sehingga systemd menolaknya:
Failed to enable unit: Unit file /run/user/1001/systemd/generator/ollama.service is transient or generated.Bagian [Install] sudah menjalankan tugas tersebut. Quadlet membuat link untuk menjalankan service saat boot selama daemon-reload. Karena itu, perintah tersebut wajib dijalankan. TimeoutStartSec=900 menangani proses start pertama yang masih harus mengunduh image. Nilai default 90 detik tidak cukup untuk mengunduh file berukuran beberapa gigabyte, sehingga systemd akan menghentikan proses start dan menandainya sebagai gagal. OLLAMA_KEEP_ALIVE=30m mempertahankan model di memori di antara permintaan, bukan membongkarnya setelah lima menit. Trade-off-nya dijelaskan dalam mempertahankan model Ollama di memori. Jika ada istilah systemd di sini yang belum Anda kenal, cara kerja service dan timer systemd pada VPS menjelaskan unit tersebut.
Mengapa direktori model menghasilkan penolakan izin di SELinux
Di Fedora, RHEL, Rocky, dan AlmaLinux, SELinux secara default berada dalam mode enforcing. Proses container berjalan dalam domain container_t, sedangkan direktori di home pengguna memiliki label user_home_t. Kebijakan SELinux tidak mengizinkan keduanya saling mengakses. Akibatnya, Ollama tidak dapat membuat struktur direktori model dan container berhenti. Pada sistem ini, getenforce menampilkan Enforcing, dan penolakan tersebut dicatat:
sudo ausearch -m avc -ts recentAnda akan melihat baris yang mencantumkan domain dan label target:
avc: denied { write } for pid=1842 comm="ollama" name="models" dev="vda1" ino=131077 scontext=system_u:system_r:container_t:s0:c214,c827 tcontext=unconfined_u:object_r:user_home_t:s0 tclass=dir permlisted=0:Z di akhir baris Volume= adalah perbaikannya. Perintah tersebut memberi label ulang pada direktori host menjadi container_file_t dan menetapkan kategori MCS (multi-category security) privat yang hanya digunakan oleh container ini. Huruf kecil :z menggunakan label bersama. Gunakan opsi tersebut jika dua container perlu membaca direktori yang sama.
Perhatikan :Z karena perintah ini bersifat destruktif dan tidak menampilkan banyak informasi. Pelabelan ulang dilakukan secara rekursif. Jika diarahkan ke /home/ollama, setiap file di dalam direktori home tersebut akan diberi label ulang. Hal ini dapat menyebabkan akses ke kunci SSH pengguna tersebut gagal. Selalu berikan :Z subdirektori khusus yang tidak berisi file lain. Named volume tidak memerlukannya karena Podman memberi label yang benar saat membuat volume tersebut. Untuk penjelasan yang lebih luas, dasar-dasar SELinux untuk server menjelaskan context dan boolean. Ubuntu dan Debian menggunakan AppArmor. Di sana, :Z tidak melakukan apa pun, dan membiarkannya di dalam unit tidak menimbulkan masalah.
Menutup port 11434 dan mengakses API melalui SSH
PublishPort=127.0.0.1:11434:11434 mengikat sisi host ke loopback. Konfirmasikan:
ss -ltnp | grep 11434
curl http://127.0.0.1:11434Output ss harus menampilkan 127.0.0.1:11434, dan curl harus memberikan respons Ollama is running. Jika ss menampilkan 0.0.0.0:11434 atau *:11434, port tersebut mendengarkan pada semua antarmuka. Apakah Internet kemudian dapat menjangkaunya bergantung pada aturan firewall Anda dan jaringan di depan server. Jadi, listener wildcard tidak otomatis terekspos. Namun, jangan mengandalkan hal itu: dokumentasi Ubuntu mencatat bahwa ufw pada awalnya dinonaktifkan secara default, dan aturan firewall adalah satu hal lagi yang harus tetap benar. Perbaiki alamat bind agar port sejak awal tidak pernah mendengarkan secara publik.
Pastikan sisi yang Anda bind sudah benar. Alamat dalam PublishPort adalah alamat host. Di dalam container, Ollama harus tetap mendengarkan pada semua antarmuka, sesuai default image. Menetapkan Environment=OLLAMA_HOST=127.0.0.1 akan mengikat Ollama ke loopback milik container sendiri. Podman kemudian meneruskan trafik yang dipublikasikan ke alamat jaringan container, sehingga setiap permintaan ditolak, bahkan dari host.
Port 11434 yang terbuka menimbulkan dua risiko. Ollama tidak memiliki autentikasi, sehingga siapa pun yang dapat menjangkau port tersebut dapat mencantumkan model Anda melalui /api/tags, menjalankan inferensi menggunakan CPU dan kuota bandwidth Anda melalui /api/generate, mengunduh model baru ke disk, serta menghapus model yang tersedia. Kedua, HTTP biasa ke port jarak jauh mengirim prompt dan hasil secara plaintext, sehingga setiap mesin di sepanjang jalur dapat membacanya. Kedua masalah tersebut hilang jika port tidak pernah keluar dari server.
Dari workstation Anda, teruskan port melalui SSH:
ssh -N -L 11434:127.0.0.1:11434 you@vps.example.comSekarang http://127.0.0.1:11434 pada laptop Anda adalah Ollama milik server, di dalam enkripsi sesi SSH. Jika laptop Anda sudah menjalankan Ollama, bind lokal akan gagal dengan bind [127.0.0.1]:11434: Address already in use. Gunakan -L 11435:127.0.0.1:11434 dan arahkan client Anda ke 11435.
Jika client browser membutuhkannya, gunakan reverse proxy dengan kata sandi di depannya. Site block Caddy cukup singkat, dan caddy hash-password mencetak hash bcrypt yang diperlukan:
ollama.example.com {
basic_auth {
you $2a$14$replace_with_the_generated_hash
}
reverse_proxy 127.0.0.1:11434
}Caddy memperoleh sertifikat melalui TLS (transport layer security) secara otomatis, sehingga trafik terenkripsi. Uji client Anda terlebih dahulu: client yang tidak dapat mengirim header Authorization akan gagal menggunakan basic auth dengan 401 Unauthorized kosong. Tunnel SSH tidak memiliki masalah tersebut. Karena itu, tunnel SSH menjadi rekomendasi default di sini.
Tarik sebuah model dan periksa seluruh jalur
podman exec -it ollama ollama pull gemma3:4b
curl -s http://127.0.0.1:11434/api/tags
curl -s http://127.0.0.1:11434/api/generate -d '{"model":"gemma3:4b","prompt":"Reply with the single word: ready","stream":false}'
du -sh ~/ollama-data/models/api/tags menampilkan JSON yang mencantumkan gemma3:4b. /api/generate menampilkan objek JSON dengan field response setelah jeda saat bobot dimuat dari disk. du seharusnya melaporkan angka yang mendekati ukuran unduhan yang dipublikasikan. Selanjutnya, buktikan bagian yang menjadi fokus seluruh panduan ini:
sudo reboot
# reconnect, then:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user is-active ollama.serviceactive berarti lingering, bagian [Install] dan daemon-reload telah menjalankan tugasnya. Jika hasilnya inactive, periksa ketiganya terlebih dahulu, lalu periksa journalctl --user -u ollama.service untuk mencari error saat startup.
Mode kegagalan dan string yang akan Anda lihat
Container hilang setelah reboot. Periksa loginctl show-user ollama --property=Linger terlebih dahulu, karena tanpa Linger=yes instance systemd milik pengguna tidak pernah dimulai saat boot. Jika lingering aktif, periksa bagian [Install] dalam file .container, jalankan systemctl --user daemon-reload, lalu periksa journalctl --user -u ollama.service untuk menemukan error saat startup.
Error: statfs /home/ollama/ollama-data: no such file or directory. Sumber bind mount harus sudah ada sebelum container dimulai. Podman tidak membuat direktori host secara otomatis. Jalankan mkdir -p ~/ollama-data sebagai pengguna ollama.
Startup gagal setelah 90 seconds. journalctl --user -u ollama.service menampilkan Start operation timed out. Terminating. karena proses pull image masih berjalan. Lakukan pull secara manual, atau pertahankan TimeoutStartSec=900.
Container dimulai lalu berhenti. podman logs ollama dan sudo ausearch -m avc -ts recent secara bersama-sama menunjukkan apakah masalahnya terkait label SELinux. AVC yang menyebut container_t dan user_home_t berarti :Z tidak ada.
Permintaan dari host ditolak. curl: (7) Failed to connect to 127.0.0.1 port 11434: Connection refused dengan service active biasanya berarti OLLAMA_HOST diatur ke alamat loopback di dalam container. Hapus baris tersebut.
Proses generation sangat lambat, atau container dihentikan. Tanpa GPU, inference berjalan pada CPU dan model berukuran besar memang lambat. Pemetaan memori berbasis disk atau swap membuat inference lebih lambat ketika model tidak dapat dimuat seluruhnya ke RAM fisik. Container yang berhenti di tengah request dan menampilkan signal: killed dalam log perlu diperiksa penyebabnya. Jika log kernel mengonfirmasi penghentian karena kehabisan memori, pilih tag yang lebih kecil dari chart di atas.
Memperbarui image yang dipin
Pinning berarti pembaruan dilakukan secara sengaja, bukan terjadi tanpa kendali Anda. Edit Image= di ollama.container, lalu lakukan reload dan restart:
systemctl --user daemon-reload
systemctl --user restart ollama.service
podman exec ollama ollama --versionModel berada di bind mount, sehingga tetap utuh setelah image diganti. AutoUpdate=registry di bagian [Container] mengonfigurasi pemeriksaan digest terhadap registry; podman auto-update, yang dijalankan secara manual atau oleh systemd timer-nya, mengambil image yang berubah dan me-restart unit. Cara ini sesuai untuk tag yang dapat berubah. Jika digunakan bersama tag versi, proses tersebut hanya berjalan ketika publisher mendorong tag yang sama lagi. Perubahan yang tidak direncanakan seperti inilah yang hendak dicegah oleh pinning, jadi biarkan fitur tersebut nonaktif di sini. Cadangkan /home/ollama/ollama-data/models/manifests dan file .container, tetapi lewati blob: ukurannya besar, dan ollama pull akan mengambilnya kembali pada mesin baru.
FAQ
Mengapa container Podman rootless saya berhenti saat saya logout?
Instance systemd milik pengguna dan direktori /run/user/<uid> biasanya dibongkar setelah sesi terakhir pengguna tersebut berakhir. Akibatnya, service yang dikelola oleh instance tersebut berhenti. Jalankan sudo loginctl enable-linger ollama dan pastikan loginctl show-user ollama --property=Linger menampilkan Linger=yes. Aktifkan lingering sebelum membuat unit Quadlet agar user manager dan direktori runtime-nya tersedia tanpa sesi login.
Apakah saya memerlukan label SELinux pada direktori model Ollama?
Di Fedora, RHEL, Rocky, dan AlmaLinux, ya, jika Anda melakukan bind mount pada direktori host. Container berjalan dalam domain container_t, sedangkan direktori di folder home memiliki label user_home_t. Akibatnya, operasi tulis ditolak dan Ollama berhenti. Tambahkan :Z ke baris Volume= dan gunakan subdirektori khusus untuknya, karena pelabelan ulang dilakukan secara rekursif. Menetapkan :Z ke seluruh direktori home akan mengganggu akses kunci SSH untuk pengguna tersebut. Named volume diberi label yang benar oleh Podman dan tidak memerlukan konfigurasi tambahan.
Berapa banyak ruang disk yang diperlukan model Ollama?
Mulailah dari ukuran unduhan yang dipublikasikan di ollama.com/library. Ukurannya berkisar dari 3.4 GB untuk gemma3:4b hingga 19 GB untuk qwen3:30b. Tambahkan ukuran image Podman, lalu sisakan ruang cadangan karena model kedua tidak menggantikan model pertama di disk. Periksa df -h /home sebelum melakukan pull dan du -sh ~/ollama-data/models sesudahnya. Untuk performa yang baik, siapkan RAM kira-kira sebesar ukuran file model, ditambah ruang untuk context window. Memory mapping berbasis disk atau swap yang memadai dapat memungkinkan model yang lebih besar berjalan dengan RAM fisik yang lebih sedikit, tetapi performanya menurun.
Apakah aman mengekspos port 11434 pada VPS?
Tidak. Ollama tidak menyediakan autentikasi apa pun secara bawaan. Siapa pun yang dapat menjangkau port tersebut dapat mencantumkan model Anda, menghapusnya, melakukan pull model baru ke disk, serta menjalankan inferensi menggunakan CPU dan kuota bandwidth Anda. HTTP biasa melalui Internet juga mengirim setiap prompt dan hasil inferensi dalam teks biasa. Bind sisi host ke 127.0.0.1 menggunakan PublishPort=127.0.0.1:11434:11434, konfirmasikan dengan ss -ltnp | grep 11434, lalu akses melalui tunnel SSH atau reverse proxy yang mewajibkan kata sandi.