SSD Nodes Learn Hosting plans →
Rehberler Matt ConnorYazan Matt Connor

VPS üzerinde rootless Podman ile Ollama çalıştırma

VPS üzerinde rootless Podman ile Ollama kurulumu için gereken adımları öğrenin. Lingering ayarı, Quadlet kullanımı ve SELinux etiketleme ile güvenli bir yapılandırma oluşturun.

VPS üzerinde rootless Podman ile Ollama çalıştırma

Ollama'yı bir sunucuda rootless Podman ile çalıştırmak için masaüstü kurulumunda atlanabilecek beş koşulun sağlanması gerekir. Container'ın sahibi özel bir yetkisiz kullanıcı olmalıdır. Bu kullanıcı için lingering etkinleştirilmelidir; böylece oturum kapatıldıktan sonra container çalışmaya devam eder. Bir Quadlet dosyası container'ı systemd'ye devretmelidir; bu sayede sistem yeniden başlatıldıktan sonra container yeniden çalışır. SELinux kullanan dağıtımlarda model dizinine SELinux etiketi atanmalıdır. API yalnızca loopback üzerinde dinlemelidir ve API'ye bir SSH (secure shell) tüneli üzerinden erişilmelidir.

Ollama, büyük dil modelleri (LLM) için bir sunucudur. Model ağırlıklarını diskte saklar, belleğe yükler ve 11434 numaralı port üzerinden HTTP isteklerini yanıtlar. Yerel API kimlik doğrulaması veya API key gerektirmez; bu nedenle burada sahip olduğunuz tek erişim denetimi ağ katmanıdır. Podman container'ları daemon olmadan ve root kullanmadan çalıştırır; bu nedenle container dışına çıkan bir süreç başlangıçta sıradan bir yetkisiz kullanıcı olarak çalışır. Önce çalışma zamanı karşılaştırmasını görmek isterseniz Podman ile Docker'ın VPS üzerindeki farklarını okuyun. Container kullanmak istemiyorsanız Ollama'yı doğrudan bir VPS'ye kurmak daha kısa bir yoldur.

Fedora, Podman ve SELinux'u varsayılan olarak birlikte sunar. Aşağıdaki komutlar Podman 5 veya daha yeni bir sürümü varsayar. Quadlet birimi ayrıca cgroup v2 gerektirir; Podman belgelerinde bu gereksinim Podman sürümünden bağımsız olarak belirtilir. Başlamadan önce ikisini de denetleyin: ilki için podman --version, ikincisi için podman info | grep -i cgroup kullanılmalıdır; burada cgroupVersion satırı v2 değerini vermelidir. Ubuntu 24.04 üzerinde arşivin podman paketi 4.9.3 sürümündedir ve bu satırdaki sürümden daha eskidir. Bu nedenle önce oradaki sürümü denetleyin.

Sunucu üzerinde dizüstü bilgisayar sürümünün neden değişiklik gerektirdiği

Fedora Magazine, 5 Ağustos 2026 tarihinde bu yığın hakkında net bir rehber yayımladı: Yazan Monshed tarafından hazırlanan Fedora Linux üzerinde Podman ile Yerel Ollama Çalıştırma. Bu rehber, araçlarla geçirilecek ilk saat için iyi bir başlangıçtır. Ancak rehber bir dizüstü bilgisayarı hedeflemektedir ve içerdiği dört tercih, genel IP adresine sahip bir makinede farklı sonuçlar doğurur.

  • Konteyneri düz bir podman run -d komutuyla başlatır. Elle başlatılan bir konteyner, yeniden başlatma sonrasında kendiliğinden ayağa kalkmaz; çünkü başlatılması için herhangi bir talimat verilmemiştir.
  • Değişken bir etiket olan ollama/ollama kullanır. Dizüstü bilgisayarda davranışın değiştiğini anında fark edersiniz. Sunucuda ise bunun ilk belirtisi, gece yarısı çalışmayı durduran bir betik olacaktır.
  • Tüm arayüzleri bağlayan -p 11434:11434 ile yayın yapar. Ev tipi bir yönlendiricinin arkasında bu, internetten erişilemez durumdadır. Bir VPS üzerinde ise bu, üzerinde parola bulunmayan herkese açık bir çıkarım (inference) API'si anlamına gelir.
  • Kendi kullanıcı oturumunuzla çalışır. Bir sunucuda, konteynerin sahibi olan hesap başka hiçbir şeye sahip olmamalıdır; böylece bir güvenlik ihlali durumunda saldırgan boş bir ev dizininde kalır.

Bunların hiçbiri, rehberin yazıldığı makine için yanlış değildir. Her bir madde, makine her yerden erişilebilir olduğunda ve başında kimse oturmadığında yeniden gözden geçirmeniz gereken bir karardır.

Yetkisiz kullanıcı oluşturma ve subuid değerini denetleme

Rootless Podman, container içindeki kullanıcı kimliklerini (UID) host üzerindeki kullanılmayan kimliklerden oluşan bir aralığa eşler. Bu aralık /etc/subuid ve /etc/subgid içinde tanımlanır. Podman tek UID modunu da destekler, ancak bu kurulum için alt kullanıcı aralıkları yapılandırılmalıdır.

sudo dnf install -y podman        # or: sudo apt install -y podman
sudo useradd --create-home --shell /bin/bash --comment "Ollama container owner" ollama
sudo passwd --lock ollama
grep ollama /etc/subuid /etc/subgid

grep çıktısında her dosyadan bir satır olmak üzere iki satır görüntülenmelidir. Her satırda 65536 kimliklik bir aralık bulunur:

/etc/subuid:ollama:100000:65536
/etc/subgid:ollama:100000:65536

Başlangıç numarası farklı olacaktır; bu normaldir. grep hiçbir çıktı üretmiyorsa useradd bir aralık atamamış demektir. Podman, eksik eşlemeyi aşağıdakine benzer bir mesajla bildirir:

Error: cannot find UID/GID for user ollama: no subuid ranges found for user "ollama" in /etc/subuid

Başka hiçbir kullanıcının sahip olmadığı bir aralık atayın. Ardından Podman'a eski eşlemesinin geçersiz olduğunu bildirin:

sudo usermod --add-subuids 100000-165535 --add-subgids 100000-165535 ollama
sudo -iu ollama podman system migrate

Parolayı kilitlemek, ollama olarak parola ile oturum açılmasını engeller. SSH anahtarları gibi diğer kimlik doğrulama yöntemlerini engellemez. Yönetici kullanıcınızdan sudo -iu ollama ile bu hesaba erişebilirsiniz.

Oturum kapatıldıktan sonra servisin çalışmaya devam etmesi için lingering özelliğini etkinleştirme

Bir kullanıcının systemd örneği normalde oturum açıldığında başlar ve son oturum kapatıldıktan sonra durur; /run/user/<uid> de onunla birlikte kaldırılır. Bu örnek tarafından yönetilen servisler, örnek durduğunda durur. Lingering, kullanıcı örneğinin herhangi bir oturumla ilişkilendirilmeden çalışmaya devam etmesini sağlar.

sudo loginctl enable-linger ollama
loginctl show-user ollama --property=Linger

Komutun Linger=yes çıktısını vermesi gerekir. Kullanıcı yöneticisinin ve çalışma zamanı dizininin oturum açılmadan kullanılabilir olması için unit dosyasını oluşturmadan önce bunu etkinleştirin.

Beklenmeyen bir adım daha vardır. sudo -iu ollama bir shell sağlar, ancak bir session bus sağlamaz; bu nedenle systemctl --user hemen başarısız olur:

Failed to connect to bus: $DBUS_SESSION_BUS_ADDRESS and $XDG_RUNTIME_DIR not defined

systemd, kullanıcı bus'ını $XDG_RUNTIME_DIR/bus konumunda arar ve sudo -i bu değişkeni ayarlamaz. Bu servisi yönettiğiniz her admin shell'inde değişkeni elle ayarlayın:

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user status

Model blob'larının nereye yazıldığı ve ne kadar disk alanı planlanması gerektiği

Ollama, ağırlıkları container içinde /root/.ollama/models konumuna yazar. Kullanıcının home dizinindeki bir dizini bu yola bind edin; böylece dosyalar ölçüm yapabileceğiniz bir konuma, yani /home/ollama/ollama-data/models altına yazılır. Blob'lar içerik adresli dosyalar olarak models/blobs içine, bunları adlandıran küçük indeks ise models/manifests içine yerleştirilir. Fedora Magazine yazısında olduğu gibi named volume kullanılırsa aynı dizin ağacı /home/ollama/.local/share/containers/storage/volumes/<volume>/_data altında bulunur. Her iki durumda da ollama pull ve ollama run ağırlıkları aynı dizin ağacına yazar. iki komut arasındaki fark yalnızca indirme tamamlandıktan sonra bir chat oturumunun açılıp açılmamasıdır.

Herhangi bir dosya indirmeden önce disk alanını belirleyin. Yayımlanan indirme boyutları alt sınırı gösterir.

GrafikPublished download size per Ollama model tag, ollama.com/library, checked 27 October 2026
Bu grafiğin arkasındaki veriler
[
  {
    "label": "gemma3:4b",
    "download_gb": 3.4
  },
  {
    "label": "mistral:7b",
    "download_gb": 4.4
  },
  {
    "label": "qwen3:8b",
    "download_gb": 5.2
  },
  {
    "label": "gemma3:12b",
    "download_gb": 8.2
  },
  {
    "label": "qwen3:14b",
    "download_gb": 9.3
  },
  {
    "label": "gemma3:27b",
    "download_gb": 17
  },
  {
    "label": "qwen3:30b",
    "download_gb": 19
  }
]

7 satırın tamamındaki değerler ollama.com/library üzerinde yayımlanan rakamlardır; diskte ölçülen boyutlar değildir. Buradaki en küçük tag olan gemma3:4b, 3.4 GB indirir. En büyük tag olan qwen3:30b ise 19 GB indirir. Container image da bunun üzerine Podman'ın kendi storage alanında yer kaplar. Bu nedenle her iki değeri podman system df ve df -h /home ile birlikte kontrol edin. İyi performans için model dosyasının boyutu kadar RAM ve context window için ek alan planlayın. Fiziksel RAM kesin bir sınır değildir: disk destekli memory mapping veya yeterli swap, performans düşse de 16 GB RAM'e sahip bir VPS üzerinde 19 GB boyutunda bir modelin çalıştırılmasını sağlayabilir.

Image etiketini sabitleyin ve tam registry adını kullanın

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
mkdir -p ~/ollama-data ~/.config/containers/systemd
podman pull docker.io/ollama/ollama:0.32.9

Yayınlanmış bir sürüm etiketi kullanın; Ağustos 2026 itibarıyla bu etiket 0.32.9 olmalıdır, latest değil. O zamandan beri daha yeni sürümler yayınlandı: 30 Ekim 2026 tarihinde Docker Hub üzerindeki en yeni sade sürüm etiketi 0.40.13 olduğundan, tags sayfasını kontrol edin ve hem pull komutunda hem de Image= satırında güncel sürümü kullanın. Sabitlenmiş bir sürüm etiketi, seçmediğiniz sürümlerin sunucuya gelmesini engeller. Böylece davranış değişikliği normalde sizin yaptığınız bir değişiklikten kaynaklanır. Ancak etiket yine de bir işaretçidir, fingerprint değildir: biri aynı adla yeniden push yaptığında registry bu etiketi farklı bir image'a yönlendirir. Yalnızca digest sabittir. Podman, Image= içinde her iki biçimi de kabul eder. Saat 04:00'teki yeniden başlatmanın tam olarak test ettiğiniz binary'yi çalıştırması gerekiyorsa, pull işleminden sonra podman images --digests docker.io/ollama/ollama komutunu çalıştırın ve bunun yerine Image=docker.io/ollama/ollama@sha256:<digest> yazın. Docker Hub aynı sürümler için -rc ve -rocm etiketlerini de yayınlar. AMD GPU kullanmıyorsanız sade olanı seçin.

Registry host adını da yazın. Fedora'da bir systemd unit içindeki kısa ad, prompt gösterebileceği bir terminal olmadığından şu hatayla başarısız olur:

Error: short-name "ollama/ollama" did not resolve to an alias and no unqualified-search registries are defined

Önce elle pull etmek isteğe bağlıdır, ancak yararlıdır. Böylece birkaç gigabaytlık indirme işlemi unit'in başlatma zaman aşımının dışında gerçekleştirilir.

Yeniden başlatma sonrasında varlığını koruyan Quadlet birimi

Quadlet, Podman'in systemd oluşturucusudur. Bir .container dosyası yazarsınız, systemd bunu açılışta bir servise dönüştürür ve podman generate systemd artık gerekli olmaz. Bunu ollama kullanıcısına ait olacak şekilde /home/ollama/.config/containers/systemd/ollama.container olarak kaydedin.

[Unit]
Description=Ollama API (rootless)
After=network-online.target
Wants=network-online.target

[Container]
Image=docker.io/ollama/ollama:0.32.9
ContainerName=ollama
PublishPort=127.0.0.1:11434:11434
Volume=/home/ollama/ollama-data:/root/.ollama:Z
Environment=OLLAMA_KEEP_ALIVE=30m
Environment=OLLAMA_MAX_LOADED_MODELS=1

[Service]
Restart=always
TimeoutStartSec=900

[Install]
WantedBy=default.target

Dosya adı servis adını belirler, bu nedenle ollama.container, ollama.service haline gelir.

systemctl --user daemon-reload
systemctl --user start ollama.service
systemctl --user status ollama.service

status, active (running) sonucunu göstermelidir. systemctl --user enable ollama.service komutunu çalıştırmayın. Birim disk üzerinde bir dosya olarak mevcut olmadığından systemd bunu reddeder:

Failed to enable unit: Unit file /run/user/1001/systemd/generator/ollama.service is transient or generated.

[Install] bölümü bu işi zaten yapmaktadır. Quadlet, açılışta başlatma bağlantısını daemon-reload sırasında kendisi oluşturur; bu nedenle bu komut isteğe bağlı değildir. TimeoutStartSec=900, imajın indirilmesi gereken ilk başlatmayı kapsar; varsayılan 90 saniyelik süre, gigabaytlarca boyuttaki bir indirme için yeterli değildir ve systemd başlatma işlemini başarısız olarak sonlandırır. OLLAMA_KEEP_ALIVE=30m, bir modeli beş dakika sonra bellekten boşaltmak yerine istekler arasında bellekte tutar; bunun getirdiği avantaj ve dezavantajlar Ollama modelini bellekte tutma konusunda açıklanmıştır. Buradaki systemd terminolojisi yeni geliyorsa, systemd servisleri ve zamanlayıcılarının VPS üzerinde nasıl çalıştığı konusu birimlerin kendisini kapsamlı şekilde ele almaktadır.

Neden model dizini SELinux altında permission denied hatası veriyor

Fedora, RHEL, Rocky ve AlmaLinux üzerinde SELinux varsayılan olarak zorunlu (enforcing) moddadır. Bir container süreci container_t etki alanında çalışır ve kullanıcının ev dizinindeki bir dizin user_home_t olarak etiketlenmiştir. Politika, birinin diğerine erişmesine izin vermediğinden, Ollama kendi model ağacını oluşturamaz ve container sonlanır. Bu sistemlerde getenforce komutu Enforcing çıktısını verir ve erişim engeli şu şekilde kaydedilir:

sudo ausearch -m avc -ts recent

Etki alanını ve hedef etiketi belirten bir satır göreceksiniz:

avc:  denied  { write } for  pid=1842 comm="ollama" name="models" dev="vda1" ino=131077 scontext=system_u:system_r:container_t:s0:c214,c827 tcontext=unconfined_u:object_r:user_home_t:s0 tclass=dir permlisted=0

Volume= satırının sonundaki :Z ifadesi çözüm yoludur. Bu, ana makine dizinini container_file_t olarak yeniden etiketler ve yalnızca bu container'ın taşıdığı özel bir MCS (çoklu kategori güvenliği) kategorisi ile damgalar. Küçük harfli :z ise bunun yerine paylaşılan bir etiket kullanır; iki container aynı dizini okuyacaksa tercih etmeniz gereken yöntem budur.

:Z hakkında bir uyarı: bu işlem yıkıcıdır ve sessizce çalışır. Yeniden etiketleme işlemi özyinelemelidir (recursive). Eğer bunu /home/ollama dizinine yönlendirirseniz, o ev dizinindeki her dosya yeniden etiketlenir ve bu durum kullanıcının SSH anahtarı erişimini bozar. :Z komutuna her zaman başka hiçbir şey içermeyen özel bir alt dizin verin. Adlandırılmış birimlerin (named volumes) buna ihtiyacı yoktur, çünkü Podman bunları oluştururken doğru şekilde etiketler. Daha geniş bir bakış açısına ihtiyaç duyarsanız, Sunucular için SELinux temelleri belgesi bağlamları ve boolean değerlerini açıklar. Ubuntu ve Debian üzerinde bunun yerine AppArmor kullanılır; :Z orada hiçbir işlem yapmaz ve unit dosyası içinde bırakılması bir sorun teşkil etmez.

11434 numaralı portu kapatın ve API’ye SSH üzerinden erişin

PublishPort=127.0.0.1:11434:11434, ana makine tarafını loopback arayüzüne bağlar. Bunu doğrulayın:

ss -ltnp | grep 11434
curl http://127.0.0.1:11434

ss çıktısında 127.0.0.1:11434, curl ise Ollama is running yanıtını vermelidir. ss, 0.0.0.0:11434 veya *:11434 gösteriyorsa port tüm arayüzlerde dinleniyordur. İnternetin bu porta erişip erişememesi güvenlik duvarı kurallarınıza ve sunucunun önündeki ağa bağlıdır; bu nedenle joker karakter kullanan bir dinleyici otomatik olarak dışarıya açık değildir. Ancak buna güvenilmemelidir: Ubuntu belgelerinde ufw seçeneğinin başlangıçta varsayılan olarak devre dışı olduğu belirtilir. Ayrıca güvenlik duvarı kuralının doğru kalması gerekir. Bağlama adresini düzelterek portun baştan itibaren genel ağda dinlenmesini engelleyin.

Bağlamayı hangi tarafta yaptığınızı doğru belirleyin. PublishPort içindeki adres, ana makinenin adresidir. Container içinde Ollama tüm arayüzlerde dinlemeye devam etmelidir; bu, image için varsayılan ayardır. Environment=OLLAMA_HOST=127.0.0.1 ayarlanırsa Ollama container'ın kendi loopback arayüzüne bağlanır. Podman ise yayımlanan trafiği container'ın ağ adresine yönlendirir. Bu nedenle ana makineden yapılan istekler dahil tüm istekler reddedilir.

11434 numaralı portun açık olması iki açıdan risk oluşturur. Ollama kimlik doğrulaması kullanmadığından, porta erişebilen herkes /api/tags üzerinden modellerinizi listeleyebilir. Ayrıca /api/generate üzerinden CPU'nuzda çıkarım çalıştırabilir, bant genişliği kotanızı tüketebilir, diskinize yeni modeller indirebilir ve mevcut modelleri silebilir. İkinci olarak, uzak bir porta gönderilen düz HTTP istekleri istemleri ve yanıtları açık metin olarak iletir. Yol üzerindeki her makine bunları okuyabilir. Port makinenin dışına hiç çıkmazsa bu iki sorun da ortadan kalkar.

İş istasyonunuzdan portu SSH üzerinden yönlendirin:

ssh -N -L 11434:127.0.0.1:11434 you@vps.example.com

Artık dizüstü bilgisayarınızdaki http://127.0.0.1:11434, SSH oturumunun şifrelemesi içindeki sunucunun Ollama servisine karşılık gelir. Dizüstü bilgisayarınızda Ollama zaten çalışıyorsa yerel bağlama bind [127.0.0.1]:11434: Address already in use ile başarısız olur. -L 11435:127.0.0.1:11434 kullanın ve istemcinizi 11435 numaralı porta yönlendirin.

Bir tarayıcı istemcisinin erişmesi gerektiğinde bunun yerine önüne parola korumalı bir reverse proxy koyun. Bir Caddy site bloğu kısadır. caddy hash-password, Caddy'nin istediği bcrypt hash değerini yazdırır:

ollama.example.com {
  basic_auth {
    you $2a$14$replace_with_the_generated_hash
  }
  reverse_proxy 127.0.0.1:11434
}

Caddy, TLS (transport layer security) sertifikasını kendi başına alır; bu nedenle trafik şifrelenir. Önce istemcinizi test edin. Authorization başlığını gönderemeyen istemciler, temel kimlik doğrulamada yalnızca 401 Unauthorized ile başarısız olur. SSH tünelinde bu sorun bulunmaz. Bu nedenle burada varsayılan öneri SSH tünelidir.

Bir model çekin ve tüm yolu doğrulayın

podman exec -it ollama ollama pull gemma3:4b
curl -s http://127.0.0.1:11434/api/tags
curl -s http://127.0.0.1:11434/api/generate -d '{"model":"gemma3:4b","prompt":"Reply with the single word: ready","stream":false}'
du -sh ~/ollama-data/models

/api/tags, gemma3:4b listesini içeren JSON döndürür. /api/generate, ağırlıklar diskten yüklenirken kısa bir beklemenin ardından response alanını içeren bir JSON nesnesi döndürür. du değerinin yayımlanan indirme boyutuna yakın bir sayı bildirmesi gerekir. Ardından bu kılavuzun temel amacını oluşturan bölümü doğrulayın:

sudo reboot
# reconnect, then:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user is-active ollama.service

active değerinin kalıcı olduğunu göstermesi, [Install] bölümü ile daemon-reload işlemlerinin görevlerini yerine getirdiğini kanıtlar. inactive bildirirse önce bu üç öğeyi kontrol edin, ardından başlangıç hataları için journalctl --user -u ollama.service inceleyin.

Hata durumları ve görülecek dizeler

Yeniden başlatma sonrasında container kayboluyor. Önce loginctl show-user ollama --property=Linger kontrol edilmelidir; çünkü Linger=yes olmadan kullanıcının systemd örneği açılışta başlatılmaz. Lingering etkinse .container dosyasındaki [Install] bölümü kontrol edilmeli, systemctl --user daemon-reload çalıştırılmalı ve başlangıç hataları için journalctl --user -u ollama.service incelenmelidir.

Error: statfs /home/ollama/ollama-data: no such file or directory. Bind mount kaynağı, container başlatılmadan önce mevcut olmalıdır. Podman, host üzerindeki dizinleri sizin için oluşturmaz. mkdir -p ~/ollama-data komutu ollama kullanıcısı olarak çalıştırılmalıdır.

Başlatma 90 saniyede başarısız oluyor. journalctl --user -u ollama.service, image çekme işlemi hâlâ sürdüğü için Start operation timed out. Terminating. değerini gösterir. Image elle çekilmeli veya TimeoutStartSec=900 korunmalıdır.

Container başlıyor ve çıkıyor. podman logs ollama ile sudo ausearch -m avc -ts recent birlikte incelendiğinde sorunun SELinux etiketiyle ilgili olup olmadığı anlaşılır. container_t ve user_home_t adlarını içeren bir AVC kaydı, :Z öğesinin eksik olduğunu gösterir.

Host üzerinden gönderilen istekler reddediliyor. Servis active ile çalışırken curl: (7) Failed to connect to 127.0.0.1 port 11434: Connection refused, genellikle OLLAMA_HOST değerinin container içinde loopback adresine ayarlandığını gösterir. Bu satır kaldırılmalıdır.

Üretim çok yavaş veya container sonlandırılıyor. GPU yoksa inference CPU üzerinde çalışır ve büyük bir model doğası gereği yavaştır. Model fiziksel RAM'e sığmadığında disk destekli memory mapping veya swap kullanılması inference işlemini daha da yavaşlatır. İstek sırasında container günlüklerde signal: killed ile sonlanıyorsa nedeni incelenmelidir; kernel günlüğü out-of-memory sonlandırmasını doğrularsa yukarıdaki tablodan daha küçük bir tag seçilmelidir.

Sabitlenmiş bir image güncelleniyor

Pinleme, güncellemelerin kendiliğinden gerçekleşmesini beklemek yerine bu işlemi sizin yönetmeniz anlamına gelir. ollama.container içindeki Image= değerini düzenleyin, ardından yeniden yükleyip yeniden başlatın:

systemctl --user daemon-reload
systemctl --user restart ollama.service
podman exec ollama ollama --version

Modeller bind mount içinde tutulur. Bu nedenle image değişikliğinden etkilenmeden korunurlar. [Container] bölümündeki AutoUpdate=registry, registry üzerindeki digest değerlerine karşı denetim yapılmasını yapılandırır; elle veya systemd timer tarafından çalıştırılan podman auto-update, değişmiş bir image'ı çeker ve unit'i yeniden başlatır. Bu yöntem, sürekli değişebilen bir tag için uygundur. Sürüm tag'inin yanında kullanıldığında yalnızca yayıncı aynı tag'i yeniden yayınladığında çalışır. Pinleme tam olarak bu plansız değişikliği engellemek için kullanıldığından burada devre dışı bırakılmalıdır. /home/ollama/ollama-data/models/manifests ve .container dosyasını yedekleyin; blob'ları yedeklemeyin. Bunlar büyük dosyalardır ve ollama pull bunları yeni bir sunucuda yeniden indirir.

FAQ

Rootless Podman container oturumu kapattığımda neden duruyor?

Bir kullanıcının systemd instance'ı ve /run/user/<uid> dizini, o kullanıcının son oturumu kapandıktan sonra normalde sonlandırılır. Bu işlem, söz konusu instance tarafından yönetilen servisleri durdurur. sudo loginctl enable-linger ollama komutunu çalıştırın ve loginctl show-user ollama --property=Linger çıktısının Linger=yes olduğunu doğrulayın. Quadlet unit'ini oluşturmadan önce lingering özelliğini etkinleştirin. Böylece user manager ve runtime dizini, oturum açılmasa da kullanılabilir.

Ollama model dizininde SELinux etiketleri gerekli mi?

Fedora, RHEL, Rocky ve AlmaLinux üzerinde, host dizinini bind mount olarak bağlıyorsanız evet. Container, container_t domain'inde çalışır. Home dizinindeki bir dizin ise user_home_t olarak etiketlenir. Bu nedenle yazma işlemi reddedilir ve Ollama çıkar. Volume= satırına :Z ekleyin ve bu seçenek için özel bir alt dizin belirtin. Relabel işlemi alt dizinlere de uygulandığından :Z değerini tüm bir home dizinine yönlendirmek, ilgili kullanıcının SSH key erişimini bozar. Named volume'lar Podman tarafından doğru etiketlenir ve ek işlem gerektirmez.

Bir Ollama modeli ne kadar disk alanı gerektirir?

ollama.com/library üzerinde yayımlanan indirme boyutunu temel alın. Bu değer 3.4 GB ile gemma3:4b ve 19 GB ile qwen3:30b arasında değişir. Bunun üzerine Podman image boyutunu ekleyin. Ayrıca boş alan bırakın; çünkü ikinci bir model disk üzerinde ilk modelin yerini almaz. Pull işleminden önce df -h /home, işlemden sonra du -sh ~/ollama-data/models ile kontrol edin. İyi performans için RAM'de yaklaşık olarak model dosyasının boyutu kadar alan ve context window için ek alan planlayın. Disk destekli memory mapping veya yeterli swap, daha büyük bir modelin daha az fiziksel RAM ile çalışmasını sağlayabilir. Ancak performans düşer.

VPS üzerinde 11434 portunu dışarı açmak güvenli mi?

Hayır. Ollama herhangi bir authentication mekanizması olmadan gelir. Bu nedenle porta erişebilen herkes modellerinizi listeleyebilir, silebilir, diskinize yeni modeller indirebilir ve CPU'nuz ile bandwidth kotanızı kullanarak inference çalıştırabilir. İnternet üzerinden kullanılan düz HTTP, her prompt'u ve completion'ı açık metin olarak gönderir. Host tarafını 127.0.0.1 adresine PublishPort=127.0.0.1:11434:11434 ile bind edin. ss -ltnp | grep 11434 ile doğrulayın. Ardından SSH tunnel veya password gerektiren bir reverse proxy üzerinden erişin.

Bu yazı işinize yaradı mı?