آموزش اجرای Ollama با Podman rootless روی VPS
راهنمای گامبهگام اجرای Ollama در کانتینر Podman بدون دسترسی root. تنظیمات شامل فعالسازی lingering، پیکربندی Quadlet برای سرویس systemd، مدیریت SELinux و امنیت شبکه.
اجرای Ollama در rootless Podman روی VPS
برای اجرای Ollama در rootless Podman روی یک سرور، باید 5 شرط برقرار باشد؛ در یک راهنمای دسکتاپ ممکن است برخی از آنها نادیده گرفته شوند. یک کاربر اختصاصی و بدون امتیاز، مالک container است. برای این کاربر lingering فعال است تا container پس از خروج شما نیز به اجرا ادامه دهد. یک فایل Quadlet، container را به systemd میسپارد تا پس از reboot دوباره اجرا شود. در توزیعهایی که SELinux را اعمال میکنند، دایرکتوری مدل باید برچسب SELinux داشته باشد. API فقط روی loopback گوش میدهد و از طریق یک تونل SSH (secure shell) به آن دسترسی پیدا میکنید.
Ollama یک سرور برای مدلهای زبانی بزرگ (LLM) است. این برنامه وزنهای مدل را روی دیسک ذخیره میکند، آنها را در حافظه بارگذاری میکند و به درخواستهای HTTP روی پورت 11434 پاسخ میدهد. API محلی آن به login یا API key نیاز ندارد؛ بنابراین در اینجا شبکه تنها کنترل دسترسی شماست. Podman containerها را بدون daemon و بدون root اجرا میکند؛ بنابراین هر چیزی که از container خارج شود، ابتدا با یک کاربر عادی و بدون امتیاز اجرا میشود. اگر ابتدا میخواهید مقایسه runtimeها را بخوانید، به تفاوت Podman و Docker روی VPS مراجعه کنید. اگر ترجیح میدهید containerها را کاملاً کنار بگذارید، نصب مستقیم Ollama روی VPS مسیر کوتاهتری است.
Fedora بهطور پیشفرض هم Podman و هم SELinux (security-enhanced Linux) را ارائه میکند. دستورات زیر Podman 5 یا جدیدتر را فرض میکنند. واحد Quadlet نیز به cgroup v2 نیاز دارد؛ مستندات Podman، صرفنظر از نسخه Podman، cgroup v2 را بهعنوان یکی از الزامات Quadlet ذکر میکنند. پیش از شروع، هر دو مورد را بررسی کنید: podman --version برای مورد اول و podman info | grep -i cgroup برای مورد دوم؛ در این بررسی، خط cgroupVersion باید شامل مقدار v2 باشد. در Ubuntu 24.04، نسخه بسته podman در archive برابر با 4.9.3 است و از نسخه مشخصشده در آن خط قدیمیتر است؛ بنابراین ابتدا نسخه را در آنجا بررسی کنید.
چرا نسخه لپتاپ در سرور نیاز به تغییر دارد
مجله Fedora در تاریخ 5 August 2026 راهنمای شفافی از این پشته منتشر کرد: اجرای محلی Ollama با Podman روی Fedora Linux، نوشته Yazan Monshed. این مقاله برای شروع کار با این ابزارها در یک ساعت اول بسیار مفید است. با این حال، مقاله مذکور برای لپتاپ نوشته شده و چهار مورد از انتخابهای آن در ماشینی که دارای IP عمومی است، رفتار متفاوتی دارند.
- این مقاله کانتینر را با یک
podman run -dساده شروع میکند. کانتینری که بهصورت دستی اجرا شود، پس از reboot دوباره بالا نمیآید، زیرا هیچ دستوری برای شروع خودکار آن صادر نشده است. - این مقاله از تگ متغیر
ollama/ollamaاستفاده میکند. روی لپتاپ، شما همان روزی که رفتار برنامه تغییر میکند متوجه میشوید. در سرور، اولین نشانه، اسکریپتی است که در طول شب از کار افتاده است. - این مقاله با
-p 11434:11434پورت را منتشر میکند که تمام اینترفیسها را bind میکند. پشت یک روتر خانگی، این کار از اینترنت غیرقابل دسترس است. اما روی یک VPS، این کار به معنای یک API استنتاج عمومی بدون هیچگونه رمز عبور است. - این مقاله با کاربر لاگین شما اجرا میشود. در سرور، حسابی که مالک کانتینر است نباید مالک هیچ چیز دیگری باشد، تا در صورت break-out، مهاجم تنها به یک دایرکتوری home خالی دسترسی داشته باشد.
هیچکدام از این موارد برای ماشینی که راهنما برای آن نوشته شده اشتباه نیستند. هر مورد صرفاً تصمیمی است که وقتی ماشین از همهجا در دسترس است و کسی پشت آن ننشسته، باید دوباره در مورد آن بازنگری کنید.
کاربر بدون دسترسیهای ویژه را ایجاد کنید و subuid را بررسی کنید
Rootless Podman شناسههای کاربری داخلی container را به یک بازه از شناسههای استفادهنشده روی host نگاشت میکند. این بازه در /etc/subuid و /etc/subgid تعریف میشود. Podman از حالت تکUID نیز پشتیبانی میکند، اما برای این راهاندازی بازههای subordinate را پیکربندی کنید.
sudo dnf install -y podman # or: sudo apt install -y podman
sudo useradd --create-home --shell /bin/bash --comment "Ollama container owner" ollama
sudo passwd --lock ollama
grep ollama /etc/subuid /etc/subgidدستور grep باید دو خط چاپ کند؛ هر خط از یکی از فایلها باشد و بازهای شامل 65536 شناسه را مشخص کند:
/etc/subuid:ollama:100000:65536
/etc/subgid:ollama:100000:65536عدد شروع در سیستم شما متفاوت خواهد بود و این اشکالی ندارد. اگر grep چیزی چاپ نکند، useradd بازهای اختصاص نداده است. Podman نبود mapping را با پیامی مانند این گزارش میکند:
Error: cannot find UID/GID for user ollama: no subuid ranges found for user "ollama" in /etc/subuidبازهای اختصاص دهید که هیچ کاربر دیگری مالک آن نباشد، سپس به Podman اعلام کنید mapping قبلی آن منسوخ شده است:
sudo usermod --add-subuids 100000-165535 --add-subgids 100000-165535 ollama
sudo -iu ollama podman system migrateقفلکردن گذرواژه، ورود با گذرواژه بهعنوان ollama را مسدود میکند؛ اما روشهای دیگر احراز هویت، مانند کلیدهای SSH، همچنان فعال میمانند. با استفاده از sudo -iu ollama از کاربر admin به این حساب دسترسی پیدا میکنید.
فعالسازی lingering برای ادامه کار سرویس پس از logout
نمونه systemd مربوط به یک کاربر معمولاً هنگام login اجرا میشود و پس از logout آخرین نشست متوقف میشود؛ در این حالت /run/user/<uid> نیز حذف میشود. سرویسهایی که این نمونه مدیریت میکند، با توقف آن متوقف میشوند. lingering باعث میشود نمونه کاربر بدون اتصال به هیچ session همچنان اجرا شود.
sudo loginctl enable-linger ollama
loginctl show-user ollama --property=Lingerخروجی این دستور باید Linger=yes باشد. پیش از ساخت unit، lingering را فعال کنید تا user manager و runtime directory آن بدون login session در دسترس باشند.
یک مرحله دیگر نیز وجود دارد که معمولاً انتظارش را ندارید. sudo -iu ollama برای شما shell فراهم میکند، اما session bus را فراهم نمیکند؛ بنابراین systemctl --user بلافاصله شکست میخورد:
Failed to connect to bus: $DBUS_SESSION_BUS_ADDRESS and $XDG_RUNTIME_DIR not definedsystemd بهدنبال user bus در $XDG_RUNTIME_DIR/bus میگردد، اما sudo -i این متغیر را تنظیم نمیکند. آن را در هر admin shell که برای مدیریت این سرویس استفاده میکنید، بهصورت دستی تنظیم کنید:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user statusمحل قرارگیری فایلهای مدل و مقدار فضای دیسک موردنیاز
Ollama وزنها را در /root/.ollama/models داخل container مینویسد. یک directory از home کاربر را روی این مسیر bind کنید تا فایلها در محلی قرار بگیرند که بتوانید اندازه آن را بررسی کنید: /home/ollama/ollama-data/models. blobها بهصورت فایلهای content-addressed در models/blobs قرار میگیرند و models/manifests فهرست کوچک نامگذاری آنها را نگه میدارد. اگر بهجای آن از named volume استفاده کنید، همانطور که در مطلب Fedora Magazine آمده است، همین tree در /home/ollama/.local/share/containers/storage/volumes/<volume>/_data قرار خواهد داشت. در هر دو حالت، ollama pull و ollama run وزنها را در همین tree مینویسند و تفاوت این دو command فقط در این است که آیا پس از پایان download، یک chat session باز میشود یا نه.
پیش از pull کردن هر چیزی، فضای دیسک را محاسبه کنید. اندازههای منتشرشده برای download، حداقل فضای موردنیاز را مشخص میکنند.
دادههای پشت این نمودار
[
{
"label": "gemma3:4b",
"download_gb": 3.4
},
{
"label": "mistral:7b",
"download_gb": 4.4
},
{
"label": "qwen3:8b",
"download_gb": 5.2
},
{
"label": "gemma3:12b",
"download_gb": 8.2
},
{
"label": "qwen3:14b",
"download_gb": 9.3
},
{
"label": "gemma3:27b",
"download_gb": 17
},
{
"label": "qwen3:30b",
"download_gb": 19
}
]هر 7 ردیف، اعدادی است که در ollama.com/library منتشر شدهاند و اندازهگیری روی دیسک نیستند. کوچکترین tag در این فهرست، gemma3:4b، برابر با 3.4 GB download دارد. بزرگترین مورد، qwen3:30b، برابر با 19 GB download دارد. خود container image نیز در storage مخصوص Podman فضایی جداگانه اشغال میکند؛ بنابراین هر دو مقدار را با podman system df و df -h /home بررسی کنید. برای performance مناسب، تقریباً به اندازه فایل مدل RAM، بهعلاوه فضای لازم برای context window، در نظر بگیرید. مقدار RAM فیزیکی یک حد قطعی نیست: memory mapping مبتنی بر دیسک یا swap کافی میتواند اجرای یک مدل 19 GB را روی یک VPS با 16 GB ممکن کند، هرچند performance کاهش مییابد.
برچسب image را ثابت کنید و نام کامل registry را بهکار ببرید
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
mkdir -p ~/ollama-data ~/.config/containers/systemd
podman pull docker.io/ollama/ollama:0.32.9از یک برچسب نسخه منتشرشده، یعنی 0.32.9 در August 2026، استفاده کنید، نه latest. از آن زمان نسخههای جدیدتری منتشر شدهاند: در 30 October 2026، جدیدترین برچسب نسخه ساده در Docker Hub برابر با 0.40.13 است. بنابراین صفحه برچسبها را بررسی کنید و نسخه فعلی را هم در دستور pull و هم در خط Image= بهکار ببرید. برچسب نسخه ثابت، نسخههایی را که انتخاب نکردهاید از سرور دور نگه میدارد؛ بنابراین تغییر رفتار معمولاً نتیجه تغییری است که خودتان ایجاد کردهاید. بااینحال، برچسب همچنان یک pointer است و fingerprint نیست: registry هر زمان که شخصی دوباره همان نام را push کند، آن را به image دیگری منتقل میکند و فقط digest ثابت میماند. Podman هر دو شکل را در Image= میپذیرد. اگر restart در ساعت 04:00 باید دقیقاً همان binary آزمایششده را اجرا کند، پس از pull دستور podman images --digests docker.io/ollama/ollama را اجرا کنید و بهجای آن Image=docker.io/ollama/ollama@sha256:<digest> را بنویسید. Docker Hub برای همین نسخهها برچسبهای -rc و -rocm را نیز منتشر میکند؛ اگر GPU شما AMD نیست، برچسب ساده را انتخاب کنید.
نام host مربوط به registry را نیز بنویسید. در Fedora، یک نام کوتاه در systemd unit ترمینالی ندارد که بتواند در آن درخواست تأیید نشان دهد؛ بنابراین unit با خطای زیر متوقف میشود:
Error: short-name "ollama/ollama" did not resolve to an alias and no unqualified-search registries are definedPull کردن image بهصورت دستی اختیاری است، اما مفید است؛ زیرا دانلود چندگیگابایتی را از timeout مربوط به start شدن unit خارج میکند.
واحد Quadlet که پس از reboot باقی میماند
Quadlet تولیدکننده systemd برای Podman است. شما یک فایل .container مینویسید، systemd آن را در زمان boot به یک سرویس تبدیل میکند و دیگر نیازی به podman generate systemd نیست. این فایل را با نام /home/ollama/.config/containers/systemd/ollama.container و با مالکیت کاربر ollama ذخیره کنید.
[Unit]
Description=Ollama API (rootless)
After=network-online.target
Wants=network-online.target
[Container]
Image=docker.io/ollama/ollama:0.32.9
ContainerName=ollama
PublishPort=127.0.0.1:11434:11434
Volume=/home/ollama/ollama-data:/root/.ollama:Z
Environment=OLLAMA_KEEP_ALIVE=30m
Environment=OLLAMA_MAX_LOADED_MODELS=1
[Service]
Restart=always
TimeoutStartSec=900
[Install]
WantedBy=default.targetنام فایل، نام سرویس را تعیین میکند، بنابراین ollama.container به ollama.service تبدیل میشود.
systemctl --user daemon-reload
systemctl --user start ollama.service
systemctl --user status ollama.serviceدستور status باید active (running) را نشان دهد. دستور systemctl --user enable ollama.service را اجرا نکنید. این واحد به عنوان یک فایل روی دیسک وجود ندارد، بنابراین systemd آن را رد میکند:
Failed to enable unit: Unit file /run/user/1001/systemd/generator/ollama.service is transient or generated.بخش [Install] از قبل این وظیفه را انجام میدهد. Quadlet خودش لینک شروع در زمان boot را در طول daemon-reload ایجاد میکند، به همین دلیل است که آن دستور اختیاری نیست. TimeoutStartSec=900 اولین شروعی را پوشش میدهد که هنوز باید image را pull کند، زیرا مقدار پیشفرض 90 ثانیه برای دانلود چند گیگابایتی کافی نیست و systemd شروع آن را به عنوان شکستخورده متوقف میکند. OLLAMA_KEEP_ALIVE=30m یک مدل را بین درخواستها در حافظه نگه میدارد بهجای اینکه آن را پس از پنج دقیقه تخلیه کند؛ معایب و مزایای این کار در نگه داشتن مدل Ollama در حافظه بررسی شده است. اگر هر بخشی از اصطلاحات systemd در اینجا جدید است، نحوه عملکرد سرویسها و تایمرهای systemd روی یک VPS خودِ واحدها را پوشش میدهد.
چرا دایرکتوری مدل تحت SELinux خطای permission denied میدهد
در توزیعهای Fedora، RHEL، Rocky و AlmaLinux، قابلیت SELinux بهصورت پیشفرض در حالت enforcing قرار دارد. یک پردازش کانتینر در دامنه container_t اجرا میشود و دایرکتوری موجود در home کاربر با برچسب user_home_t مشخص شده است. سیاستهای امنیتی اجازه دسترسی یکی به دیگری را نمیدهد، بنابراین Ollama نمیتواند درخت مدلهای خود را ایجاد کند و کانتینر متوقف میشود. دستور getenforce در این سیستمها عبارت Enforcing را چاپ میکند و این عدم دسترسی ثبت میشود:
sudo ausearch -m avc -ts recentشما خطی را خواهید دید که نام دامنه و برچسب هدف را مشخص میکند:
avc: denied { write } for pid=1842 comm="ollama" name="models" dev="vda1" ino=131077 scontext=system_u:system_r:container_t:s0:c214,c827 tcontext=unconfined_u:object_r:user_home_t:s0 tclass=dir permlisted=0عبارت :Z در انتهای خط Volume= راهحل این مشکل است. این دستور دایرکتوری میزبان را به container_file_t تغییر برچسب میدهد و آن را با یک دسته MCS (امنیت چند-دستهای) خصوصی مهر میزند که فقط همین کانتینر آن را حمل میکند. استفاده از :z با حروف کوچک، از یک برچسب اشتراکی استفاده میکند که در مواقعی که دو کانتینر قصد خواندن یک دایرکتوری واحد را دارند، مناسب است.
یک هشدار در مورد :Z؛ زیرا این دستور مخرب است و بدون پرسش عمل میکند. تغییر برچسب بهصورت بازگشتی (recursive) انجام میشود. اگر آن را به /home/ollama اشاره دهید، تمام فایلهای موجود در آن دایرکتوری home تغییر برچسب مییابند که باعث از کار افتادن دسترسی کلیدهای SSH برای آن کاربر میشود. همیشه برای :Z یک زیردایرکتوری اختصاصی در نظر بگیرید که حاوی هیچ فایل دیگری نباشد. Named volumeها به این کار نیاز ندارند، زیرا Podman هنگام ایجاد آنها، برچسبگذاری را بهدرستی انجام میدهد. اگر به اطلاعات جامعتری نیاز دارید، مبانی SELinux برای سرور مفاهیم contextها و booleanها را توضیح میدهد. در Ubuntu و Debian بهجای آن از AppArmor استفاده میشود، بنابراین :Z در آنجا بیاثر است و باقی ماندن آن در unit فایل، مشکلی ایجاد نمیکند.
پورت 11434 را ببندید و از طریق SSH به API دسترسی پیدا کنید
PublishPort=127.0.0.1:11434:11434 سمت میزبان را به loopback متصل میکند. آن را تأیید کنید:
ss -ltnp | grep 11434
curl http://127.0.0.1:11434خروجی ss باید 127.0.0.1:11434 را نشان دهد و curl باید به Ollama is running پاسخ دهد. اگر ss بهجای آن 0.0.0.0:11434 یا *:11434 را نشان دهد، پورت روی همهٔ رابطها در وضعیت listening قرار دارد. اینکه اینترنت بتواند به آن دسترسی پیدا کند، به قوانین firewall شما و شبکهٔ پیشِ روی سرور بستگی دارد؛ بنابراین listener روی wildcard لزوماً بهصورت خودکار در معرض اینترنت قرار نمیگیرد. بااینحال، به این وضعیت اتکا نکنید: مستندات Ubuntu اشاره میکند که ufw در ابتدا بهطور پیشفرض غیرفعال است و قانون firewall نیز مورد دیگری است که باید صحیح باقی بماند. آدرس bind را اصلاح کنید تا پورت از ابتدا هرگز بهصورت عمومی در وضعیت listening قرار نگیرد.
دقیقاً مشخص کنید کدام سمت را bind میکنید. آدرس موجود در PublishPort آدرس میزبان است. داخل container، Ollama باید روی همهٔ رابطها در وضعیت listening باقی بماند؛ این حالت، پیشفرض image است. تنظیم Environment=OLLAMA_HOST=127.0.0.1، Ollama را به loopback خود container bind میکند و Podman در عوض ترافیک published را به آدرس شبکهٔ container forward میکند؛ بنابراین هر درخواست، حتی از میزبان، رد میشود.
باز بودن پورت 11434 از 2 جهت برای شما هزینه دارد. Ollama احراز هویت ندارد؛ بنابراین هرکس که به پورت دسترسی پیدا کند، میتواند از طریق /api/tags فهرست modelهای شما را ببیند، از طریق /api/generate روی CPU و سهمیهٔ bandwidth شما inference اجرا کند، modelهای جدید را روی دیسک شما pull کند و modelهای موجود را حذف کند. مشکل دوم این است که HTTP ساده به یک پورت remote، promptها و completionها را بهصورت cleartext ارسال میکند؛ بنابراین هر ماشین در مسیر میتواند آنها را بخواند. اگر پورت هرگز از این ماشین خارج نشود، هر دو مشکل برطرف میشوند.
از workstation خود، پورت را از طریق SSH forward کنید:
ssh -N -L 11434:127.0.0.1:11434 you@vps.example.comاکنون http://127.0.0.1:11434 روی laptop شما همان Ollama سرور است و درون رمزنگاری session مربوط به SSH قرار دارد. اگر laptop شما از قبل Ollama را اجرا میکند، bind محلی با bind [127.0.0.1]:11434: Address already in use شکست میخورد؛ از -L 11435:127.0.0.1:11434 استفاده کنید و client خود را به 11435 متصل کنید.
اگر client مرورگر به این دسترسی نیاز دارد، بهجای آن یک reverse proxy دارای password در مقابل آن قرار دهید. یک site block در Caddy کوتاه است و caddy hash-password هش bcrypt موردنیاز آن را چاپ میکند:
ollama.example.com {
basic_auth {
you $2a$14$replace_with_the_generated_hash
}
reverse_proxy 127.0.0.1:11434
}Caddy گواهی را از طریق TLS (transport layer security) بهصورت مستقل دریافت میکند؛ بنابراین ترافیک رمزنگاری میشود. ابتدا client خود را آزمایش کنید: clientهایی که نمیتوانند header مربوط به Authorization را ارسال کنند، در برابر basic auth با یک 401 Unauthorized خالی شکست میخورند. SSH tunnel چنین مشکلی ندارد؛ به همین دلیل در اینجا گزینهٔ پیشفرض توصیهشده است.
مدل را دریافت کنید و کل مسیر را بررسی کنید
podman exec -it ollama ollama pull gemma3:4b
curl -s http://127.0.0.1:11434/api/tags
curl -s http://127.0.0.1:11434/api/generate -d '{"model":"gemma3:4b","prompt":"Reply with the single word: ready","stream":false}'
du -sh ~/ollama-data/models/api/tags فهرست JSON مربوط به gemma3:4b را برمیگرداند. /api/generate پس از مکثی برای بارگذاری وزنها از دیسک، یک شیء JSON با فیلد response برمیگرداند. du باید عددی نزدیک به اندازه دانلود اعلامشده گزارش کند. سپس بخشی را اثبات کنید که کل این راهنما درباره آن است:
sudo reboot
# reconnect, then:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user is-active ollama.serviceactive بهمعنای باقیماندن است؛ بخش [Install] و daemon-reload هر دو وظیفه خود را انجام دادهاند. اگر inactive را گزارش کرد، ابتدا همین سه مورد را بررسی کنید و سپس journalctl --user -u ollama.service را برای خطاهای راهاندازی بررسی کنید.
حالتهای خرابی و رشتههایی که مشاهده خواهید کرد
Container پس از reboot ناپدید میشود. ابتدا loginctl show-user ollama --property=Linger را بررسی کنید، زیرا بدون Linger=yes، نمونهٔ systemd کاربر هنگام boot هرگز شروع نمیشود. اگر lingering فعال است، بخش [Install] را در فایل .container بررسی کنید، systemctl --user daemon-reload را اجرا کنید و journalctl --user -u ollama.service را برای خطاهای startup بررسی کنید.
Error: statfs /home/ollama/ollama-data: no such file or directory. منبع bind mount باید پیش از start شدن container وجود داشته باشد. Podman دایرکتوریهای host را برای شما ایجاد نمیکند. mkdir -p ~/ollama-data را با کاربر ollama اجرا کنید.
Start در 90 ثانیه شکست میخورد. journalctl --user -u ollama.service نشان میدهد که Start operation timed out. Terminating.، زیرا pull کردن image هنوز در حال اجرا بوده است. آن را دستی pull کنید یا TimeoutStartSec=900 را نگه دارید.
Container start میشود و خارج میشود. podman logs ollama و sudo ausearch -m avc -ts recent در کنار هم مشخص میکنند که آیا مشکل از برچسب SELinux است یا نه. یک AVC که نام container_t و user_home_t را دارد، یعنی :Z وجود ندارد.
درخواستها از host رد میشوند. curl: (7) Failed to connect to 127.0.0.1 port 11434: Connection refused همراه با سرویس active معمولاً یعنی OLLAMA_HOST درون container روی یک آدرس loopback تنظیم شده است. آن خط را حذف کنید.
Generation بسیار کند است یا container متوقف میشود. اگر GPU وجود نداشته باشد، inference روی CPU اجرا میشود و یک model بزرگ ذاتاً کند است. وقتی model در RAM فیزیکی جا نشود، memory mapping مبتنی بر دیسک یا swap، inference را کندتر میکند. اگر container در میانهٔ درخواست با signal: killed در لاگها متوقف میشود، علت آن را بررسی کنید؛ اگر لاگ kernel یک kill ناشی از کمبود حافظه را تأیید کرد، از chart بالا یک tag کوچکتر انتخاب کنید.
بهروزرسانی یک image پینشده
Pinning یعنی بهروزرسانیها را شما انجام میدهید، نه اینکه بدون اطلاع شما رخ دهند. Image= را در ollama.container ویرایش کنید، سپس آن را reload و restart کنید:
systemctl --user daemon-reload
systemctl --user restart ollama.service
podman exec ollama ollama --versionمدلها در bind mount قرار دارند؛ بنابراین با تغییر image بدون تغییر باقی میمانند. AutoUpdate=registry در بخش [Container]، بررسی digest را در برابر registry پیکربندی میکند؛ podman auto-update، چه بهصورت دستی و چه با systemd timer، image تغییرکرده را pull میکند و unit را restart میکند. این روش برای moving tag مناسب است. در کنار یک version tag، این فرایند فقط زمانی اجرا میشود که publisher همان tag را دوباره push کند؛ این دقیقاً همان تغییر برنامهریزینشدهای است که pinning باید از آن جلوگیری کند، بنابراین در اینجا آن را فعال نکنید. از /home/ollama/ollama-data/models/manifests و فایل .container نسخهٔ پشتیبان تهیه کنید و blobها را نادیده بگیرید: حجم زیادی دارند و ollama pull آنها را روی سیستم جدید دوباره fetch میکند.
FAQ
چرا کانتینر rootless Podman من پس از خروج از حساب کاربری متوقف میشود؟
نمونه systemd کاربر و دایرکتوری /run/user/<uid> آن معمولاً پس از پایان آخرین session کاربر از بین میروند؛ در نتیجه سرویسهایی که آن نمونه مدیریت میکند متوقف میشوند. دستور sudo loginctl enable-linger ollama را اجرا کنید و مطمئن شوید که loginctl show-user ollama --property=Linger مقدار Linger=yes را چاپ میکند. پیش از ایجاد unit مربوط به Quadlet، قابلیت lingering را فعال کنید تا user manager و دایرکتوری runtime آن بدون session ورود کاربر نیز در دسترس باشند.
آیا برای دایرکتوری مدل Ollama به labelهای SELinux نیاز دارم؟
در Fedora، RHEL، Rocky و AlmaLinux، اگر دایرکتوری میزبان را بهصورت bind mount متصل میکنید، پاسخ مثبت است. کانتینر در domain مربوط به container_t اجرا میشود و دایرکتوری داخل home folder دارای label user_home_t است؛ بنابراین عملیات نوشتن رد میشود و Ollama خارج میشود. مقدار :Z را به خط Volume= اضافه کنید و برای آن یک subdirectory اختصاصی در نظر بگیرید، زیرا relabel کردن بهصورت بازگشتی انجام میشود و قرار دادن :Z روی کل home directory دسترسی SSH key آن کاربر را مختل میکند. Named volumeها توسط Podman با label درست ایجاد میشوند و به تنظیمات اضافی نیاز ندارند.
یک مدل Ollama به چه مقدار فضای دیسک نیاز دارد؟
کار را با اندازه دانلود اعلامشده در ollama.com/library آغاز کنید. این اندازه از 3.4 GB برای gemma3:4b تا 19 GB برای qwen3:30b متغیر است. فضای image مربوط به Podman را نیز جداگانه در نظر بگیرید و مقداری فضای آزاد باقی بگذارید، زیرا مدل دوم مدل اول را روی دیسک جایگزین نمیکند. پیش از pull کردن، df -h /home را بررسی کنید و پس از آن du -sh ~/ollama-data/models را اجرا کنید. برای عملکرد مناسب، تقریباً به اندازه فایل مدل RAM، بهعلاوه فضای لازم برای context window، در نظر بگیرید. memory mapping مبتنی بر دیسک یا swap کافی میتواند اجرای مدل بزرگتر را با RAM فیزیکی کمتر ممکن کند، اما عملکرد کاهش مییابد.
آیا expose کردن پورت 11434 روی VPS امن است؟
خیر. Ollama هیچ نوع authentication ندارد؛ بنابراین هر کسی که به این پورت دسترسی پیدا کند میتواند مدلهای شما را فهرست کند، آنها را حذف کند، مدلهای جدید را روی دیسک شما pull کند و با استفاده از CPU و سهمیه bandwidth شما inference اجرا کند. HTTP ساده روی اینترنت نیز همه promptها و completionها را بهصورت متن آشکار ارسال میکند. سمت میزبان را با PublishPort=127.0.0.1:11434:11434 به 127.0.0.1 bind کنید، با ss -ltnp | grep 11434 آن را بررسی کنید و از طریق SSH tunnel یا reverse proxyای به آن دسترسی پیدا کنید که به password نیاز دارد.