SSD Nodes Learn Hosting plans →
راهنماها Matt Connorتوسط Matt Connor

تفاوت ollama pull و ollama run و محل ذخیره مدل‌ها

دستور ollama pull فقط مدل را دانلود می‌کند اما ollama run نشست چت باز می‌کند. یاد بگیرید فایل‌ها کجا ذخیره می‌شوند، چرا دیسک VPS پر می‌شود و چطور مسیر OLLAMA_MODELS را تغییر دهید.

تفاوت ollama pull و ollama run

ollama pull مدل را دانلود کرده و متوقف می‌شود. برای یک مدل چت محلی، ollama run مدل را تنها در صورتی که موجود نباشد دانلود می‌کند، سپس آن را در حافظه بارگذاری کرده و یک چت تعاملی باز می‌کند. فرآیند دانلود یکسان است و فایل‌ها در مکان مشابهی ذخیره می‌شوند. تنها run است که پس از آن به کار خود ادامه می‌دهد. مدل‌های Embedding استثنایی بر بخش چت هستند: مستندات رسمی نشان می‌دهد که ollama run embeddinggemma "Hello world" به جای پاسخ، embedding را به صورت یک آرایه JSON چاپ می‌کند. بدون متن ورودی، ollama run یک مدل embedding را با embedding models require input text رد می‌کند.

همین یک تفاوت تعیین می‌کند که کدام دستور برای اسکریپت مناسب است و کدام یک برای استفاده در محیط ترمینال.

ollama pull gemma4
ollama run gemma4
ollama run gemma4 "Reply with one word: ready"

خط اول مدل را دریافت کرده و خارج می‌شود، بنابراین در فرآیندهای provisioning و unitهای systemd ایمن است. خط دوم یک نشست چت باز می‌کند؛ برای خروج از آن /bye را تایپ کنید یا Ctrl+D را فشار دهید. خط سوم یک پرامپت تکی ارسال کرده، پاسخ را چاپ می‌کند و خارج می‌شود؛ این همان شکلی است که یک اسکریپت هنگام نیاز به پاسخ (به جای نشست تعاملی) به آن احتیاج دارد. این شکل سوم همچنان طول پاسخ را کاملاً به مدل واگذار می‌کند، بنابراین یک سوال یک‌خطی ممکن است به صورت سه پاراگراف بازگردد، و محدود کردن پاسخ با num_predict همان چیزی است که یک run اسکریپت‌شده را در اندازه‌ای نگه می‌دارد که فراخواننده واقعاً بتواند از آن استفاده کند. نام مدل‌ها به‌سرعت تغییر می‌کنند، بنابراین gemma4 را در اینجا به عنوان یک جای‌نگهدار در نظر بگیرید: این مثالی است که مستندات رسمی Ollama تا اکتبر 2026 استفاده می‌کند؛ برای همان گردش کار، مدل چت محلی دیگری را جایگزین کنید. تگ‌هایی که به :cloud ختم می‌شوند، مانند gemma4:cloud، متفاوت هستند: Ollama آن‌ها را بدون دانلود وزن‌های مدل روی سرورهای خودش اجرا می‌کند، بنابراین فضای دیسک ذکر شده در زیر برای مدل‌های محلی است. اگر ترجیح می‌دهید مدلی را جایگزین کنید که قبلاً توسط شخصی برای یک سرور واقعی اندازه‌گیری شده است، اجرای Nemotron 3.5 Lightning روی یک VPS تگ دقیق برای pull کردن و حافظه‌ای که انتظار دارد پیدا کند را ارائه می‌دهد.

چرا اولین اجرای ollama به نظر می‌رسد که قفل کرده است

اولین run روی یک VPS تازه ممکن است چندین دقیقه بدون هیچ خروجی باقی بماند. هیچ مشکلی وجود ندارد. اعلان چت (chat prompt) تا زمانی که مدل روی دیسک ذخیره و در حافظه بارگذاری نشود ظاهر نمی‌شود، بنابراین run قبل از اینکه چیزی برای نمایش به شما داشته باشد، در حال انجام یک دانلود چند گیگابایتی است.

دو عامل این فرآیند را پنهان می‌کنند. Ollama نوار پیشرفت خود را در standard error می‌نویسد، بنابراین در هر جایی که این جریان نادیده گرفته شود یا فقط پس از پایان خوانده شود، مانند اسکریپتی که به 2>/dev/null ختم می‌شود یا یک cron job، هیچ چیزی به شما نمی‌گوید که دانلود در حال اجراست. سپس، پس از دریافت بایت‌ها، فایل همچنان باید از دیسک به RAM خوانده شود تا اولین توکن تولید گردد، و در یک VPS کوچک، این خواندن کند است. اگر سرور حافظه کافی برای مدل نداشته باشد، هسته سیستم‌عامل شروع به استفاده از swap می‌کند و زمان انتظار بسیار طولانی‌تر می‌شود.

به‌جای حدس زدن، آن را از یک نشست (session) دوم مشاهده کنید:

df -h /
watch -n5 df -h /

در یک سرور تازه، کاهش پله‌ای فضای آزاد به این معنی است که دانلود همچنان در حال اجراست. اگر فضای آزاد ثابت بماند در حالی که دستور همچنان مشغول است، به این معنی نیست که بارگذاری شروع شده است: پس از دانلود، Ollama یک مرحله مجزای verifying sha256 digest را انجام می‌دهد که فایل‌ها را قبل از نوشتن manifest و تکمیل pull می‌خواند. سروری که از قبل مدل‌هایی داشته است می‌تواند در Ollama 0.40.2 شما را گمراه کند: اولین اجرای مدلی که با نسخه قدیمی‌تر دانلود شده بود، یک نسخه ارتقاءیافته را در پس‌زمینه می‌نوشت و نسخه اصلی را به عنوان پشتیبان نگه می‌داشت، بنابراین فضای آزاد می‌توانست بدون هیچ دانلودی کاهش یابد. نسخه Ollama 0.40.3 که در 11 اکتبر 2026 منتشر شد، آن ارتقاء پس‌زمینه را متوقف کرد.

این همان دلیلی است که باید مدل‌ها را از قبل pull کنید. کسی که ollama run را تایپ می‌کند، نباید کسی باشد که هزینه زمان دانلود را می‌پردازد.

پیش از آنکه کسی درخواستی ارسال کند، مدل را Pull کنید

همین قاعده برای هر چیزی که یک کاربر انسانی نیست صدق می‌کند: یک coding agent که به endpoint مربوط به Ollama شما اشاره دارد، در صورتی که مدل محلی درخواست‌شده قبلاً pull نشده باشد، با خطای model-not-found مواجه می‌شود؛ یک درخواست inference به‌تنهایی باعث دانلود مدل نمی‌شود. روی یک سرور جدید، همان اسکریپتی که سرور را نصب می‌کند، مدل را نیز pull کنید:

curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4

اگر برای اولین بار سرور را راه‌اندازی می‌کنید، راهنمای کامل نصب Ollama روی VPS سرویس و نحوه دسترسی به آن را پوشش می‌دهد. پس از آن، آنچه ارزش تنظیم کردن دارد، یک عملیات pull است که پس از بستن ترمینال شما همچنان ادامه یابد، زیرا قطع شدن دانلود در میانه راه باعث می‌شود کاربران با یک مخزن مدل ناقص مواجه شوند.

آن را داخل tmux اجرا کنید، یا به عنوان یک unit از نوع one-shot که هنگام boot اجرا می‌شود، به systemd بسپارید. فایل /etc/systemd/system/ollama-pull.service را بنویسید:

[Unit]
Description=Pre-pull Ollama models
Wants=ollama.service network-online.target
After=ollama.service network-online.target

[Service]
Type=oneshot
RemainAfterExit=yes
ExecStart=/bin/sh -c 'until ollama list >/dev/null 2>&1; do sleep 2; done'
ExecStart=/bin/sh -c 'ollama pull gemma4'

[Install]
WantedBy=multi-user.target

هر دو دستور عمداً از طریق /bin/sh -c اجرا می‌شوند. یک ExecStart= ساده، یک مسیر مطلق یا نام یک فایل اجرایی را که از طریق مسیر جستجوی ثابت systemd پیدا شده باشد می‌پذیرد؛ command -v ollama مسیری را که shell فعلی شما پیدا می‌کند نشان می‌دهد. استفاده از shell باعث می‌شود به جای مسیری که از یک راهنما کپی شده، از PATH تعریف‌شده برای سرویس استفاده شود. اولین ExecStart نیز اهمیت دارد: After=ollama.service به این معنی است که unit سرور استارت شده است، که با «آماده بودن» متفاوت است، بنابراین حلقه تا زمانی که ollama list پاسخ دهد منتظر می‌ماند و سپس عملیات pull آغاز می‌شود.

sudo systemctl daemon-reload
sudo systemctl enable --now ollama-pull.service
journalctl -u ollama-pull.service

لاگ journal باید نشان دهد که عملیات pull بدون خطا به پایان رسیده است و ollama list باید پس از آن مدل را نمایش دهد. برای به‌روز نگه داشتن یک tag متغیر، یک systemd timer یا یک ورودی cron هفتگی اضافه کنید که همان دستور pull را اجرا کند. pull مجدد یک tag که تغییر کرده است، لایه‌های جدید را دانلود می‌کند و برای اکثر مدل‌ها، لایه‌های قدیمی که دیگر توسط هیچ چیزی استفاده نمی‌شوند را در پایان همان عملیات pull حذف می‌کند.

وقتی عملیات pull قطع می‌شود چه اتفاقی می‌افتد

هر لایه از یک مدل تحت هش محتوای خود ذخیره می‌شود. بنابراین، یک عملیات pull که قطع شده است، کار بیهوده نیست: همان ollama pull را دوباره اجرا کنید؛ لایه‌هایی که قبلاً تکمیل شده‌اند شناسایی و نادیده گرفته می‌شوند، بنابراین دانلود از لایه‌ای که قطع شده بود ادامه می‌یابد.

یک اقدام می‌تواند این پیشرفت را از بین ببرد. هنگامی که سرور Ollama شروع به کار می‌کند، دانلودهای ناقص و لایه‌های ذخیره‌شده‌ای که هیچ manifest مدلی به آن‌ها ارجاع نمی‌دهد را حذف می‌کند، و قطعات باقی‌مانده از یک pull ناموفق دقیقاً همین وضعیت را دارند. نسخه‌های فعلی (0.40.11، بررسی‌شده در 26 اکتبر 2026) از هر فایلی که در یک ساعت گذشته نوشته شده باشد صرف‌نظر می‌کنند، بنابراین راه‌اندازی مجدد بلافاصله پس از قطع شدن pull بی‌خطر است، اما راه‌اندازی مجدد پس از گذشت چند ساعت، قطعاتی که قبلاً دانلود کرده‌اید را دور می‌ریزد. ابتدا pull را دوباره امتحان کنید و بعداً سیستم را restart کنید. اگر واقعاً لازم است یک دانلود ناقص پس از restart باقی بماند، OLLAMA_NOPRUNE=1 را در محیط سرویس تنظیم کنید و سپس آن را حذف کنید، زیرا این متغیر پاک‌سازی در پایان هر pull را نیز غیرفعال می‌کند و همین دو نوع پاک‌سازی هستند که از انباشته شدن لایه‌های یتیم روی دیسک جلوگیری می‌کنند.

اگر عملیات pull با خطای no space left on device متوقف شد، پیش از تلاش مجدد، فضا آزاد کنید. اگر df گزارش می‌دهد که دیسک پر است و du در دایرکتوری مدل این موضوع را توجیه نمی‌کند، فضا جای دیگری اشغال شده است و مطالعه دلایل اختلاف df و du پیش از حذف هر فایلی توصیه می‌شود.

Ollama مدل‌ها را در VPS کجا ذخیره می‌کند؟

به‌جای اعتماد به مسیرهای ذکرشده در راهنماها، از جمله این راهنما، از سرور خودتان بپرسید. محل ذخیره‌سازی بین نصب بسته‌ای (package install) و کانتینر متفاوت است و اگر کسی متغیر OLLAMA_MODELS را تنظیم کرده باشد، باز هم تغییر می‌کند.

systemctl cat ollama.service
getent passwd ollama
sudo find / -xdev -type d -name blobs 2>/dev/null

دستور systemctl cat فایل unit را به همراه تمام drop-inها چاپ می‌کند، بنابراین خط OLLAMA_MODELS که توسط شما تنظیم شده یا در image شما گنجانده شده است، در آنجا نمایش داده می‌شود. در صورت نبود چنین خطی، محل ذخیره‌سازی در دایرکتوری home حسابی قرار دارد که سرویس با آن اجرا می‌شود و getent passwd آن دایرکتوری home را در ششمین فیلد جداشده با دو نقطه چاپ می‌کند. دستور find یک فایل‌سیستم را برای یافتن دایرکتوری blobs جستجو می‌کند، که محل واقعی نوشتن لایه‌هاست. اگر مدل‌ها ممکن است از قبل روی یک mount جداگانه باشند، -xdev را حذف کنید.

اکنون اندازه‌گیری کنید و اعداد خود را بخوانید:

ollama list
df -h /
sudo du -sh /the/directory/you/found
sudo du -h -d1 /the/directory/you/found

این محل ذخیره‌سازی دو نوع محتوا دارد. دایرکتوری‌های manifest (manifests، که در نسخه‌های فعلی با manifests-v2 ترکیب شده‌اند) فایل‌های کوچکی را نگه می‌دارند که برای هر تگ مدل، لایه‌های سازنده آن را فهرست می‌کنند. blobs خود لایه‌ها را نگه می‌دارد که هر کدام بر اساس هش محتوایشان نام‌گذاری شده‌اند و تقریباً تمام حجم اشغال‌شده در آنجاست. از آنجا که لایه‌ها بین تگ‌ها به اشتراک گذاشته می‌شوند، دو مدل که بر اساس وزن‌های یکسانی ساخته شده‌اند، هر کدام حجم خود را در ollama list گزارش می‌دهند در حالی که فقط یک بار آن فضا را روی دیسک اشغال می‌کنند؛ بنابراین مجموع حجم‌های فهرست‌شده می‌تواند بیشتر از مقداری باشد که du برای آن دایرکتوری گزارش می‌دهد. غافلگیری معکوس از Ollama 0.40.2 ناشی می‌شود: مدل‌هایی که در پس‌زمینه ارتقا یافته‌اند، نسخه اصلی خود را به عنوان پشتیبان روی دیسک نگه می‌دارند که ollama list آن را دو بار نشان نمی‌دهد، بنابراین du می‌تواند بسیار بیشتر از آنچه فهرست نشان می‌دهد، گزارش دهد. یادداشت‌های انتشار 0.40.2 شامل اسکریپتی است که فقط آن نسخه‌های پشتیبان را حذف می‌کند.

فایل‌های مدل، فایل‌سیستم ریشه یک VPS کوچک را سریع‌تر از هر چیز دیگری که احتمالاً نصب می‌کنید پر می‌کنند و بزرگ‌ترین عامل تأثیرگذار بر حجم آن‌ها، فرمت وزن‌ها است. انتخاب بین q4، q8 و fp16 به ازای هر مدل چندین گیگابایت صرفه‌جویی به همراه دارد.

انتقال مدل‌ها به یک volume داده با استفاده از OLLAMA_MODELS

اگر سیستم دارای دیسک دوم یا volume داده بزرگ‌تری است، پیش از پر شدن فایل‌سیستم root، محل ذخیره‌سازی را منتقل کنید. ابتدا سرور را متوقف کنید تا فایلی که در حال نوشتن است، کپی نشود.

sudo systemctl stop ollama
sudo mkdir -p /mnt/data/ollama-models
sudo rsync -a /the/directory/you/found/ /mnt/data/ollama-models/
sudo chown -R ollama:ollama /mnt/data/ollama-models
sudo systemctl edit ollama.service

systemctl edit یک ویرایشگر را روی یک فایل drop-in باز می‌کند تا unit بسته‌بندی‌شده دست‌نخورده باقی بماند و ارتقای بسته، تغییرات شما را بازنویسی نکند. این دو خط را اضافه کنید:

[Service]
Environment="OLLAMA_MODELS=/mnt/data/ollama-models"
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment
ollama list

systemctl show باید مسیر جدید شما را چاپ کند و ollama list باید همان مدل‌هایی را نشان دهد که پیش از انتقال نمایش می‌داد. اگر لیست خالی است، بررسی کنید که دایرکتوری جدید شامل store کپی‌شده باشد و سرور بتواند آن را بخواند. این سرویس با کاربر ollama اجرا می‌شود، بنابراین آن کاربر به دسترسی خواندن و نوشتن در مقصد نیاز دارد که این وظیفه خط chown در بالا است. برای خطاهای مجوز که مسیر جدید را ذکر می‌کنند، journalctl -e -u ollama را بررسی کنید. کپی قدیمی را تنها پس از اطمینان از صحت لیست حذف کنید، زیرا انتقال ناموفق به همراه حذف منبع، به معنای دانلود دوباره همه چیز است.

گزینه دیگر، حفظ مسیر اصلی و mount کردن volume داده روی آن است:

echo '/mnt/data/ollama-models /the/directory/you/found none bind 0 0' | sudo tee -a /etc/fstab
sudo mount -a
findmnt /the/directory/you/found
df -h /

findmnt چاپ شدن mount به این معنی است که bind فعال است. یک bind mount زمانی مفید است که سرویس دیگری روی سیستم از قبل انتظار محل پیش‌فرض را داشته باشد. این روش یک تله دارد: فایل‌هایی که کپی کرده‌اید همچنان زیر نقطه mount روی دیسک root باقی می‌مانند و توسط mount پنهان می‌شوند، بنابراین فضا تا زمانی که unmount نکنید و آن‌ها را حذف نکنید، آزاد نمی‌شود. متغیر محیطی (environment variable) برای توضیح به شخصی که در آینده وارد سیستم می‌شود، گزینه ساده‌تری است.

محل نگهداری مدل‌ها در کانتینر

ایمیج رسمی، مدل‌ها را در هر مسیری که mount کرده باشید ذخیره می‌کند، نه در هیچ دایرکتوری میزبان (host) که متعلق به کاربر ollama باشد. دستور اجرای مستندسازی‌شده به این صورت است:

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

عبارت ollama پیش از دونقطه، یک Docker volume نام‌گذاری‌شده است و /root/.ollama مسیری است که سرور در داخل کانتینر در آن می‌نویسد. بنابراین اجرای du روی مسیرهای بخش قبلی، نتیجه‌ای در بر ندارد، زیرا فایلی در آنجا وجود ندارد. برای مشاهده مکان واقعی و حجم، دستور زیر را اجرا کنید:

docker volume inspect ollama
docker system df -v
docker exec -it ollama ollama list

فیلد Mountpoint را از docker volume inspect بخوانید و سپس دستور sudo du -sh را روی آن اجرا کنید. برای قرار دادن مدل‌ها روی یک volume داده، volume نام‌گذاری‌شده را با یک دایرکتوری میزبان (-v /mnt/data/ollama:/root/.ollama) جایگزین کرده و کانتینر را دوباره ایجاد کنید. کانتینر با دسترسی root می‌نویسد، بنابراین مالکیت آن دایرکتوری میزبان در نهایت به root می‌رسد. در حالت rootless Podman، کاربر root کانتینر به‌طور پیش‌فرض به UID و GID کاربر میزبان شما نگاشت می‌شود، در حالی که سایر شناسه‌های کانتینر از محدوده‌های فرعی (subordinate ranges) استفاده می‌کنند: اجرای Ollama تحت rootless Podman این نگاشت را پوشش می‌دهد.

یک هشدار در مورد پاک‌سازی: دستور ساده docker volume prune فقط volumeهای ناشناس را حذف می‌کند، بنابراین volume نام‌گذاری‌شده ollama دست‌نخورده باقی می‌ماند، اما docker volume prune --all هر volumeای که هیچ کانتینری به آن ارجاع ندهد، از جمله موارد نام‌گذاری‌شده را حذف می‌کند. اگر کانتینر ollama را بدون volume آن حذف یا دوباره ایجاد کنید، اجرای بعدی prune --all تمام مدل‌هایی که دانلود کرده‌اید را پاک می‌کند و راهی برای بازگرداندن آن‌ها جز دانلود مجدد وجود ندارد. پیش از اجرای دستور prune روی سروری که مدل‌ها را میزبانی می‌کند، مطلب نحوه پاک‌سازی فضای دیسک Docker در VPS را مطالعه کنید.

حذف مدل با ollama rm، نه با rm

ollama list
ollama rm gemma4
ollama list
df -h /

ollama rm مانیفست مربوط به آن تگ را حذف می‌کند و سپس لایه‌هایی را که هیچ مانیفست دیگری به آن‌ها ارجاع نمی‌دهد، پاک می‌کند. فضای دیسک بلافاصله پس از unlinked شدن فایل‌ها آزاد می‌شود، بنابراین df فوراً عمل می‌کند. از آنجا که لایه‌ها به صورت اشتراکی استفاده می‌شوند، حذف یکی از دو تگ بسیار مشابه ممکن است فضای بسیار کمتری نسبت به اندازه‌ای که ollama list در کنار آن نمایش می‌دهد، آزاد کند. این رفتار صحیح است و به معنای شکست در عملیات حذف نیست.

حذف دستی فایل‌ها باعث از بین رفتن یکپارچگی می‌شود. اگر یک blob را با rm حذف کنید، مانیفست همچنان آن را فهرست می‌کند، بنابراین ollama list همچنان مدل را نشان می‌دهد و هر تلاشی برای استفاده از آن هنگام خواندن لایهٔ مفقودشده با خطا مواجه می‌شود. اگر مانیفست را به صورت دستی حذف کنید، لایه‌های آن روی دیسک باقی می‌مانند بدون اینکه چیزی به آن‌ها اشاره کند؛ این یعنی اشغال فضایی که هیچ دستور Ollama آن را به شما گزارش نخواهد داد. اگر قبلاً یک blob را حذف کرده‌اید، اجرای ollama rm روی آن تگ، ورودی باقی‌مانده را پاک می‌کند؛ اگر مانیفست را حذف کرده باشید، دیگر ورودی تگی برای حذف باقی نمانده است. راه‌اندازی مجدد سرور، لایه‌هایی را که بیش از یک ساعت از ارجاع به آن‌ها گذشته باشد، پاکسازی می‌کند.

یک تفاوت نهایی که به دلیل شباهت اسمی اغلب اشتباه گرفته می‌شود: ollama rm مربوط به فضای دیسک است. ollama stop gemma4 مدل را از حافظه (RAM) خارج می‌کند و هیچ فضایی از دیسک را آزاد نمی‌کند. مدت زمانی که یک مدل پس از پایان دانلود در RAM باقی می‌ماند، یک تنظیم جداگانه است و در نگهداری مدل در حافظه به جای بارگذاری مجدد در هر درخواست به آن پرداخته شده است.

FAQ

تفاوت بین ollama pull و ollama run چیست؟

ollama pull مدل را روی دیسک دانلود کرده و خارج می‌شود. ollama run بررسی می‌کند که آیا مدل از قبل روی دیسک موجود است یا خیر؛ اگر موجود نباشد آن را دانلود کرده، در حافظه بارگذاری می‌کند و سپس برای مدل‌های چت، یک نشست تعاملی باز می‌کند. هر دو دستور فایل‌های یکسانی را در دایرکتوری یکسانی می‌نویسند. از pull در فرآیندهای آماده‌سازی (provisioning) و اسکریپت‌ها استفاده کنید و از run زمانی که کاربر پشت سیستم است بهره ببرید. ollama run <model> "your prompt" یک پرامپت ارسال کرده و خارج می‌شود که در واقع فرم قابل اسکریپت‌نویسی run است.

چرا اولین اجرای ollama run من به نظر می‌رسد که متوقف (hang) شده است؟

ممکن است در حال دانلود، تأیید دانلود یا بارگذاری مدل باشد. پرامپت چت تا زمانی که مدل روی دیسک نباشد و در حافظه بارگذاری نشود ظاهر نمی‌شود، و حجم مدل‌ها چندین گیگابایت است. Ollama نوار پیشرفت خود را به standard error می‌فرستد، بنابراین run در داخل اسکریپتی که این جریان را نادیده می‌گیرد، یا در یک cron job، در حین کار چیزی به شما نشان نمی‌دهد. یک نشست دوم باز کنید و watch -n5 df -h / را اجرا کنید: در یک سیستم تازه، کاهش فضای آزاد به صورت مرحله‌ای به این معنی است که دانلود در حال انجام است. مدل را از قبل pull کنید تا زمان انتظار برای دانلود و تأیید حذف شود؛ با این حال بارگذاری همچنان زمان‌بر است.

Ollama مدل‌ها را کجا ذخیره می‌کند؟

محل ذخیره‌سازی به نوع نصب بستگی دارد، بنابراین به جای حدس زدن، آن را چاپ کنید. systemctl cat ollama.service را اجرا کنید تا ببینید آیا OLLAMA_MODELS در unit یا یک drop-in تنظیم شده است یا خیر. اگر تنظیم نشده باشد، محل ذخیره در دایرکتوری home حسابی است که سرویس با آن اجرا می‌شود، که getent passwd ollama آن را چاپ می‌کند. sudo find / -xdev -type d -name blobs 2>/dev/null مستقیماً دایرکتوری لایه‌ها را پیدا می‌کند. برای image کانتینر، محل ذخیره در داخل volume متصل‌شده (mounted) قرار دارد و docker volume inspect ollama مسیر host مربوط به Mountpoint را چاپ می‌کند.

چگونه مدل‌های Ollama را به دیسک دیگری منتقل کنم؟

سرویس را متوقف کنید، محل ذخیره را با rsync -a به مکان جدید کپی کنید، مالکیت دایرکتوری را با sudo chown -R ollama:ollama <directory> به حساب کاربری سرویس بدهید، سپس sudo systemctl edit ollama.service را اجرا کرده و Environment="OLLAMA_MODELS=<directory>" را زیر یک خط [Service] اضافه کنید. با sudo systemctl daemon-reload تنظیمات را reload کرده و سرویس را restart کنید. با systemctl show ollama --property=Environment و ollama list وضعیت را تأیید کنید. اگر لیست خالی است، بررسی کنید که دایرکتوری جدید شامل محل ذخیره کپی‌شده باشد و کاربر ollama بتواند آن را بخواند؛ برای خطاهای مجوز، journalctl -e -u ollama را بررسی کنید.

آیا حذف دستی فایل‌های مدل، فضا را آزاد می‌کند؟

حذف دستی فایل‌ها بایت‌ها را آزاد می‌کند اما محل ذخیره را ناسازگار (inconsistent) باقی می‌گذارد. اگر یک blob را حذف کنید، manifest همچنان آن مدل را لیست می‌کند، بنابراین همچنان در ollama list ظاهر می‌شود و هنگام استفاده با خطا مواجه می‌شود. اگر یک manifest را حذف کنید، لایه‌های آن روی دیسک باقی می‌مانند در حالی که هیچ چیزی به آن‌ها ارجاع نمی‌دهد. از ollama rm <model> استفاده کنید که manifest و سپس لایه‌هایی که هیچ مدل دیگری به آن‌ها نیاز ندارد را حذف می‌کند. اگر یک blob قبلاً به صورت دستی حذف شده است، ollama rm را روی تگ مربوطه اجرا کنید تا ورودی آن پاک شود. اگر manifest حذف شده باشد، دیگر ورودی تگی برای حذف باقی نمانده است. سرور را restart کنید تا لایه‌هایی که هیچ manifest به آن‌ها ارجاع نمی‌دهد و بیش از یک ساعت از عمرشان می‌گذرد، حذف شوند.

آیا این مقاله مفید بود؟