ollama pull اور run میں فرق، models کہاں محفوظ ہوتے ہیں؟
ollama pull download کے بعد رک جاتا ہے، جبکہ ollama run chat کھولتا ہے۔ جانیں files کہاں جاتی ہیں، VPS root disk کیوں بھر سکتی ہے، اور storage کیسے منتقل کریں۔
ollama pull بمقابلہ ollama run
ollama pull کسی model کو download کر کے رک جاتا ہے۔ مقامی chat model کے لیے ollama run model کو صرف اس وقت download کرتا ہے جب وہ موجود نہ ہو، پھر اسے memory میں load کر کے interactive chat کھول دیتا ہے۔ Download یکساں ہوتا ہے اور files ایک ہی جگہ محفوظ ہوتی ہیں۔ بعد میں صرف run کا عمل جاری رہتا ہے۔ Chat کے معاملے میں embedding models استثنا ہیں: official documentation کے مطابق ollama run embeddinggemma "Hello world" جواب کے بجائے embedding کو JSON array کے طور پر print کرتا ہے۔ Input text کے بغیر ollama run embedding model کو embedding models require input text کے ساتھ مسترد کر دیتا ہے۔
یہی ایک فرق طے کرتا ہے کہ script میں کون سا command استعمال کرنا ہے اور keyboard کے سامنے کون سا۔
ollama pull gemma4
ollama run gemma4
ollama run gemma4 "Reply with one word: ready"پہلی line model کو fetch کر کے exit ہو جاتی ہے، اس لیے provisioning اور systemd unit میں محفوظ ہے۔ دوسری line chat session کھولتی ہے؛ اسے چھوڑنے کے لیے /bye type کریں یا Ctrl+D دبائیں۔ تیسری line ایک single prompt بھیجتی ہے، جواب print کرتی ہے اور exit ہو جاتی ہے۔ جب script کو session کے بجائے جواب درکار ہو تو یہی مطلوبہ شکل ہے۔ تیسری شکل میں جواب کی length پھر بھی مکمل طور پر model پر منحصر رہتی ہے۔ اس لیے ایک line کا سوال تین paragraphs کی صورت میں واپس آ سکتا ہے، اور num_predict کے ذریعے جواب کی حد مقرر کرنا scripted run کو اس size کے اندر رکھتا ہے جسے caller واقعی استعمال کر سکتا ہے۔ Model names تیزی سے تبدیل ہوتے ہیں، اس لیے یہاں gemma4 کو placeholder سمجھیں: October 2026 تک یہ official Ollama documentation میں استعمال ہونے والی مثال ہے؛ اسی workflow کے لیے کوئی دوسرا local chat model استعمال کریں۔ :cloud پر ختم ہونے والے tags، مثلاً gemma4:cloud، مختلف ہیں: Ollama انہیں اپنے servers پر چلاتا ہے اور model weights download نہیں کرتا، اس لیے ذیل میں دی گئی disk space local models کے لیے ہے۔ اگر آپ ایسا model استعمال کرنا چاہیں جس کا حقیقی server کے مطابق size پہلے سے متعین کیا جا چکا ہو تو VPS پر Nemotron 3.5 Lightning چلانا وہ exact tag اور مطلوبہ memory فراہم کرتا ہے جسے تلاش کرنا ہے۔
پہلی ollama run ایسی کیوں لگتی ہے جیسے منجمد ہو گئی ہو
نئے VPS پر پہلی run کئی منٹ تک بغیر کسی output کے چل سکتی ہے۔ کچھ بھی خراب نہیں ہوتا۔ Chat prompt اس وقت تک ظاہر نہیں ہو سکتا جب تک model disk پر موجود اور memory میں load نہ ہو جائے، اس لیے run دکھانے کے لیے کچھ دستیاب ہونے سے پہلے کئی gigabytes کا download کر رہی ہوتی ہے۔
دو چیزیں اس عمل کو چھپا دیتی ہیں۔ Ollama اپنی progress bar standard error پر لکھتی ہے، اس لیے جہاں یہ stream ضائع کر دی جائے یا بعد میں ہی پڑھی جائے، مثلاً ایسے script میں جو 2>/dev/null پر ختم ہو، یا cron job میں، وہاں آپ کو یہ معلوم نہیں ہوتا کہ download جاری ہے۔ پھر bytes disk پر آ جانے کے بعد بھی پہلے token سے پہلے file کو disk سے RAM میں پڑھنا ضروری ہوتا ہے، اور چھوٹے VPS پر یہ read سست ہوتا ہے۔ اگر machine کے پاس model کے لیے کافی memory نہ ہو تو kernel swapping شروع کر دیتا ہے اور انتظار بہت طویل ہو جاتا ہے۔
اندازہ لگانے کے بجائے دوسری session سے اسے monitor کریں:
df -h /
watch -n5 df -h /نئے system پر free space کا مرحلہ وار کم ہونا اس بات کی علامت ہے کہ download ابھی جاری ہے۔ اگر command مصروف ہو لیکن free space کم ہونا رک جائے تو اس سے یہ ثابت نہیں ہوتا کہ loading شروع ہو گئی ہے: download کے بعد Ollama ایک الگ verifying sha256 digest phase انجام دیتی ہے، جس میں files پڑھی جاتی ہیں، پھر manifest لکھا جاتا ہے اور pull مکمل ہوتا ہے۔ جس system پر models پہلے سے موجود ہوں، وہاں Ollama 0.40.2 آپ کو گمراہ کر سکتا ہے: پرانے version سے download کیے گئے model کی پہلی run نے background میں upgraded copy لکھی اور original کو backup کے طور پر برقرار رکھا، اس لیے free space بغیر کسی download کے بھی کم ہو سکتی تھی۔ 11 October 2026 کو released Ollama 0.40.3 نے اس background upgrade کو روک دیا۔
یہی وجہ ہے کہ model پہلے ہی pull کر لینا چاہیے۔ جو شخص ollama run type کرتا ہے، اسے download کا انتظار نہیں کرنا چاہیے۔
کسی کے درخواست کرنے سے پہلے model pull کریں
یہ بات ان تمام چیزوں کے لیے بھی درست ہے جو انسان نہیں ہیں: آپ کے Ollama endpoint کی طرف متعین coding agent کو model-not-found error ملتا ہے اگر مطلوبہ local model پہلے pull نہ کیا گیا ہو؛ inference request اسے download نہیں کرتی۔ نئے box پر server install کرنے والے اسی script میں اسے pull کریں:
curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4اگر آپ پہلی بار server کو چلا رہے ہیں تو VPS پر مکمل Ollama installation میں خود service اور یہ تفصیل شامل ہے کہ کس کو اس تک رسائی کی اجازت ہے۔ اس کے بعد قابلِ انتظام کام ایسا pull ترتیب دینا ہے جو آپ کے terminal کے بند ہونے کے بعد بھی جاری رہے، کیونکہ download کا درمیان میں رک جانا model store کے نامکمل طور پر بھرنے کا سبب بنتا ہے۔
اسے tmux کے اندر چلائیں، یا اسے systemd کے one-shot unit کے طور پر دیں جو boot کے وقت چلے۔ /etc/systemd/system/ollama-pull.service لکھیں:
[Unit]
Description=Pre-pull Ollama models
Wants=ollama.service network-online.target
After=ollama.service network-online.target
[Service]
Type=oneshot
RemainAfterExit=yes
ExecStart=/bin/sh -c 'until ollama list >/dev/null 2>&1; do sleep 2; done'
ExecStart=/bin/sh -c 'ollama pull gemma4'
[Install]
WantedBy=multi-user.targetدونوں commands جان بوجھ کر /bin/sh -c کے ذریعے چلتی ہیں۔ سادہ ExecStart= absolute path یا executable کے سادہ نام کو قبول کرتا ہے، جسے systemd کے مقررہ search path کے ذریعے resolve کیا جاتا ہے؛ command -v ollama وہ path دکھاتا ہے جسے آپ کا موجودہ shell تلاش کرتا ہے۔ shell کے ذریعے چلانے سے service کا PATH استعمال ہوتا ہے، نہ کہ کسی guide سے نقل کیا گیا path۔ پہلا ExecStart بھی اہم ہے: After=ollama.service کا مطلب ہے کہ server unit start ہو چکا ہے، یہ ready ہونے کے برابر نہیں؛ اس لیے loop pull شروع ہونے سے پہلے ollama list کے جواب کا انتظار کرتا ہے۔
sudo systemctl daemon-reload
sudo systemctl enable --now ollama-pull.service
journalctl -u ollama-pull.servicejournal میں pull کے مکمل ہونے کے بعد کوئی error نہیں دکھنی چاہیے، اور اس کے بعد ollama list کو model دکھانا چاہیے۔ کسی تبدیل ہوتے tag کو تازہ رکھنے کے لیے systemd timer یا ہفتہ وار cron entry شامل کریں جو یہی pull چلائے۔ منتقل ہو چکے tag کو دوبارہ pull کرنے پر نئی layers download ہوتی ہیں اور، زیادہ تر models کے لیے، اسی pull کے اختتام پر وہ پرانی layers حذف ہو جاتی ہیں جنہیں کوئی اور چیز استعمال نہیں کرتی۔
pull میں خلل پڑنے پر کیا ہوتا ہے
ماڈل کی ہر layer اس کے اپنے contents کے hash کے تحت محفوظ ہوتی ہے۔ اس لیے interrupted pull کا کام ضائع نہیں ہوتا: وہی ollama pull دوبارہ چلائیں، اور جو layers پہلے مکمل ہو چکی ہیں انہیں پہچان کر skip کر دیا جاتا ہے۔ یوں download اسی layer سے جاری ہوتا ہے جہاں خلل پڑا تھا۔
ایک action یہ پیش رفت ختم کر سکتا ہے۔ Ollama server شروع ہونے پر ان partial downloads اور stored layers کو حذف کر دیتا ہے جن کا حوالہ کسی model manifest میں موجود نہ ہو، اور dead pull کے بعد بچ جانے والے pieces عین اسی زمرے میں آتے ہیں۔ موجودہ releases (0.40.11، 26 October 2026 کو جانچا گیا) پچھلے ایک گھنٹے میں لکھی گئی کسی بھی file کو skip کرتے ہیں۔ اس لیے pull رکنے کے فوراً بعد restart کرنا بے ضرر ہے، لیکن کئی گھنٹے بعد restart کرنے سے وہ piece حذف ہو جاتا ہے جو آپ پہلے ہی download کر چکے تھے۔ پہلے pull کو retry کریں اور بعد میں restart کریں۔ اگر partial download کا restart کے بعد بھی محفوظ رہنا ضروری ہو تو service environment میں OLLAMA_NOPRUNE=1 set کریں، پھر اسے دوبارہ ہٹا دیں، کیونکہ یہ variable ہر pull کے اختتام پر ہونے والی cleanup بھی بند کر دیتا ہے۔ یہی دونوں cleanups disk پر orphaned layers جمع ہونے سے روکتی ہیں۔
اگر pull no space left on device کے ساتھ رک گیا ہو تو retry سے پہلے space خالی کریں۔ اگر df full disk کی اطلاع دے اور model directory پر du اس کی وضاحت نہ کرے، تو space کسی اور جگہ استعمال ہوئی ہے۔ کچھ بھی delete کرنے سے پہلے df اور du کے مختلف نتائج دینے کی وجوہات پڑھنا مفید ہے۔
Ollama VPS پر ماڈلز کہاں اسٹور کرتا ہے؟
کسی بھی گائیڈ (بشمول اس کے) میں دیے گئے پاتھ پر بھروسہ کرنے کے بجائے اپنے سرور سے خود پوچھیں۔ یہ لوکیشن پیکیج انسٹالیشن اور کنٹینر کے درمیان مختلف ہوتی ہے، اور اگر کسی نے OLLAMA_MODELS سیٹ کیا ہو تو یہ پھر بدل جاتی ہے۔
systemctl cat ollama.service
getent passwd ollama
sudo find / -xdev -type d -name blobs 2>/dev/nullsystemctl cat یونٹ فائل کو ہر ڈراپ ان (drop-in) کے ساتھ پرنٹ کرتا ہے، لہذا آپ کی طرف سے سیٹ کردہ یا آپ کی امیج میں موجود OLLAMA_MODELS لائن وہاں نظر آ جائے گی۔ اگر ایسی کوئی لائن نہ ہو تو اسٹور اس اکاؤنٹ کی ہوم ڈائریکٹری میں ہوتا ہے جس کے تحت سروس چل رہی ہے، اور getent passwd اس ہوم ڈائریکٹری کو چھٹے کولن سے الگ شدہ فیلڈ میں پرنٹ کرتا ہے۔ find فائل سسٹم میں blobs ڈائریکٹری کو تلاش کرتا ہے، جہاں درحقیقت لیئرز (layers) لکھی جاتی ہیں۔ اگر ماڈلز پہلے سے کسی الگ ماؤنٹ پر موجود ہوں تو -xdev کو چھوڑ دیں۔
اب پیمائش کریں، اور اپنے نمبر خود پڑھیں:
ollama list
df -h /
sudo du -sh /the/directory/you/found
sudo du -h -d1 /the/directory/you/foundاسٹور میں دو قسم کا مواد ہوتا ہے۔ مینیفیسٹ ڈائریکٹریز (manifests، جو موجودہ ریلیزز میں manifests-v2 کے ذریعے جڑی ہوتی ہیں) چھوٹی فائلیں رکھتی ہیں جو ہر ماڈل ٹیگ کے لیے ان لیئرز کی فہرست دیتی ہیں جن سے وہ بنا ہے۔ blobs خود لیئرز کو رکھتا ہے، جن میں سے ہر ایک کا نام اس کے مواد کے ہیش (hash) پر رکھا جاتا ہے، اور تقریباً تمام سائز وہیں ہوتا ہے۔ چونکہ لیئرز ٹیگز کے درمیان شیئر ہوتی ہیں، اس لیے ایک ہی ویٹس (weights) پر بنے دو ماڈلز ollama list میں اپنا اپنا سائز ظاہر کرتے ہیں جبکہ ڈسک پر وہ جگہ صرف ایک بار گھیرتے ہیں، لہذا درج شدہ سائز کا مجموعہ du کی ڈائریکٹری رپورٹ سے زیادہ ہو سکتا ہے۔ اس کے برعکس ایک حیران کن صورتحال Ollama 0.40.2 سے سامنے آتی ہے: جن ماڈلز کو اس نے بیک گراؤنڈ میں اپ گریڈ کیا، ان کی اصل کاپی بیک اپ کے طور پر ڈسک پر موجود رہتی ہے، جسے ollama list دو بار نہیں دکھاتا، اس لیے du لسٹ کی تجویز کردہ مقدار سے کہیں زیادہ رپورٹ کر سکتا ہے۔ 0.40.2 ریلیز نوٹس میں ایک اسکرپٹ شامل ہے جو صرف ان بیک اپس کو ڈیلیٹ کرتی ہے۔
ماڈل فائلیں ایک چھوٹے VPS روٹ فائل سسٹم کو کسی بھی دوسری چیز سے زیادہ تیزی سے بھر دیتی ہیں، اور ان کے سائز کو کنٹرول کرنے کا سب سے بڑا ذریعہ ویٹ فارمیٹ (weight format) ہے۔ q4، q8 اور fp16 کے درمیان انتخاب ہر ماڈل کے لیے گیگا بائٹس کی بچت کر سکتا ہے۔
OLLAMA_MODELS کے ذریعے models کو data volume پر منتقل کریں
اگر منصوبے میں دوسری disk یا بڑی data volume شامل ہے تو root filesystem بھرنے سے پہلے store منتقل کریں۔ پہلے server کو stop کریں تاکہ ایسی file copy نہ ہو جو ابھی لکھی جا رہی ہو۔
sudo systemctl stop ollama
sudo mkdir -p /mnt/data/ollama-models
sudo rsync -a /the/directory/you/found/ /mnt/data/ollama-models/
sudo chown -R ollama:ollama /mnt/data/ollama-models
sudo systemctl edit ollama.servicesystemctl edit drop-in file میں editor کھولتا ہے۔ اس طرح packaged unit میں تبدیلی نہیں ہوتی اور package upgrade آپ کی تبدیلی overwrite نہیں کر سکتا۔ یہ دو lines شامل کریں:
[Service]
Environment="OLLAMA_MODELS=/mnt/data/ollama-models"sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment
ollama listsystemctl show کو آپ کا نیا path دکھانا چاہیے، اور ollama list کو وہی models دکھانے چاہییں جو منتقلی سے پہلے دکھائی دیتے تھے۔ اگر list خالی ہو تو تصدیق کریں کہ نئی directory میں copied store موجود ہے اور server اسے پڑھ سکتا ہے۔ Service، ollama user کے طور پر چلتی ہے، اس لیے اس user کو destination پر read اور write access درکار ہے۔ یہی کام اوپر دی گئی chown line کرتی ہے۔ نئے path سے متعلق permission errors کے لیے journalctl -e -u ollama دیکھیں۔ پرانی copy صرف اس وقت delete کریں جب list درست ہو، کیونکہ move ناکام ہونے کے بعد source delete کرنے کا مطلب ہے کہ سب کچھ دوبارہ download کرنا پڑے گا۔
دوسرا طریقہ original path برقرار رکھتا ہے اور data volume کو اسی پر mount کرتا ہے:
echo '/mnt/data/ollama-models /the/directory/you/found none bind 0 0' | sudo tee -a /etc/fstab
sudo mount -a
findmnt /the/directory/you/found
df -h /findmnt کا mount دکھانا ثابت کرتا ہے کہ bind فعال ہے۔ Bind mount اس وقت مفید ہے جب server پر کوئی دوسری چیز پہلے ہی default location کی توقع کرتی ہو۔ اس میں ایک مسئلہ ہے: جو files آپ نے copy کی ہیں وہ mount point کے نیچے root disk پر اب بھی موجود رہتی ہیں، لیکن mount ان کو چھپا دیتا ہے۔ اس لیے جب تک آپ unmount کر کے انہیں remove نہ کریں، disk space واپس نہیں ملتی۔ اگلے login کرنے والے شخص کو سمجھانے کے لیے environment variable ان دونوں طریقوں میں آسان ہے۔
اس کے بجائے container انہیں کہاں رکھتا ہے
Official image models کو اس directory میں محفوظ کرتی ہے جسے آپ mount کرتے ہیں، نہ کہ کسی ollama user سے متعلق host directory میں۔ Document کیا گیا run command یہ ہے:
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollamaColon سے پہلے ollama ایک named Docker volume ہے، جبکہ /root/.ollama وہ path ہے جہاں server container کے اندر data لکھتا ہے۔ اس لیے پچھلے section کے paths پر du کچھ نہیں پاتا، کیونکہ models وہاں موجود ہی نہیں ہیں۔ اصل location اور size دکھائیں:
docker volume inspect ollama
docker system df -v
docker exec -it ollama ollama listdocker volume inspect سے Mountpoint field پڑھیں، پھر اس پر sudo du -sh چلائیں۔ Models کو data volume پر رکھنے کے لیے named volume کو host directory (-v /mnt/data/ollama:/root/.ollama) سے بدلیں اور container دوبارہ بنائیں۔ Container root کے طور پر لکھتا ہے، اس لیے host directory کی ownership root کی ہو جاتی ہے۔ Rootless Podman میں container root default طور پر آپ کے host user کے UID اور GID سے map ہوتا ہے، جبکہ دیگر container IDs subordinate ranges استعمال کرتے ہیں: rootless Podman کے تحت Ollama چلانے کا طریقہ میں اس mapping کی وضاحت ہے۔
Cleanup کے بارے میں ایک انتباہ۔ سادہ docker volume prune صرف anonymous volumes کو remove کرتا ہے، اس لیے named ollama volume برقرار رہتا ہے، لیکن docker volume prune --all ہر وہ volume remove کر دیتا ہے جسے کوئی container refer نہیں کرتا، جس میں named volumes بھی شامل ہیں۔ Ollama container کو اس کے volume کے بغیر remove یا recreate کریں، اور بعد میں prune --all آپ کے download کیے ہوئے تمام models delete کر دے گا۔ انہیں دوبارہ download کرنے کے سوا کوئی راستہ نہیں بچے گا۔ Models رکھنے والے box پر prune چلانے سے پہلے VPS پر Docker disk usage prune کرنے کا طریقہ پڑھیں۔
Ollama میں model کو ollama rm کے ذریعے ہٹائیں، df کے ذریعے نہیں
ollama list
ollama rm gemma4
ollama list
df -h /ollama rm اس tag کا manifest حذف کرتا ہے، پھر وہ layers حذف کرتا ہے جن کا کوئی باقی manifest حوالہ نہیں دیتا۔ جیسے ہی یہ files unlink ہوتی ہیں، جگہ واپس دستیاب ہو جاتی ہے، اس لیے df فوراً آگے بڑھ جاتا ہے۔ چونکہ layers مشترکہ ہوتی ہیں، اس لیے دو قریباً متعلقہ tags میں سے ایک کو ہٹانے سے عموماً ollama list کے ساتھ دکھائے گئے حجم سے کہیں کم جگہ خالی ہو سکتی ہے۔ یہ درست رویہ ہے، ناکام deletion نہیں۔
Files کو دستی طور پر حذف کرنے سے یہ جوڑا خراب ہو جاتا ہے۔ rm کے ذریعے blob حذف کریں تو manifest میں وہ اب بھی درج رہتا ہے، اس لیے ollama list model دکھاتا رہتا ہے، اور اسے استعمال کرنے کی ہر کوشش missing layer پڑھتے وقت ناکام ہو جاتی ہے۔ Manifest کو دستی طور پر حذف کریں تو اس کی layers disk پر موجود رہتی ہیں، مگر ان کی طرف اشارہ کرنے والا کچھ باقی نہیں رہتا؛ یوں ایسی جگہ استعمال ہوتی رہتی ہے جسے کوئی Ollama command آپ کو رپورٹ نہیں کرے گی۔ اگر آپ پہلے ہی blob حذف کر چکے ہیں تو tag پر ollama rm چلانے سے باقی ماندہ entry صاف ہو جاتی ہے؛ اگر آپ نے manifest حذف کیا تھا تو ہٹانے کے لیے کوئی tag entry باقی نہیں رہتی۔ جب کوئی layer ایک گھنٹے سے زیادہ پرانی ہو اور کوئی اس کا حوالہ نہ دے رہا ہو تو server کو restart کرنے سے ایسی layers صاف ہو جاتی ہیں۔
آخر میں ایک اہم فرق، کیونکہ دونوں کو مسلسل خلط ملط کیا جاتا ہے۔ ollama rm کا تعلق disk سے ہے۔ ollama stop gemma4 model کو memory سے unload کرتا ہے اور disk کی کوئی جگہ خالی نہیں کرتا۔ Download مکمل ہونے کے بعد model کتنی دیر RAM میں موجود رہتا ہے، یہ الگ setting ہے، اور ہر request پر دوبارہ load کرنے کے بجائے model کو loaded رکھنے میں اس کی وضاحت ہے۔
FAQ
ollama pull اور ollama run میں کیا فرق ہے؟
ollama pull ماڈل کو disk پر download کرتا ہے اور پھر exit ہو جاتا ہے۔ ollama run چیک کرتا ہے کہ ماڈل پہلے ہی disk پر موجود ہے یا نہیں، موجود نہ ہو تو اسے download کرتا ہے، memory میں load کرتا ہے، اور پھر chat model کے لیے interactive chat session کھولتا ہے۔ دونوں ایک ہی files کو ایک ہی directory میں لکھتے ہیں۔ Provisioning اور scripts میں pull استعمال کریں، اور جب کوئی شخص keyboard پر موجود ہو تو run استعمال کریں۔ ollama run <model> "your prompt" ایک prompt بھیج کر exit ہو جاتا ہے، جو run کی scriptable شکل ہے۔
میری پہلی ollama run کمانڈ بظاہر hang کیوں ہو جاتی ہے؟
یہ download، download کی verification، یا model loading کر رہی ہو سکتی ہے۔ Chat prompt اس وقت تک ظاہر نہیں ہو سکتا جب تک model disk پر موجود نہ ہو اور memory میں load نہ ہو جائے، اور ایک model کئی gigabytes کا ہوتا ہے۔ Ollama اپنا progress bar standard error پر لکھتا ہے، اس لیے کسی script کے اندر ایسا run جو اس stream کو discard کر دے، یا cron job کے اندر چلنے والا run، کام کے دوران آپ کو کچھ نہیں دکھاتا۔ دوسری session کھولیں اور watch -n5 df -h / چلائیں: نئے box پر free space کا مرحلہ وار کم ہونا download جاری ہونے کی علامت ہے۔ Download اور verification کے انتظار کو ختم کرنے کے لیے model پہلے ہی pull کر لیں؛ loading پھر بھی وقت لے گی۔
Ollama اپنے models کہاں store کرتا ہے؟
Location install کے طریقے پر منحصر ہوتی ہے، اس لیے فرض کرنے کے بجائے اسے print کریں۔ systemctl cat ollama.service چلائیں تاکہ معلوم ہو سکے کہ OLLAMA_MODELS unit یا drop-in میں set ہے یا نہیں۔ اگر یہ set نہ ہو تو store اس account کی home directory کے اندر ہوتا ہے جس account کے طور پر service چل رہی ہے؛ getent passwd ollama اسے print کرتا ہے۔ sudo find / -xdev -type d -name blobs 2>/dev/null layer directory کو براہ راست locate کرتا ہے۔ Container image کے لیے store mounted volume کے اندر ہوتا ہے، اور docker volume inspect ollama اس کا host Mountpoint print کرتا ہے۔
میں Ollama models کو دوسری disk پر کیسے منتقل کروں؟
Service stop کریں، rsync -a کے ذریعے store کو نئی location پر copy کریں، sudo chown -R ollama:ollama <directory> کے ذریعے directory service account کو دیں، پھر sudo systemctl edit ollama.service چلائیں اور Environment="OLLAMA_MODELS=<directory>" کو [Service] line کے تحت شامل کریں۔ sudo systemctl daemon-reload کے ذریعے reload کریں اور service restart کریں۔ systemctl show ollama --property=Environment اور ollama list سے تصدیق کریں۔ اگر list خالی ہو تو چیک کریں کہ نئی directory میں copied store موجود ہے اور ollama user اسے read کر سکتا ہے؛ permission errors کے لیے journalctl -e -u ollama چیک کریں۔
کیا model files delete کرنے سے disk space خالی ہو جاتا ہے؟
Files کو ہاتھ سے delete کرنے سے bytes تو خالی ہو جاتے ہیں، لیکن store inconsistent رہتا ہے۔ کوئی blob remove کرنے پر manifest میں وہ model پھر بھی درج رہتا ہے، اس لیے وہ ollama list میں ظاہر ہوتا رہتا ہے اور استعمال کے وقت fail ہو جاتا ہے۔ کوئی manifest remove کرنے پر اس کی layers disk پر باقی رہتی ہیں، لیکن ان کا حوالہ دینے والا کچھ نہیں رہتا۔ ollama rm <model> استعمال کریں؛ یہ manifest delete کرتا ہے اور پھر وہ layers بھی delete کرتا ہے جن کی کسی دوسرے model کو ضرورت نہیں۔ اگر کوئی blob پہلے ہی ہاتھ سے delete ہو چکا ہو تو entry صاف کرنے کے لیے tag پر ollama rm چلائیں۔ اگر manifest delete ہو چکا ہو تو remove کرنے کے لیے کوئی tag entry باقی نہیں رہتی۔ ان layers کو remove کرنے کے لیے server restart کریں جن کا کسی manifest میں حوالہ نہیں ہے اور جو ایک گھنٹے سے زیادہ پرانی ہیں۔