Ollama pull மற்றும் run வேறுபாடு என்ன? மாடல்களை மாற்றுவது
Ollama pull மற்றும் run கட்டளைகளுக்கு இடையேயான முக்கிய வேறுபாடுகளை அறியுங்கள். VPS root disk-ல் சேமிக்கப்படும் மாடல் கோப்புகளை எவ்வாறு எளிதாக வேறு இடத்திற்கு நகர்த்துவது எனப் பாருங்கள்.
ollama pull மற்றும் ollama run ஆகியவற்றுக்கு இடையேயான வேறுபாடு
ollama pull ஒரு model-ஐத் தரவிறக்கம் செய்துவிட்டு நின்றுவிடும். உள்ளூர் chat model-க்கு, ollama run model விடுபட்டிருந்தால் மட்டுமே அதைத் தரவிறக்கம் செய்யும், பின்னர் அதை நினைவகத்தில் (memory) ஏற்றி ஒரு interactive chat-ஐத் தொடங்கும். தரவிறக்கம் செய்யும் முறை ஒன்றுதான், கோப்புகளும் ஒரே இடத்தில்தான் சேமிக்கப்படும். run மட்டுமே அதன் பிறகு தொடர்ந்து இயங்கும். Embedding model-கள் chat பகுதிக்கு விதிவிலக்காகும்: அதிகாரப்பூர்வ ஆவணங்களின்படி, ollama run embeddinggemma "Hello world" ஒரு பதிலுக்குப் பதிலாக embedding-ஐ JSON array-ஆக அச்சிடும். உள்ளீட்டு உரை (input text) இல்லையெனில், ollama run ஒரு embedding model-ஐ embedding models require input text பிழையுடன் நிராகரிக்கும்.
இந்த ஒரு சிறிய வேறுபாடே, எந்தக் கட்டளையை script-ல் பயன்படுத்த வேண்டும், எதை keyboard மூலம் இயக்க வேண்டும் என்பதைத் தீர்மானிக்கிறது.
ollama pull gemma4
ollama run gemma4
ollama run gemma4 "Reply with one word: ready"முதல் வரி model-ஐப் பெற்றுவிட்டு வெளியேறிவிடும், எனவே இது provisioning மற்றும் systemd unit-களில் பயன்படுத்தப் பாதுகாப்பானது. இரண்டாவது வரி ஒரு chat session-ஐத் திறக்கும்; வெளியேற /bye எனத் தட்டச்சு செய்யவும் அல்லது Ctrl+D-ஐ அழுத்தவும். மூன்றாவது வரி ஒரு prompt-ஐ அனுப்பி, பதிலை அச்சிட்டுவிட்டு வெளியேறும்; ஒரு session-ஐ விட பதில் மட்டுமே தேவைப்படும் script-களுக்கு இதுவே சரியான வடிவம். அந்த மூன்றாவது வடிவம் பதிலின் நீளத்தை முழுமையாக model-ன் விருப்பத்திற்கே விட்டுவிடும், எனவே ஒரு வரி கேள்விக்கும் மூன்று பத்திகள் பதிலாக வரலாம். num_predict மூலம் பதிலைச் சுருக்குவது மட்டுமே, ஒரு script-ல் பயன்படுத்தப்படும் run-ன் வெளியீட்டை, அதை அழைக்கும் நிரல் பயன்படுத்தக்கூடிய அளவில் வைத்திருக்க உதவும். Model பெயர்கள் விரைவாக மாறக்கூடியவை, எனவே இங்கே உள்ள gemma4-ஐ ஒரு placeholder-ஆகக் கருதவும்: இது அக்டோபர் 2026 நிலவரப்படி அதிகாரப்பூர்வ Ollama ஆவணங்களில் பயன்படுத்தப்பட்டுள்ள உதாரணம்; இதே பணிப்பாய்வுக்கு (workflow) மற்றொரு local chat model-ஐப் பயன்படுத்தவும். :cloud-ல் முடியும் tags, உதாரணமாக gemma4:cloud, வேறுபட்டவை: Ollama இவற்றை model weights-ஐத் தரவிறக்கம் செய்யாமலேயே அதன் சொந்த server-களில் இயக்கும், எனவே கீழே குறிப்பிடப்பட்டுள்ள வட்டு இடவசதி (disk space) local model-களுக்கானது மட்டுமே. ஏற்கனவே ஒரு உண்மையான server-ல் அளவிடப்பட்ட (sized) model-ஐப் பயன்படுத்த விரும்பினால், Nemotron 3.5 Lightning-ஐ VPS-ல் இயக்குவது குறித்த வழிகாட்டி, நீங்கள் pull செய்ய வேண்டிய சரியான tag மற்றும் அதற்குத் தேவையான நினைவக அளவு குறித்த தகவல்களை வழங்கும்.
முதல் முறை ollama run இயக்கும்போது ஏன் உறைந்து போனது போல் உள்ளது
புதிய VPS-ல் முதல் முறை run இயக்கும்போது, பல நிமிடங்களுக்கு எந்த வெளியீடும் (output) இல்லாமல் இருக்கலாம். இதில் எந்தப் பிழையும் இல்லை. மாதிரி (model) கோப்பு வட்டில் பதிவிறக்கம் செய்யப்பட்டு நினைவகத்திற்கு (memory) ஏற்றப்படும் வரை chat prompt தோன்றாது. எனவே, உங்களுக்கு எதையும் காட்டுவதற்கு முன்பே run பல ஜிகாபைட் அளவிலான தரவைப் பதிவிறக்கம் செய்து கொண்டிருக்கிறது.
இந்தச் செயல்பாட்டை இரண்டு விஷயங்கள் மறைக்கின்றன. Ollama தனது progress bar-ஐ standard error-க்கு அனுப்புகிறது. எனவே, அந்த stream தவிர்க்கப்படும் இடங்களிலோ அல்லது 2>/dev/null-ல் முடியும் script அல்லது cron job போன்ற பின்னணிச் செயல்பாடுகளிலோ, பதிவிறக்கம் நடப்பது உங்களுக்குத் தெரியாது. தரவு பதிவிறக்கம் செய்யப்பட்ட பிறகும், முதல் token-ஐ உருவாக்குவதற்கு முன்பு கோப்பு வட்டில் இருந்து RAM-க்கு வாசிக்கப்பட வேண்டும். சிறிய VPS-களில் இந்த வாசிப்பு வேகம் குறைவாக இருக்கும். அந்த மாதிரிக்குத் தேவையான நினைவகம் அந்தச் சர்வரில் இல்லையென்றால், kernel swapping-ஐத் தொடங்கும், இதனால் காத்திருப்பு நேரம் இன்னும் அதிகரிக்கும்.
ஊகிப்பதற்குப் பதிலாக, இரண்டாவது session-லிருந்து இதைக் கவனியுங்கள்:
df -h /
watch -n5 df -h /புதிய சர்வரில், கிடைக்கும் காலியிடம் (free space) படிப்படியாகக் குறைந்து கொண்டே வந்தால், பதிவிறக்கம் இன்னும் நடந்து கொண்டிருக்கிறது என்று அர்த்தம். கட்டளை இன்னும் இயங்கிக் கொண்டிருக்கும்போது காலியிடம் குறைவது நின்றுவிட்டால், அது loading தொடங்கிவிட்டது என்று அர்த்தமல்ல: பதிவிறக்கம் முடிந்த பிறகு, Ollama ஒரு தனி verifying sha256 digest கட்டத்தைச் செயல்படுத்தும். இது manifest-ஐ எழுதி pull-ஐ முடிப்பதற்கு முன்பு கோப்புகளை வாசிக்கும். ஏற்கனவே மாதிரிகளைக் கொண்ட ஒரு சர்வர் Ollama 0.40.2 பதிப்பில் உங்களை ஏமாற்றலாம்: பழைய பதிப்பில் பதிவிறக்கம் செய்யப்பட்ட மாதிரியின் முதல் இயக்கம், பின்னணியில் மேம்படுத்தப்பட்ட நகலை எழுதி அசலை backup-ஆக வைத்திருக்கும். இதனால் பதிவிறக்கம் இல்லாமலேயே காலியிடம் குறையலாம். அக்டோபர் 11, 2026 அன்று வெளியிடப்பட்ட Ollama 0.40.3, அந்தப் பின்னணி மேம்படுத்தலை நிறுத்திவிட்டது.
இதனால்தான் முன்கூட்டியே pull செய்வது அவசியமாகிறது. ollama run என்று தட்டச்சு செய்பவர், பதிவிறக்கத்திற்காகக் காத்திருக்க வேண்டிய சூழல் இருக்கக்கூடாது.
எவரும் கோரும் முன்பே மாதிரியை (model) பதிவிறக்கவும்
மனிதர்கள் அல்லாத பிறவிகளுக்கும் இது பொருந்தும்: உங்கள் Ollama endpoint-ஐக் குறிவைக்கும் ஒரு coding agent, கோரப்பட்ட local model பதிவிறக்கம் செய்யப்படவில்லை எனில் model-not-found பிழையைப் பெறும்; inference கோரிக்கை தானாகவே மாதிரியைப் பதிவிறக்காது. ஒரு புதிய கணினியில், server-ஐ நிறுவும் அதே script-ல் இதையும் சேர்த்துப் பதிவிறக்கவும்:
curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4நீங்கள் முதல்முறையாக server-ஐ அமைப்பதாக இருந்தால், VPS-ல் முழுமையான Ollama நிறுவல் என்பது service-ஐயும், அதை அணுக யாருக்கு அனுமதி உண்டு என்பதையும் விளக்குகிறது. அதன் பிறகு, உங்கள் terminal அமர்வைத் தாண்டி நீடிக்கும் ஒரு பதிவிறக்கத்தை அமைப்பது அவசியம், ஏனெனில் பாதியில் துண்டிக்கப்படும் பதிவிறக்கம், முழுமையற்ற model store-க்கு வழிவகுக்கும்.
இதை tmux-க்குள் இயக்கவும், அல்லது boot-ன் போது இயங்கும் ஒரு one-shot unit-ஆக systemd-யிடம் ஒப்படைக்கவும். /etc/systemd/system/ollama-pull.service-ஐ எழுதவும்:
[Unit]
Description=Pre-pull Ollama models
Wants=ollama.service network-online.target
After=ollama.service network-online.target
[Service]
Type=oneshot
RemainAfterExit=yes
ExecStart=/bin/sh -c 'until ollama list >/dev/null 2>&1; do sleep 2; done'
ExecStart=/bin/sh -c 'ollama pull gemma4'
[Install]
WantedBy=multi-user.targetஇரண்டு கட்டளைகளும் திட்டமிட்டு /bin/sh -c வழியாகவே இயங்குகின்றன. ஒரு சாதாரண ExecStart=, முழுமையான path-ஐ அல்லது systemd-ன் நிலையான search path மூலம் கண்டறியப்படும் ஒரு executable பெயரை ஏற்கும்; command -v ollama உங்கள் தற்போதைய shell கண்டறியும் path-ஐக் காட்டும். Shell வழியாகச் செல்வது, ஒரு guide-லிருந்து நகலெடுக்கப்பட்ட path-க்கு பதிலாக, service-ன் சொந்த PATH-ஐப் பயன்படுத்தும். முதல் ExecStart-ம் முக்கியமானது: After=ollama.service என்பது server unit தொடங்கப்பட்டுவிட்டது என்று பொருள், ஆனால் அது பயன்பாட்டிற்குத் தயாராக உள்ளது என்று அர்த்தமல்ல, எனவே ollama list பதிலளிக்கும் வரை இந்த loop காத்திருக்கும், அதன் பிறகே பதிவிறக்கம் தொடங்கும்.
sudo systemctl daemon-reload
sudo systemctl enable --now ollama-pull.service
journalctl -u ollama-pull.serviceJournal-ல் பதிவிறக்கம் எந்தப் பிழையுமின்றி முடிவடைந்ததைக் காட்ட வேண்டும், அதன் பிறகு ollama list அந்த மாதிரியைக் காட்ட வேண்டும். மாறிக்கொண்டே இருக்கும் ஒரு tag-ஐப் புதுப்பித்த நிலையில் வைத்திருக்க, அதே பதிவிறக்கத்தை இயக்கும் ஒரு systemd timer அல்லது வாராந்திர cron entry-ஐச் சேர்க்கவும். மாறிய ஒரு tag-ஐ மீண்டும் பதிவிறக்கும்போது, அது புதிய layers-ஐப் பதிவிறக்கும், மேலும் பெரும்பாலான மாதிரிகளுக்கு, அந்தப் பதிவிறக்கத்தின் முடிவில் பயன்படுத்தப்படாத பழைய layers-ஐ நீக்கிவிடும்.
பதிவிறக்கம் (pull) தடைபட்டால் என்ன நடக்கும்
ஒரு மாதிரியின் (model) ஒவ்வொரு அடுக்கமும் (layer) அதன் உள்ளடக்கத்தின் hash மதிப்பைக் கொண்டு சேமிக்கப்படுகிறது. எனவே, தடைபட்ட பதிவிறக்கம் வீணான வேலை அல்ல: அதே ollama pull கட்டளையை மீண்டும் இயக்கினால், ஏற்கனவே முடிவடைந்த அடுக்குகள் கண்டறியப்பட்டு தவிர்க்கப்படும்; தடைபட்ட இடத்திலிருந்து பதிவிறக்கம் தொடரும்.
ஒரு செயல் இந்த முன்னேற்றத்தை அழிக்கக்கூடும். Ollama server தொடங்கும் போது, எந்த ஒரு model manifest-உடனும் தொடர்பில்லாத பகுதி பதிவிறக்கங்களையும், சேமிக்கப்பட்ட அடுக்குகளையும் அது நீக்கிவிடும். பாதியில் நின்ற பதிவிறக்கத்தின் துண்டுகள் அத்தகையவையே. தற்போதைய வெளியீடுகள் (0.40.11, 26 October 2026 அன்று சரிபார்க்கப்பட்டது) கடந்த ஒரு மணி நேரத்திற்குள் எழுதப்பட்ட எந்தக் கோப்பையும் தவிர்க்கும். எனவே, பதிவிறக்கம் நின்றவுடன் server-ஐ மறுதொடக்கம் செய்வது பாதிப்பை ஏற்படுத்தாது. ஆனால், பல மணி நேரங்களுக்குப் பிறகு மறுதொடக்கம் செய்தால், நீங்கள் ஏற்கனவே பதிவிறக்கிய துண்டுகள் நீக்கப்படும். முதலில் பதிவிறக்கத்தை மீண்டும் முயற்சி செய்துவிட்டு, பிறகு server-ஐ மறுதொடக்கம் செய்யவும். ஒரு பகுதி பதிவிறக்கம் மறுதொடக்கம் செய்த பிறகும் நீடிக்க வேண்டும் என்றால், service environment-ல் OLLAMA_NOPRUNE=1-ஐ அமைக்கவும். பிறகு அதை நீக்கிவிடவும், ஏனெனில் அந்த variable ஒவ்வொரு பதிவிறக்கத்தின் முடிவிலும் நடக்கும் cleanup-ஐயும் நிறுத்திவிடும். அந்த இரண்டு cleanup செயல்பாடுகளுமே வட்டில் (disk) தேவையற்ற அடுக்குகள் சேர்வதைத் தடுக்கின்றன.
பதிவிறக்கம் no space left on device பிழையுடன் நின்றால், மீண்டும் முயற்சிக்கும் முன் வட்டில் இடவசதியை ஏற்படுத்தவும். df வட்டு முழுமையாக இருப்பதாகக் காட்டி, model directory-ல் du கட்டளை அதற்கான காரணத்தை விளக்கவில்லை என்றால், அந்த இடம் வேறு எங்கோ பயன்படுத்தப்படுகிறது என்று அர்த்தம். எதையும் நீக்கும் முன் df மற்றும் du ஏன் முரண்படுகின்றன என்பதற்கான காரணங்கள் என்பதைப் படிப்பது நல்லது.
VPS-ல் Ollama மாடல்களை எங்கே சேமிக்கிறது?
எந்தவொரு வழிகாட்டியையும் நம்புவதை விட, உங்கள் கணினியிடமே நேரடியாகக் கேட்டுத் தெரிந்துகொள்வது சிறந்தது. ஒரு package install-க்கும் container-க்கும் இடையே இந்த இடம் மாறுபடும், மேலும் யாராவது OLLAMA_MODELS-ஐ அமைத்திருந்தால் அது மீண்டும் மாறும்.
systemctl cat ollama.service
getent passwd ollama
sudo find / -xdev -type d -name blobs 2>/dev/nullsystemctl cat கட்டளையானது unit file-ஐ அதன் அனைத்து drop-in கோப்புகளுடன் அச்சிடும், எனவே நீங்கள் அமைத்த அல்லது உங்கள் image-ல் ஏற்கனவே உள்ள OLLAMA_MODELS வரி அதில் தெரியும். அத்தகைய வரி எதுவும் இல்லை என்றால், service இயங்கும் கணக்கின் home directory-க்கு அடியிலேயே இந்தச் சேமிப்பகம் இருக்கும். getent passwd கட்டளையானது அந்த home directory-ஐ ஆறாவது colon-separated பகுதியில் அச்சிடும். find கட்டளையானது blobs directory-ஐக் கண்டறிய ஒரு filesystem-ஐத் தேடும், அங்குதான் layers உண்மையில் எழுதப்படுகின்றன. மாடல்கள் ஏற்கனவே தனி mount-ல் இருக்கலாம் எனில் -xdev-ஐத் தவிர்க்கவும்.
இப்போது அளவீடு செய்து, உங்கள் கணினியின் தரவுகளைப் பாருங்கள்:
ollama list
df -h /
sudo du -sh /the/directory/you/found
sudo du -h -d1 /the/directory/you/foundஇந்தச் சேமிப்பகத்தில் இரண்டு வகையான உள்ளடக்கங்கள் உள்ளன. Manifest directory-கள் (manifests, தற்போதைய releases-ல் manifests-v2 மூலம் இணைக்கப்பட்டுள்ளது) ஒவ்வொரு model tag-க்கும் தேவையான layers-ஐப் பட்டியலிடும் சிறிய கோப்புகளைக் கொண்டிருக்கும். blobs என்பது layers-ஐத் தன்னகத்தே கொண்டுள்ளது; ஒவ்வொன்றும் அதன் உள்ளடக்கத்தின் hash மதிப்பால் பெயரிடப்பட்டிருக்கும். சேமிப்பகத்தின் பெரும்பகுதி இதில்தான் இருக்கும். Layers பல tags-க்கு இடையே பகிரப்படுவதால், ஒரே weights-ஐக் கொண்ட இரண்டு மாடல்கள் ollama list-ல் தனித்தனியாகத் தங்கள் அளவைக் காட்டும், ஆனால் வட்டில் அந்த இடத்தை ஒருமுறை மட்டுமே ஆக்கிரமிக்கும். எனவே, பட்டியலிடப்பட்ட அளவுகளின் கூடுதல், du அந்த directory-க்குக் காட்டும் அளவை விட அதிகமாக இருக்கலாம். Ollama 0.40.2 பதிப்பில் ஒரு ஆச்சரியமான விஷயம் உள்ளது: பின்னணியில் மேம்படுத்தப்பட்ட (upgraded) மாடல்கள், அவற்றின் பழைய பிரதிகளை backup-ஆக வட்டில் வைத்திருக்கும். இதை ollama list இரண்டு முறை காட்டாது, எனவே du பட்டியலை விட அதிகமான இடத்தைப் பயன்படுத்தியதாகக் காட்டலாம். 0.40.2 release notes-ல் அந்த backup-களை மட்டும் நீக்கும் script ஒன்று உள்ளது.
மாடல் கோப்புகள் ஒரு சிறிய VPS root filesystem-ஐ நீங்கள் நிறுவும் மற்ற எதை விடவும் வேகமாக நிரப்பிவிடும். அவற்றின் அளவில் மிகப்பெரிய மாற்றத்தை ஏற்படுத்துவது weight format ஆகும். q4, q8 மற்றும் fp16 ஆகியவற்றுக்கு இடையே தேர்ந்தெடுப்பது ஒரு மாடலுக்கு பல gigabytes-ஐச் சேமிக்க உதவும்.
OLLAMA_MODELS மூலம் மாதிரிகளை (models) ஒரு தரவு வால்யூமிற்கு (data volume) நகர்த்துதல்
திட்டமிட்டபடி இரண்டாவது வட்டு (disk) அல்லது பெரிய தரவு வால்யூம் இருந்தால், root filesystem நிரம்புவதற்கு முன்பே சேமிப்பகத்தை நகர்த்தவும். முதலில் server-ஐ நிறுத்தவும், அப்போதுதான் எழுதப்பட்டுக்கொண்டிருக்கும் கோப்புகளை நகலெடுப்பதைத் தவிர்க்கலாம்.
sudo systemctl stop ollama
sudo mkdir -p /mnt/data/ollama-models
sudo rsync -a /the/directory/you/found/ /mnt/data/ollama-models/
sudo chown -R ollama:ollama /mnt/data/ollama-models
sudo systemctl edit ollama.servicesystemctl edit ஒரு drop-in கோப்பைத் திறக்கும், இதனால் தொகுக்கப்பட்ட unit கோப்பு மாறாமல் இருக்கும் மற்றும் package upgrade செய்யும்போது உங்கள் மாற்றங்கள் அழிந்துவிடாது. இந்த இரண்டு வரிகளைச் சேர்க்கவும்:
[Service]
Environment="OLLAMA_MODELS=/mnt/data/ollama-models"sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment
ollama listsystemctl show உங்கள் புதிய பாதையைக் காட்ட வேண்டும், மேலும் ollama list நகர்த்தலுக்கு முன்பு காட்டிய அதே மாதிரிகளைக் காட்ட வேண்டும். பட்டியல் காலியாக இருந்தால், புதிய கோப்பகத்தில் நகலெடுக்கப்பட்ட சேமிப்பகம் உள்ளதா என்பதையும், server-ஆல் அதை வாசிக்க முடிகிறதா என்பதையும் சரிபார்க்கவும். இந்த service ollama பயனர் கணக்கில் இயங்குகிறது, எனவே அந்தப் பயனருக்கு இலக்கு கோப்பகத்தில் வாசிக்கும் மற்றும் எழுதும் அனுமதி இருக்க வேண்டும்; இது மேலே உள்ள chown வரியின் பணியாகும். புதிய பாதையைக் குறிப்பிடும் அனுமதிப் பிழைகளுக்கு journalctl -e -u ollama-ஐச் சரிபார்க்கவும். பட்டியல் சரியாக வந்த பிறகு மட்டுமே பழைய நகலை நீக்கவும், ஏனெனில் நகர்த்தல் தோல்வியடைந்து மூலக் கோப்புகள் நீக்கப்பட்டால், அனைத்தையும் மீண்டும் பதிவிறக்க வேண்டியிருக்கும்.
மற்றொரு வழி, அசல் பாதையை அப்படியே வைத்துக்கொண்டு, தரவு வால்யூமை அதன் மேல் mount செய்வது:
echo '/mnt/data/ollama-models /the/directory/you/found none bind 0 0' | sudo tee -a /etc/fstab
sudo mount -a
findmnt /the/directory/you/found
df -h /findmnt mount விவரத்தைக் காட்டுவது, bind செயல்பாட்டில் இருப்பதைக் குறிக்கிறது. கணினியில் உள்ள ஏதேனும் ஒரு அம்சம் இயல்புநிலை இருப்பிடத்தையே எதிர்பார்க்கும் போது, இந்த bind mount பயனுள்ளதாக இருக்கும். இதில் ஒரு சிக்கல் உள்ளது: நீங்கள் நகலெடுத்த கோப்புகள் root disk-ல் உள்ள mount point-க்கு அடியில் மறைந்திருக்கும், எனவே நீங்கள் unmount செய்து அவற்றை நீக்கும் வரை வட்டு இடம் (space) விடுவிக்கப்படாது. அடுத்ததாக உள்நுழையும் நபருக்கு விளக்குவதற்கு, environment variable முறையே எளிதானது.
கண்டெய்னர் அவற்றை எங்கே வைத்திருக்கிறது
அதிகாரப்பூர்வ image, நீங்கள் mount செய்யும் இடத்தில்தான் மாதிரிகளை (models) சேமிக்கும்; இது ollama பயனருக்குச் சொந்தமான எந்தவொரு host கோப்பகத்திலும் (directory) இருக்காது. ஆவணப்படுத்தப்பட்ட run கட்டளை இதுதான்:
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollamaகோலனுக்கு (colon) முன்னால் உள்ள ollama என்பது ஒரு பெயரிடப்பட்ட Docker volume ஆகும், /root/.ollama என்பது கண்டெய்னருக்குள் server எழுதும் இடமாகும். எனவே, முந்தைய பகுதியில் உள்ள பாதைகளை வைத்து du கட்டளையை இயக்கினால் எதுவும் கிடைக்காது, ஏனெனில் அங்கு தரவுகள் இல்லை. உண்மையான இருப்பிடத்தையும் அளவையும் அறிய இதைப் பயன்படுத்தவும்:
docker volume inspect ollama
docker system df -v
docker exec -it ollama ollama listdocker volume inspect-லிருந்து Mountpoint புலத்தைப் படித்து, அதன் மீது sudo du -sh கட்டளையை இயக்கவும். மாதிரிகளை ஒரு data volume-ல் வைக்க, பெயரிடப்பட்ட volume-க்கு பதிலாக ஒரு host கோப்பகத்தை (-v /mnt/data/ollama:/root/.ollama) குறிப்பிட்டு கண்டெய்னரை மீண்டும் உருவாக்கவும். கண்டெய்னர் root பயனராக எழுதுவதால், அந்த host கோப்பகம் root பயனருக்குச் சொந்தமாகிவிடும். rootless Podman-ல், கண்டெய்னரின் root இயல்பாகவே உங்கள் host பயனரின் UID மற்றும் GID-க்கு map செய்யப்படும், மற்ற கண்டெய்னர் ID-கள் subordinate வரம்புகளைப் பயன்படுத்தும்: rootless Podman-ல் Ollama-வை இயக்குவது குறித்த பகுதியில் அந்த mapping விளக்கப்பட்டுள்ளது.
சுத்தம் செய்வது (cleanup) குறித்து ஒரு எச்சரிக்கை. சாதாரண docker volume prune கட்டளை anonymous volume-களை மட்டுமே நீக்கும், எனவே அது பெயரிடப்பட்ட ollama volume-ஐத் தொடாது. ஆனால், docker volume prune --all கட்டளை எந்த கண்டெய்னருடனும் தொடர்பில்லாத அனைத்து volume-களையும், பெயரிடப்பட்டவை உட்பட, நீக்கிவிடும். ollama கண்டெய்னரை அதன் volume இல்லாமல் நீக்கினாலோ அல்லது மீண்டும் உருவாக்கினாலோ, பின்னர் இயக்கப்படும் prune --all கட்டளை நீங்கள் பதிவிறக்கிய அனைத்து மாதிரிகளையும் நீக்கிவிடும்; அவற்றை மீண்டும் பதிவிறக்குவதைத் தவிர வேறு வழியில்லை. மாதிரிகள் உள்ள ஒரு VPS-ல் prune கட்டளையை இயக்கும் முன் Docker disk பயன்பாட்டை எவ்வாறு குறைப்பது என்பதைப் படிக்கவும்.
ollama rm கட்டளையைப் பயன்படுத்தி ஒரு model-ஐ நீக்கவும், rm கட்டளையைப் பயன்படுத்த வேண்டாம்
ollama list
ollama rm gemma4
ollama list
df -h /ollama rm அந்த tag-க்கான manifest-ஐ நீக்குகிறது, பின்னர் எந்த manifest-உம் குறிக்காத layers-ஐ நீக்குகிறது. அந்த கோப்புகள் unlinked செய்யப்பட்டவுடன் சேமிப்பக இடம் மீண்டும் கிடைத்துவிடும், எனவே df உடனடியாகச் செயல்படும். Layers பகிரப்படுவதால், நெருங்கிய தொடர்புடைய இரண்டு tags-ல் ஒன்றை நீக்குவது, அதன் அருகில் அச்சிடப்பட்ட ollama list அளவை விட மிகக் குறைந்த இடத்தையே விடுவிக்கலாம். இது சரியான செயல்பாடே, நீக்கம் தோல்வியடைந்ததல்ல.
கோப்புகளை நேரடியாக நீக்குவது இந்த இணைப்பைச் சிதைக்கும். rm மூலம் ஒரு blob-ஐ நீக்கினால், manifest இன்னும் அதைக் காட்டும், எனவே ollama list அந்த model-ஐ தொடர்ந்து காட்டும், மேலும் விடுபட்ட layer-ஐ வாசிக்க முயலும்போது அதைப் பயன்படுத்தும் முயற்சி தோல்வியடையும். ஒரு manifest-ஐ நேரடியாக நீக்கினால், அதன் layers வட்டில் (disk) தங்கிவிடும், அவற்றை எதற்கும் குறிக்காமல் இருக்கும், மேலும் எந்த Ollama கட்டளையும் இதைப் பற்றி உங்களுக்குத் தெரிவிக்காது. நீங்கள் ஏற்கனவே ஒரு blob-ஐ நீக்கியிருந்தால், அந்த tag-ல் ollama rm செய்வது எஞ்சியிருக்கும் பதிவை நீக்கும்; நீங்கள் manifest-ஐ நீக்கியிருந்தால், நீக்குவதற்கு tag பதிவு எதுவும் இருக்காது. server-ஐ மறுதொடக்கம் செய்வது (restart), ஒரு மணி நேரத்திற்கு மேலாக எதற்கும் பயன்படாத layers-ஐ நீக்கிவிடும்.
கடைசியாக ஒரு வேறுபாடு, ஏனெனில் இவை இரண்டும் அடிக்கடி குழப்பமடைகின்றன. ollama rm வட்டு (disk) சார்ந்தது. ollama stop gemma4 ஒரு model-ஐ நினைவகத்திலிருந்து (memory) நீக்குகிறது, இது வட்டில் எந்த இடத்தையும் விடுவிப்பதில்லை. பதிவிறக்கம் முடிந்த பிறகு ஒரு model எவ்வளவு காலம் RAM-ல் இருக்கும் என்பது தனி அமைப்பாகும், மேலும் ஒவ்வொரு கோரிக்கையின் போதும் reload செய்வதற்குப் பதிலாக ஒரு model-ஐ loaded நிலையில் வைத்திருப்பது இதைப் பற்றி விளக்குகிறது.
FAQ
ollama pull மற்றும் ollama run ஆகியவற்றுக்கு இடையே உள்ள வேறுபாடு என்ன?
ollama pull ஒரு model-ஐ disk-ல் பதிவிறக்கம் செய்துவிட்டு வெளியேறிவிடும். ollama run அந்த model ஏற்கனவே disk-ல் உள்ளதா என்று சரிபார்க்கும்; இல்லையெனில் அதை பதிவிறக்கம் செய்து, memory-ல் ஏற்றி, chat model எனில் ஒரு interactive chat session-ஐத் தொடங்கும். இவை இரண்டும் ஒரே கோப்புகளை ஒரே directory-ல் தான் எழுதும். Provisioning மற்றும் scripts-ல் pull-ஐப் பயன்படுத்தவும், பயனர் நேரடியாக keyboard-ல் இருக்கும்போது run-ஐப் பயன்படுத்தவும். ollama run <model> "your prompt" ஒரு prompt-ஐ அனுப்பிவிட்டு வெளியேறிவிடும், இது run-ன் scriptable வடிவம் ஆகும்.
எனது முதல் ollama run ஏன் hang ஆவது போல் தோன்றுகிறது?
அது model-ஐப் பதிவிறக்கம் செய்துகொண்டிருக்கலாம், பதிவிறக்கத்தைச் சரிபார்த்துக்கொண்டிருக்கலாம் அல்லது memory-ல் ஏற்றிக்கொண்டிருக்கலாம். Model disk-ல் பதிவிறக்கம் செய்யப்பட்டு memory-ல் ஏற்றப்படும் வரை chat prompt தோன்றாது; ஒரு model பல gigabytes அளவுடையது. Ollama தனது progress bar-ஐ standard error-ல் எழுதும். எனவே, அந்த stream-ஐத் தவிர்க்கும் script-க்குள் அல்லது cron job-க்குள் run-ஐப் பயன்படுத்தினால், அது வேலை செய்யும்போது உங்களுக்கு எதுவும் தெரியாது. இரண்டாவது session-ஐத் திறந்து watch -n5 df -h /-ஐ இயக்கவும்: புதிய கணினியில், free space படிப்படியாகக் குறைவது பதிவிறக்கம் நடைபெறுவதைக் குறிக்கும். பதிவிறக்கம் மற்றும் சரிபார்ப்பு நேரத்தைத் தவிர்க்க, model-ஐ முன்கூட்டியே pull செய்யவும்; loading-க்கு இன்னும் சிறிது நேரம் எடுக்கும்.
Ollama தனது model-களை எங்கே சேமிக்கிறது?
இதன் இருப்பிடம் installation-ஐப் பொறுத்தது, எனவே ஊகிப்பதற்குப் பதிலாக அதை print செய்து பார்க்கவும். Unit file அல்லது drop-in-ல் OLLAMA_MODELS அமைக்கப்பட்டுள்ளதா என்று பார்க்க systemctl cat ollama.service-ஐ இயக்கவும். அது அமைக்கப்படவில்லை எனில், service இயங்கும் account-ன் home directory-க்குள் சேமிப்பு இருக்கும், அதை getent passwd ollama காட்டும். sudo find / -xdev -type d -name blobs 2>/dev/null layer directory-ஐ நேரடியாகக் கண்டறியும். Container image-க்கு, சேமிப்பு mounted volume-க்குள் இருக்கும், மேலும் docker volume inspect ollama அதன் host Mountpoint-ஐக் காட்டும்.
Ollama model-களை மற்றொரு disk-க்கு எப்படி நகர்த்துவது?
Service-ஐ நிறுத்தவும், rsync -a மூலம் சேமிப்பை புதிய இடத்திற்கு நகலெடுக்கவும், sudo chown -R ollama:ollama <directory> மூலம் அந்த directory-ஐ service account-க்கு வழங்கவும், பின்னர் sudo systemctl edit ollama.service-ஐ இயக்கி [Service] வரியின் கீழ் Environment="OLLAMA_MODELS=<directory>"-ஐச் சேர்க்கவும். sudo systemctl daemon-reload மூலம் reload செய்து restart செய்யவும். systemctl show ollama --property=Environment மற்றும் ollama list மூலம் உறுதிப்படுத்தவும். பட்டியல் காலியாக இருந்தால், புதிய directory-ல் நகலெடுக்கப்பட்ட சேமிப்பு உள்ளதா மற்றும் ollama பயனர் அதை வாசிக்க முடியுமா என்று சரிபார்க்கவும்; அனுமதிப் பிழைகளுக்கு journalctl -e -u ollama-ஐச் சரிபார்க்கவும்.
Model கோப்புகளை நீக்கினால் இடம் கிடைக்குமா?
கோப்புகளை நீங்களாகவே நீக்கினால் bytes விடுவிக்கப்படும், ஆனால் சேமிப்பு சீரற்றதாகிவிடும் (inconsistent). ஒரு blob-ஐ நீக்கினால், manifest அந்த model-ஐ இன்னும் பட்டியலிடும், அதனால் அது ollama list-ல் தொடர்ந்து தோன்றும் மற்றும் பயன்படுத்தும்போது தோல்வியடையும். ஒரு manifest-ஐ நீக்கினால், அதன் layers எதற்கும் பயன்படாமல் disk-ல் தங்கிவிடும். ollama rm <model>-ஐப் பயன்படுத்தவும்; இது manifest-ஐ நீக்கிவிட்டு, வேறு எந்த model-க்கும் தேவைப்படாத layers-ஐயும் நீக்கிவிடும். ஒரு blob ஏற்கனவே நீக்கப்பட்டிருந்தால், அந்த entry-ஐ நீக்க tag-ல் ollama rm-ஐ இயக்கவும். Manifest நீக்கப்பட்டிருந்தால், நீக்குவதற்கு tag entry எதுவும் இருக்காது. எந்த manifest-உம் குறிப்பிடாத layers ஒரு மணி நேரத்திற்கு மேல் பழையதாகிவிட்டால், அவற்றை நீக்க server-ஐ restart செய்யவும்.