ollama pull vs run: model files எங்கே சேமிக்கப்படும்?

ollama pull மற்றும் ollama run

ollama pull ஒரு model-ஐ download செய்து நிறுத்திக் கொள்கிறது. ollama run model இல்லாதபோது மட்டுமே அதை download செய்கிறது; பின்னர் memory-ல் load செய்து interactive chat-ஐத் திறக்கிறது. Download செயல்முறை இரண்டிலும் ஒன்றே; files ஒரே இடத்தில் சேமிக்கப்படும். அதன் பிறகு தொடர்ந்து இயங்குவது run மட்டுமே.

எந்த command script-ல் பயன்படுத்த வேண்டும், எது keyboard முன் பயன்படுத்த வேண்டும் என்பதை இந்த ஒரு வேறுபாடே தீர்மானிக்கிறது.

ollama pull gemma4
ollama run gemma4
ollama run gemma4 "Reply with one word: ready"

முதல் வரி model-ஐ fetch செய்து வெளியேறுகிறது. எனவே provisioning மற்றும் systemd unit-ல் இதைப் பாதுகாப்பாகப் பயன்படுத்தலாம். இரண்டாவது வரி chat session-ஐத் திறக்கும்; வெளியேற /bye என்று type செய்யவும் அல்லது Ctrl+D அழுத்தவும். மூன்றாவது வரி ஒரு prompt-ஐ மட்டும் அனுப்பி, பதிலை print செய்து வெளியேறுகிறது. Session தேவையின்றி ஒரு பதில் தேவைப்படும் script-க்கு இதுவே பொருத்தமான வடிவம். ஆனால் இந்த மூன்றாவது வடிவத்தில் பதிலின் நீளம் முழுமையாக model-ஐப் பொறுத்தது. எனவே ஒரு வரிக் கேள்விக்கு மூன்று paragraphs பதிலாக வரலாம். num_predict மூலம் பதிலின் நீளத்தை வரம்பிடுதல் மட்டுமே scripted run-ஐ caller பயன்படுத்தக்கூடிய அளவுக்குள் வைத்திருக்கும். Model names விரைவாக மாறுகின்றன. எனவே இங்கு gemma4-ஐ ஒரு placeholder ஆகக் கருதவும். August 2026 நிலவரப்படி official Ollama documentation பயன்படுத்தும் example இதுவாகும்; library-ல் உள்ள எந்த tag-உம் இதே முறையில் செயல்படும். ஏற்கனவே ஒரு real server-ல் அளவிடப்பட்ட model-ஐப் பயன்படுத்த விரும்பினால், VPS-ல் Nemotron 3.5 Lightning இயக்குதல் பகுதியில் pull செய்ய வேண்டிய exact tag மற்றும் தேவைப்படும் memory அளவு கொடுக்கப்பட்டுள்ளது.

முதல் ollama run உறைந்துவிட்டது போல் தோன்றுவதற்கான காரணம்

புதிய VPS-ல் முதல் run பல நிமிடங்களுக்கு எந்த output-உம் இல்லாமல் நிற்கலாம். எந்தப் பிரச்சினையும் ஏற்பட்டிருக்காது. Model disk-ல் சேமிக்கப்பட்டு memory-யில் load ஆகும் வரை chat prompt தோன்றாது. எனவே, run முதலில் நீங்கள் பார்க்கக்கூடிய output எதையும் காட்டாமல் பல gigabyte அளவிலான download-ஐச் செய்கிறது.

இந்த செயல்பாட்டை இரண்டு விஷயங்கள் மறைக்கின்றன. அதன் output terminal-க்கு செல்கிறது என்றால் மட்டுமே Ollama progress bar-ஐக் காட்டும். ஆகவே shell script, cron job, CI step அல்லது plain ssh host ollama run ...-க்குள் இயங்கும் run download நடைபெறும் நேரத்தில் எதையும் print செய்யாது. Bytes disk-ல் எழுதப்பட்ட பிறகும், முதல் token தோன்றுவதற்கு முன் அந்த file disk-லிருந்து RAM-க்கு read செய்யப்பட வேண்டும். சிறிய VPS-ல் இந்த read மெதுவாக இருக்கும். Model-ஐ வைத்திருக்க server-ல் போதுமான memory இல்லையெனில், kernel swapping தொடங்கும். இதனால் காத்திருக்கும் நேரம் மேலும் அதிகரிக்கும்.

ஊகிப்பதற்குப் பதிலாக, இரண்டாவது session-இலிருந்து இதைக் கண்காணிக்கவும்:

df -h /
watch -n5 df -h /

Free space படிப்படியாகக் குறைந்தால் download இன்னும் நடைபெறுகிறது. Command இன்னும் busy நிலையில் இருக்கும் போதும் free space குறைவது நிறுத்தப்பட்டால், download முடிந்து memory-க்குள் load செய்வது தொடங்கியுள்ளது.

இதனால்தான் முன்கூட்டியே pull செய்ய வேண்டும். ollama run என்று type செய்பவர் download-க்கான காத்திருப்பை ஒருபோதும் ஏற்க வேண்டிய நபராக இருக்கக் கூடாது.

யாரும் கேட்பதற்கு முன் model-ஐ pull செய்யவும்

ஒரு நபர் அல்லாத எதற்கும் இதே நடைமுறை பொருந்தும்: உங்கள் Ollama endpoint-ஐ நோக்கி அமைக்கப்பட்ட coding agent பல gigabyte அளவிலான download முடியும் வரை காத்திருக்காமல், முதல் request-லேயே பொதுவாக முயற்சியை கைவிடும். புதிய box-ல் server-ஐ நிறுவும் அதே script-ல் model-ஐ pull செய்யவும்:

curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4

Server-ஐ முதல் முறையாக அமைக்கிறீர்கள் என்றால், VPS-ல் முழுமையான Ollama install service பற்றியும் அதை அணுக அனுமதிக்கப்பட்டவர்கள் பற்றியும் விளக்குகிறது. அதன் பிறகு அமைக்க வேண்டியது, உங்கள் terminal-ஐ மூடிய பிறகும் தொடரும் pull ஆகும். நடுவில் நிறுத்தப்பட்ட download காரணமாக model store பாதியாக நிரம்பிய நிலையில் இருப்பது பொதுவான பிரச்சினையாகும்.

இதை tmux-க்குள் இயக்கவும். அல்லது boot நேரத்தில் ஒருமுறை இயங்கும் unit ஆக systemd-க்கு வழங்கவும். /etc/systemd/system/ollama-pull.service-ஐ எழுதவும்:

[Unit]
Description=Pre-pull Ollama models
Wants=ollama.service network-online.target
After=ollama.service network-online.target

[Service]
Type=oneshot
RemainAfterExit=yes
ExecStart=/bin/sh -c 'until ollama list >/dev/null 2>&1; do sleep 2; done'
ExecStart=/bin/sh -c 'ollama pull gemma4'

[Install]
WantedBy=multi-user.target

இரண்டு commands-உம் நோக்கத்துடன் /bin/sh -c வழியாக இயக்கப்படுகின்றன. plain ExecStart=-க்கு absolute path தேவைப்படும். Installer எப்போதும் binary-ஐ ஒரே directory-ல் வைப்பதில்லை. எனவே உங்கள் சொந்த box-ல் உள்ள command -v ollama மட்டுமே நம்பகமான பதிலாகும். Shell வழியாக இயக்கும்போது, guide-லிருந்து நகலெடுக்கப்பட்ட path-க்குப் பதிலாக service PATH பயன்படுத்தப்படுகிறது. முதல் ExecStart-உம் முக்கியமானது. After=ollama.service என்பது server unit தொடங்கியுள்ளது என்பதைக் குறிக்கும்; அது server தயாராக உள்ளது என்பதல்ல. எனவே pull தொடங்குவதற்கு முன் ollama list பதிலளிக்கும் வரை loop காத்திருக்கும்.

sudo systemctl daemon-reload
sudo systemctl enable --now ollama-pull.service
journalctl -u ollama-pull.service

Pull பிழையின்றி முடிந்ததை journal காட்ட வேண்டும். அதன் பிறகு ollama list model-ஐ காட்ட வேண்டும். தொடர்ந்து மாறும் tag-ஐ புதுப்பித்த நிலையில் வைத்திருக்க, அதே pull-ஐ இயக்கும் systemd timer அல்லது வாராந்திர cron entry-ஐச் சேர்க்கவும். மாறிய tag-ஐ மீண்டும் pull செய்தால் புதிய layers download செய்யப்படும். பழைய layers-ஐ எதுவும் சுட்டிக்காட்டாத நிலையில் அவை விடப்படும். Server அடுத்த முறை தொடங்கும்போது அவை சுத்தப்படுத்தப்படும்.

pull தடைபட்டால் என்ன நடக்கும்

ஒரு model-ன் ஒவ்வொரு layer-மும் அதன் சொந்த contents-ன் hash-ன் கீழ் சேமிக்கப்படுகிறது. எனவே, தடைபட்ட pull வீணான பணியாகாது: அதே ollama pull command-ஐ மீண்டும் இயக்கினால், ஏற்கனவே முடிந்த layers அடையாளம் காணப்பட்டு தவிர்க்கப்படும். ஆகவே, download தடைபட்ட layer-இலிருந்து தொடரும்.

ஒரு செயல்பாடு மட்டுமே இந்த முன்னேற்றத்தை அழிக்கும். Ollama server தொடங்கும்போது, எந்த model manifest-மும் குறிப்பிடாத stored layers-ஐ அது நீக்குகிறது. தடைபட்ட pull விட்டுச் சென்ற partial layer இதே வகையைச் சேர்ந்தது. எனவே, retry செய்வதற்கு முன் service-ஐ restart செய்தால், ஏற்கனவே download செய்த பகுதி நீக்கப்படும். முதலில் pull-ஐ retry செய்து, பின்னர் restart செய்யவும். Restart-க்குப் பிறகும் partial download உண்மையில் நீடிக்க வேண்டுமெனில், service environment-ல் OLLAMA_NOPRUNE=1 அமைக்கவும். பின்னர் அதை மீண்டும் நீக்கவும். Orphaned layers disk-ல் குவிவதைத் தடுப்பது அந்த startup cleanup செயல்முறையே.

pull no space left on device உடன் நிறுத்தப்பட்டிருந்தால், retry செய்வதற்கு முன் free space உருவாக்கவும். df disk நிரம்பியதாகக் காட்டினாலும், model directory-ல் உள்ள du அதற்கான காரணத்தை விளக்கவில்லை என்றால், அந்த space வேறு இடத்தில் பயன்படுத்தப்பட்டுள்ளது. எதையும் delete செய்வதற்கு முன் df மற்றும் du வேறுபடுவதற்கான காரணங்கள் பற்றிப் படிப்பது பயனுள்ளதாக இருக்கும்.

Ollama models-ஐ VPS-ல் எங்கு சேமிக்கிறது?

இந்த வழிகாட்டி உட்பட எந்த guide-லும் கொடுக்கப்பட்ட path-ஐ நம்புவதற்குப் பதிலாக, உங்கள் சொந்த box-ஐக் கேட்டறியவும். Package install மற்றும் container ஆகியவற்றுக்கு location மாறுபடும். யாரேனும் OLLAMA_MODELS-ஐ அமைத்திருந்தால், location மீண்டும் மாறும்.

systemctl cat ollama.service
getent passwd ollama
sudo find / -xdev -type d -name blobs 2>/dev/null

systemctl cat unit file-ஐ, அதனுடன் தொடர்புடைய அனைத்து drop-in-களையும் சேர்த்து காட்டும். எனவே நீங்கள் அமைத்த அல்லது உங்கள் image-ல் ஏற்கனவே சேர்க்கப்பட்ட OLLAMA_MODELS line அங்கே தெரியும். அத்தகைய line இல்லையெனில், service இயங்கும் account-ன் home directory-க்குக் கீழ் store இருக்கும். getent passwd அந்த home directory-ஐ colon-ஆல் பிரிக்கப்பட்ட ஆறாவது field-ல் காட்டும். find ஒரு filesystem முழுவதும் blobs directory-ஐத் தேடும். Layers உண்மையில் எழுதப்படும் இடம் அதுவாகும். Models ஏற்கனவே தனி mount-ல் இருக்கக்கூடும் என்றால் -xdev-ஐ நீக்கவும்.

இப்போது அளவைப் பார்த்து, உங்கள் சொந்த எண்களைப் படிக்கவும்:

ollama list
df -h /
sudo du -sh /the/directory/you/found
sudo du -h -d1 /the/directory/you/found

Store-ல் இரண்டு பகுதிகள் உள்ளன. manifests ஒவ்வொரு model tag-க்கும் ஒரு சிறிய file-ஐ வைத்திருக்கும். அந்த tag எந்த layers-லிருந்து உருவாக்கப்பட்டுள்ளது என்பதை அந்த file பட்டியலிடும். blobs உண்மையான layers-ஐ வைத்திருக்கும். ஒவ்வொரு layer-க்கும் அதன் contents-ன் hash பெயராக இருக்கும். அளவின் பெரும்பகுதி இங்கேயே இருக்கும். Layers பல tags-களுக்கிடையில் பகிரப்படுவதால், ஒரே weights-ஐ அடிப்படையாகக் கொண்ட இரண்டு models, ollama list-ல் தத்தம் size-ஐக் காட்டும். ஆனால் disk-ல் அந்த space ஒருமுறை மட்டுமே பயன்படுத்தப்படும். ஆகவே பட்டியலிடப்பட்ட sizes, அந்த directory-க்கு du காட்டும் அளவைவிட அதிகமாகக் கூடும்.

நீங்கள் install செய்யக்கூடிய பிறவற்றைக் காட்டிலும் model files சிறிய VPS-ன் root filesystem-ஐ வேகமாக நிரப்பும். அவற்றின் அளவை அதிகமாக மாற்றும் முக்கிய காரணியாக weight format உள்ளது. q4, q8 மற்றும் fp16 ஆகியவற்றுக்கு இடையே தேர்வு செய்வது ஒவ்வொரு model-க்கும் பல gigabytes அளவிலான space-ஐச் சேமிக்கக்கூடும்.

OLLAMA_MODELS மூலம் models-ஐ data volume-க்கு நகர்த்துதல்

திட்டத்தில் இரண்டாவது disk அல்லது பெரிய data volume இருந்தால், root filesystem நிரம்புவதற்கு முன் store-ஐ நகர்த்தவும். முதலில் server-ஐ நிறுத்தவும். இல்லையெனில், இன்னும் எழுதப்பட்டுக்கொண்டிருக்கும் file-ஐ copy செய்யக்கூடும்.

sudo systemctl stop ollama
sudo mkdir -p /mnt/data/ollama-models
sudo rsync -a /the/directory/you/found/ /mnt/data/ollama-models/
sudo chown -R ollama:ollama /mnt/data/ollama-models
sudo systemctl edit ollama.service

systemctl edit ஒரு drop-in file-ல் editor-ஐத் திறக்கும். இதனால் packaged unit மாற்றமின்றி இருக்கும்; package upgrade உங்கள் மாற்றத்தை overwrite செய்யாது. இந்த இரண்டு lines-ஐச் சேர்க்கவும்:

[Service]
Environment="OLLAMA_MODELS=/mnt/data/ollama-models"

sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment
ollama list

systemctl show உங்கள் புதிய path-ஐக் காட்ட வேண்டும். ollama list move செய்வதற்கு முன் காட்டிய அதே models-ஐக் காட்ட வேண்டும். Empty list வந்தால், server-ஆல் புதிய directory-ஐப் படிக்க முடியவில்லை என்று பொருள். Service, ollama user-ஆக இயங்குகிறது. ஆகவே அந்த user-க்கு destination-ல் read மற்றும் write access தேவை. மேலே உள்ள chown line இதை அமைக்கிறது. புதிய path-ஐக் குறிப்பிடும் permission errors உள்ளதா என்பதை journalctl -e -u ollama மூலம் பார்க்கவும். List சரியாக இருப்பதை உறுதிசெய்த பிறகே பழைய copy-ஐ நீக்கவும். Move தோல்வியடைந்த நிலையில் source-ஐ நீக்கினால், அனைத்தையும் மீண்டும் download செய்ய வேண்டியிருக்கும்.

மற்றொரு விருப்பம் original path-ஐ வைத்துக்கொண்டு, அதன்மீது data volume-ஐ mount செய்வதாகும்:

echo '/mnt/data/ollama-models /the/directory/you/found none bind 0 0' | sudo tee -a /etc/fstab
sudo mount -a
findmnt /the/directory/you/found
df -h /

findmnt mount-ஐ print செய்தால் bind செயல்பாட்டில் உள்ளது என்று பொருள். Server-ல் வேறு ஏதாவது default location-ஐ எதிர்பார்த்தால் bind mount உதவும். இதில் ஒரு சிக்கல் உள்ளது: நீங்கள் copy செய்த files, root disk-ல் mount point-ன் கீழ் இன்னும் இருக்கும். Mount அவற்றை மறைத்திருக்கும். ஆகவே unmount செய்து அவற்றை நீக்கும் வரை disk space மீண்டும் கிடைக்காது. அடுத்ததாக login செய்யும் நிர்வாகியிடம் விளக்குவதற்கு இந்த environment variable இரண்டு விருப்பங்களில் எளிதானது.

அதற்குப் பதிலாக container அவற்றை வைத்திருக்கும் இடம்

Official image, models-ஐ ollama user-க்கு சொந்தமான எந்த host directory-யிலும் சேமிக்காது. நீங்கள் mount செய்யும் இடத்தில்தான் சேமிக்கும். Document செய்யப்பட்ட run command:

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

Colon-க்கு முன் உள்ள ollama ஒரு named Docker volume. /root/.ollama என்பது container-க்குள் server எழுதும் இடம். எனவே முந்தைய section-ல் உள்ள paths மீது du இயக்கினால் எதுவும் கிடைக்காது. அந்த இடங்களில் எதுவும் இல்லை. உண்மையான location மற்றும் size-ஐ காட்டவும்:

docker volume inspect ollama
docker system df -v
docker exec -it ollama ollama list

docker volume inspect இலிருந்து Mountpoint field-ஐப் படிக்கவும். பின்னர் அதற்கு எதிராக sudo du -sh இயக்கவும். Models-ஐ data volume-ல் வைக்க, named volume-க்கு பதிலாக host directory-யை (-v /mnt/data/ollama:/root/.ollama) குறிப்பிடவும்; பின்னர் container-ஐ மீண்டும் உருவாக்கவும். Container root ஆக எழுதுவதால், அந்த host directory root ownership-ல் இருக்கும். Rootless Podman-ல், ids உங்கள் user-ன் subuid range-க்கு map செய்யப்படும். எனவே host ownership மீண்டும் வேறுபட்டுக் காணப்படும்: rootless Podman-ன் கீழ் Ollama-ஐ இயக்குதல் அந்த mapping-ஐ விளக்குகிறது.

Cleanup குறித்து ஒரு எச்சரிக்கை. எந்த container-மும் reference செய்யாத அனைத்து volumes-ஐயும் docker volume prune நீக்கும். அதன் volume இல்லாமல் ollama container-ஐ நீக்கினால் அல்லது மீண்டும் உருவாக்கினால், பின்னர் prune நீங்கள் download செய்த அனைத்து models-ஐயும் நீக்கிவிடும். அவற்றை மீண்டும் download செய்வதே ஒரே வழி. Models host செய்யும் box-ல் prune இயக்குவதற்கு முன் VPS-ல் Docker disk usage-ஐ prune செய்வது எப்படி என்பதைப் படிக்கவும்.

ollama rm மூலம் model-ஐ நீக்கவும்; rm மூலம் அல்ல

ollama list
ollama rm gemma4
ollama list
df -h /

ollama rm அந்த tag-க்கான manifest-ஐ நீக்குகிறது. அதன் பிறகு, எந்த மீதமுள்ள manifest-மும் குறிப்பிடாத layers-ஐ நீக்குகிறது. அந்த files unlink செய்யப்பட்டவுடன் disk space திரும்பக் கிடைக்கும். எனவே df உடனடியாக நகர்கிறது. layers பகிரப்பட்டவை என்பதால், நெருக்கமாக தொடர்புடைய இரண்டு tags-ல் ஒன்றை நீக்கும்போது ollama list அருகில் காட்டப்பட்டுள்ள அளவைவிட மிகக் குறைந்த space மட்டுமே விடுவிக்கப்படலாம். இது சரியான செயல்பாடாகும்; delete தோல்வியடைந்தது அல்ல.

Files-ஐ கையால் நீக்குவது இந்த இணைப்பைச் சீர்குலைக்கும். rm மூலம் ஒரு blob-ஐ நீக்கினால், manifest அதைப் பட்டியலிட்டுக்கொண்டே இருக்கும். எனவே ollama list model-ஐ தொடர்ந்து காட்டும்; missing layer-ஐ படிக்கும்போது அதைப் பயன்படுத்தும் எந்த முயற்சியும் தோல்வியடையும். Manifest-ஐ கையால் நீக்கினால், அவற்றைக் குறிப்பிடும் எதுவும் இல்லாதபோதும் அதன் layers disk-ல் இருக்கும். இதனால் space பயன்படுத்தப்படும்; எந்த Ollama command-மும் அதை உங்களுக்குக் காட்டாது. நீங்கள் ஏற்கனவே இதைச் செய்திருந்தால், tag-ல் ollama rm இயக்குவது மீதமுள்ள entry-ஐ நீக்கும். எதுவும் குறிப்பிடாத layers-ஐ server-ஐ restart செய்வது நீக்கும்.

இறுதியாக, அடிக்கடி குழப்பப்படும் இரண்டு வேறுபாடுகளை கவனிக்கவும். ollama rm என்பது disk தொடர்பானது. ollama stop gemma4 model-ஐ memory-லிருந்து unload செய்து விடுகிறது; ஆனால் disk space எதையும் விடுவிக்காது. Download முடிந்த பிறகு model RAM-ல் எவ்வளவு நேரம் resident ஆக இருக்கும் என்பது தனியான setting. ஒவ்வொரு request-க்கும் மீண்டும் load செய்வதற்குப் பதிலாக model-ஐ தொடர்ந்து loaded நிலையில் வைத்திருப்பது குறித்து model-ஐ தொடர்ந்து loaded நிலையில் வைத்திருத்தல் பகுதியில் விளக்கப்பட்டுள்ளது.

FAQ

ollama pull மற்றும் ollama run ஆகியவற்றுக்கு என்ன வித்தியாசம்?

ollama pull ஒரு model-ஐ disk-ல் download செய்து முடிவடைகிறது. ollama run அந்த model ஏற்கனவே disk-ல் உள்ளதா என்பதைச் சரிபார்க்கிறது; இல்லையெனில் அதை download செய்து, memory-ல் load செய்து, பின்னர் interactive chat session-ஐத் திறக்கிறது. இரண்டும் ஒரே files-ஐ ஒரே directory-ல் எழுதுகின்றன. Provisioning மற்றும் scripts-ல் pull-ஐப் பயன்படுத்தவும். Keyboard முன் ஒருவர் இருப்பின் run-ஐப் பயன்படுத்தவும். ollama run <model> "your prompt" ஒரு prompt-ஐ அனுப்பி முடிவடைகிறது. இது run-ன் script-ல் பயன்படுத்தக்கூடிய வடிவமாகும்.

எனது முதல் ollama run முடங்கியதுபோல் ஏன் தோன்றுகிறது?

அது download ஆகிக்கொண்டிருக்கிறது. Model disk-ல் வந்து memory-ல் load ஆகும் வரை chat prompt தோன்றாது. ஒரு model பல gigabytes அளவு கொண்டதாக இருக்கலாம். Output terminal-ஆக இருக்கும்போது மட்டுமே Ollama progress bar-ஐக் காட்டுகிறது. எனவே script, cron job அல்லது ssh host ollama run ...-ன் உள்ளே இயங்கும் run வேலை செய்யும் நேரத்தில் எதையும் காட்டாது. இரண்டாவது session-ஐத் திறந்து watch -n5 df -h /-ஐ இயக்கவும். Free space படிப்படியாகக் குறைந்தால் download நடைபெறுகிறது என்று பொருள். Model-ஐ முன்கூட்டியே pull செய்தால் இந்தக் காத்திருப்பு இருக்காது.

Ollama தனது models-ஐ எங்கே சேமிக்கிறது?

இடம் installation முறையைப் பொறுத்தது. எனவே ஊகிப்பதற்குப் பதிலாக அதை print செய்யவும். Unit அல்லது drop-in-ல் OLLAMA_MODELS அமைக்கப்பட்டுள்ளதா என்பதைப் பார்க்க systemctl cat ollama.service-ஐ இயக்கவும். அது அமைக்கப்படவில்லை என்றால், service இயங்கும் account-ன் home directory-க்கு கீழ் store இருக்கும். அந்த இடத்தை getent passwd ollama print செய்கிறது. Layer directory-யை நேரடியாகக் கண்டறிய sudo find / -xdev -type d -name blobs 2>/dev/null பயன்படுத்தவும். Container image-க்கு, store mounted volume-ன் உள்ளே இருக்கும். அதன் host Mountpoint-ஐ docker volume inspect ollama print செய்கிறது.

Ollama models-ஐ வேறு disk-க்கு எவ்வாறு நகர்த்துவது?

Service-ஐ நிறுத்தவும். rsync -a மூலம் store-ஐ புதிய இடத்துக்கு copy செய்யவும். sudo chown -R ollama:ollama <directory> மூலம் அந்த directory-யை service account-க்கு உரியதாக மாற்றவும். பின்னர் sudo systemctl edit ollama.service-ஐ இயக்கி, [Service] line-ன் கீழ் Environment="OLLAMA_MODELS=<directory>"-ஐச் சேர்க்கவும். sudo systemctl daemon-reload மூலம் reload செய்து restart செய்யவும். systemctl show ollama --property=Environment மற்றும் ollama list மூலம் உறுதிப்படுத்தவும். பட்டியல் காலியாக இருந்தால், ollama user-க்கு புதிய directory-ஐ read செய்ய முடியாததே பெரும்பாலும் காரணம். Path-ஐ journalctl -e -u ollama காட்டும்.

Model files-ஐ நீக்கினால் disk space விடுவிக்கப்படுமா?

Files-ஐ கையால் நீக்கினால் bytes விடுவிக்கப்படும். ஆனால் store-ன் நிலைத்தன்மை பாதிக்கப்படும். ஒரு blob-ஐ நீக்கினாலும் manifest அந்த model-ஐப் பட்டியலிடும். எனவே அது ollama list-ல் தொடர்ந்து தோன்றும், பயன்படுத்தும்போது தோல்வியடையும். Manifest-ஐ நீக்கினால், அதனுடன் தொடர்புடைய layers disk-ல் இருக்கும்; அவற்றைச் சுட்டும் எதுவும் இருக்காது. ollama rm <model>-ஐப் பயன்படுத்தவும். அது முதலில் manifest-ஐ நீக்கி, வேறு எந்த model-க்கும் தேவையில்லாத layers-ஐ அடுத்து நீக்கும். Files ஏற்கனவே கையால் நீக்கப்பட்டிருந்தால், அந்த tag-ல் உள்ள entry-ஐ அழிக்க ollama rm-ஐ இயக்கவும். பின்னர் server-ஐ restart செய்யவும். எந்த manifest-மும் சுட்டாத layers-ஐ அது நீக்கும்.