VPS-ல் rootless Podman மூலம் Ollama-வை இயக்குவது எப்படி?
VPS-ல் rootless Podman மூலம் Ollama-வை இயக்க lingering, Quadlet unit, மற்றும் SELinux labels ஆகியவற்றை எவ்வாறு சரியாக அமைப்பது என்பதை இந்த வழிகாட்டி விளக்குகிறது.
VPS-ல் rootless Podman மூலம் Ollama-வை இயக்குதல்
ஒரு server-ல் rootless Podman மூலம் Ollama-வை இயக்க, desktop வழிகாட்டிகளில் விடுபடும் ஐந்து நிபந்தனைகள் பூர்த்தியாக வேண்டும். ஒரு பிரத்யேக unprivileged user அந்த container-க்கு உரிமையாளராக இருக்க வேண்டும். அந்த user-க்கு lingering வசதி செயல்படுத்தப்பட்டிருக்க வேண்டும், அப்போதுதான் நீங்கள் log out செய்த பிறகும் container தொடர்ந்து இயங்கும். ஒரு Quadlet file மூலம் container-ஐ systemd-யிடம் ஒப்படைக்க வேண்டும், அப்போதுதான் reboot செய்த பிறகு அது தானாகத் தொடங்கும். SELinux அமலில் உள்ள விநியோகங்களில் (distributions), model directory-க்கு உரிய SELinux label இடப்பட வேண்டும். API ஆனது loopback-ல் மட்டுமே கேட்க வேண்டும் (listen), நீங்கள் அதை ஒரு SSH (secure shell) tunnel வழியாக அணுக வேண்டும்.
Ollama என்பது large language models (LLM)-க்கான ஒரு server ஆகும். இது model weights-ஐ disk-ல் சேமித்து, அவற்றை memory-ல் ஏற்றி, port 11434-ல் வரும் HTTP கோரிக்கைகளுக்குப் பதிலளிக்கும். இதன் local API-க்கு login அல்லது API key தேவையில்லை, எனவே network மட்டுமே இங்குள்ள ஒரே access control ஆகும். Podman எந்த daemon-ம் இல்லாமலும், root இல்லாமலும் container-களை இயக்குகிறது, எனவே container-லிருந்து வெளியேறும் எதுவும் ஒரு சாதாரண unprivileged user-ஆகவே தொடங்கும். runtime ஒப்பீட்டை முதலில் தெரிந்துகொள்ள விரும்பினால், VPS-ல் Podman மற்றும் Docker எவ்வாறு வேறுபடுகின்றன என்பதைப் படிக்கவும். container-களைத் தவிர்த்து நேரடியாகச் செய்ய விரும்பினால், VPS-ல் நேரடியாக Ollama-வை நிறுவுதல் என்பது எளிதான வழியாகும்.
Fedora இயல்பாகவே Podman மற்றும் SELinux (security-enhanced Linux) ஆகிய இரண்டையும் கொண்டுள்ளது. கீழே உள்ள கட்டளைகள் Podman 5 அல்லது அதற்குப் பிந்தைய பதிப்பைக் கருத்தில் கொள்கின்றன. Quadlet unit-க்கு cgroup v2 தேவைப்படுகிறது, இது Podman-ன் எந்தப் பதிப்பாக இருந்தாலும் Quadlet-க்குத் தேவையான ஒன்றாக அதன் ஆவணங்களில் குறிப்பிடப்பட்டுள்ளது. தொடங்குவதற்கு முன் இரண்டையும் சரிபார்க்கவும்: முதலாவதற்கு podman --version, இரண்டாவதற்கு podman info | grep -i cgroup, இதில் cgroupVersion வரியானது v2 என்று இருக்க வேண்டும். Ubuntu 24.04-ல் உள்ள podman தொகுப்பு 4.9.3 பதிப்பாக உள்ளது, இது அந்த வரியை விடப் பழையது, எனவே அங்கு முதலில் பதிப்பைச் சரிபார்க்கவும்.
சர்வர் சூழலில் லேப்டாப் பதிப்பில் செய்ய வேண்டிய மாற்றங்கள் ஏன் தேவைப்படுகின்றன
Fedora Magazine 5 ஆகஸ்ட் 2026 அன்று இந்த stack குறித்த தெளிவான வழிகாட்டியை வெளியிட்டது: Running Ollama Locally with Podman on Fedora Linux, எழுதியவர் Yazan Monshed. இந்த கருவிகளைப் புரிந்துகொள்ள இது ஒரு சிறந்த தொடக்கமாகும். இது லேப்டாப்பிற்காக வடிவமைக்கப்பட்டுள்ளது, ஆனால் பொது IP முகவரி கொண்ட ஒரு கணினியில் இதன் நான்கு தேர்வுகள் மாறுபட்ட விளைவுகளை ஏற்படுத்தும்.
- இது
podman run -dகட்டளையுடன் container-ஐத் தொடங்குகிறது. கைமுறையாகத் தொடங்கப்படும் container, reboot-க்கு பிறகு தானாக இயங்காது, ஏனெனில் அதைத் தொடங்க எந்தக் கட்டளையும் வழங்கப்படவில்லை. - இது
ollama/ollamaஎன்ற மாறக்கூடிய tag-ஐப் பயன்படுத்துகிறது. லேப்டாப்பில், அதன் செயல்பாடு மாறும்போது நீங்கள் உடனடியாகக் கவனிப்பீர்கள். சர்வரில், ஒரு script திடீரென வேலை செய்வதை நிறுத்துவதுதான் அதன் முதல் அறிகுறியாக இருக்கும். - இது
-p 11434:11434மூலம் வெளியிடுகிறது, இது அனைத்து interface-களையும் இணைக்கிறது. வீட்டு router-க்கு பின்னால் இருக்கும்போது இது இணையத்திலிருந்து அணுக முடியாததாக இருக்கும். ஆனால் ஒரு VPS-ல், இது கடவுச்சொல் இல்லாத பொது inference API-ஆக மாறிவிடும். - இது உங்கள் login பயனர் கணக்கின் கீழ் இயங்குகிறது. சர்வரில், container-க்கு உரிமையாளராக இருக்கும் கணக்கு வேறு எதையும் கொண்டிருக்கக்கூடாது; அப்போதுதான் ஒருவேளை பாதுகாப்பு மீறல் ஏற்பட்டாலும், அது காலியான home directory-க்குள் மட்டுமே முடிவடையும்.
எழுதப்பட்ட இயந்திரத்திற்கு இந்தத் தேர்வுகள் தவறானவை அல்ல. ஆனால், உங்கள் கணினி எங்கிருந்தும் அணுகக்கூடியதாகவும், யாரும் முன்னால் அமராத சூழலிலும் இருக்கும்போது, இந்த ஒவ்வொரு அம்சத்தையும் மீண்டும் பரிசீலிக்க வேண்டும்.
அதிகாரமற்ற (unprivileged) பயனரை உருவாக்கி, subuid-ஐச் சரிபார்த்தல்
Rootless Podman, container-ன் உள்ளமைந்த பயனர் அடையாளங்களை (UID) host-ல் பயன்படுத்தப்படாத அடையாளங்களின் தொகுப்பிற்கு மேப்பிங் செய்கிறது. அந்தத் தொகுப்பு /etc/subuid மற்றும் /etc/subgid கோப்புகளில் அறிவிக்கப்படுகிறது. Podman ஒற்றை-UID முறையையும் ஆதரிக்கிறது, ஆனால் இந்த அமைப்பிற்கு subordinate வரம்புகளை உள்ளமைக்கவும்.
sudo dnf install -y podman # or: sudo apt install -y podman
sudo useradd --create-home --shell /bin/bash --comment "Ollama container owner" ollama
sudo passwd --lock ollama
grep ollama /etc/subuid /etc/subgidgrep கட்டளை இரண்டு வரிகளை அச்சிட வேண்டும், ஒவ்வொரு கோப்பிலிருந்தும் ஒன்று, ஒவ்வொன்றும் 65536 அடையாளங்கள் கொண்ட வரம்பைக் குறிக்கும்:
/etc/subuid:ollama:100000:65536
/etc/subgid:ollama:100000:65536உங்கள் தொடக்க எண் மாறுபடலாம், அது தவறல்ல. grep எதையும் அச்சிடவில்லை என்றால், useradd ஒரு வரம்பை ஒதுக்கவில்லை என்று அர்த்தம். Podman விடுபட்ட மேப்பிங்கை இது போன்ற ஒரு செய்தியுடன் தெரிவிக்கும்:
Error: cannot find UID/GID for user ollama: no subuid ranges found for user "ollama" in /etc/subuidவேறு எந்தப் பயனரும் வைத்திருக்காத ஒரு வரம்பை ஒதுக்கி, அதன் பழைய மேப்பிங் காலாவதியாகிவிட்டது என்பதை Podman-க்குத் தெரிவிக்கவும்:
sudo usermod --add-subuids 100000-165535 --add-subgids 100000-165535 ollama
sudo -iu ollama podman system migrateகடவுச்சொல்லைப் பூட்டுவது ollama பயனராக கடவுச்சொல் மூலம் உள்நுழைவதைத் தடுக்கும்; இது SSH keys போன்ற பிற அங்கீகார முறைகளைத் தடுக்காது. உங்கள் நிர்வாகப் பயனரிடமிருந்து sudo -iu ollama கட்டளை மூலம் அந்த கணக்கை அணுகலாம்.
Logout செய்த பிறகும் service இயங்குவதற்கு lingering-ஐ செயல்படுத்துதல்
ஒரு பயனரின் systemd instance வழக்கமாக login செய்யும்போது தொடங்கி, கடைசி logout-க்கு பிறகு நின்றுவிடும்; அதனுடன் /run/user/<uid>-ம் நீக்கப்படும். அந்த instance-ஆல் நிர்வகிக்கப்படும் services-ம் அது நின்றவுடன் நின்றுவிடும். Lingering வசதியானது, எந்த session-ம் இணைக்கப்படாத நிலையிலும் பயனர் instance-ஐ தொடர்ந்து இயங்க வைக்கும்.
sudo loginctl enable-linger ollama
loginctl show-user ollama --property=Lingerஇது Linger=yes என்பதை அச்சிட வேண்டும். Unit-ஐ உருவாக்குவதற்கு முன்பே இதைச் செயல்படுத்தவும், அப்போதுதான் login session இல்லாமலேயே user manager மற்றும் அதன் runtime directory கிடைக்கும்.
எதிர்பாராத ஒரு கூடுதல் படிநிலை உள்ளது. sudo -iu ollama உங்களுக்கு shell-ஐ வழங்கும், ஆனால் session bus-ஐ வழங்காது; எனவே systemctl --user உடனடியாகத் தோல்வியடையும்:
Failed to connect to bus: $DBUS_SESSION_BUS_ADDRESS and $XDG_RUNTIME_DIR not definedsystemd ஆனது user bus-ஐ $XDG_RUNTIME_DIR/bus-ல் தேடும், ஆனால் sudo -i அந்த variable-ஐ set செய்யாது. இந்த service-ஐ நீங்கள் நிர்வகிக்கும் ஒவ்வொரு admin shell-லும் அதை நீங்களே கைமுறையாக set செய்யவும்:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user statusModel blobs சேமிக்கப்படும் இடம் மற்றும் திட்டமிட வேண்டிய disk அளவு
Ollama, weights-களை container-க்குள் உள்ள /root/.ollama/models-ல் எழுதுகிறது. பயனர் home directory-ல் உள்ள ஒரு கோப்புறையை (directory) அந்தப் பாதையில் bind செய்யவும்; அப்போதுதான் கோப்புகள் உங்களால் கண்காணிக்கக்கூடிய /home/ollama/ollama-data/models போன்ற இடத்தில் அமையும். Blobs-கள் models/blobs-ல் content-addressed கோப்புகளாகச் சேமிக்கப்படுகின்றன, மேலும் models/manifests-ல் அவற்றை அடையாளம் காணும் சிறிய index கோப்புகள் இருக்கும். Fedora Magazine கட்டுரையில் குறிப்பிட்டுள்ளது போல, நீங்கள் named volume-ஐப் பயன்படுத்தினால், அதே கோப்பு அமைப்பு /home/ollama/.local/share/containers/storage/volumes/<volume>/_data-க்கு அடியில் அமையும். எதுவாக இருந்தாலும், ollama pull மற்றும் ollama run ஆகிய இரண்டும் weights-களை ஒரே கோப்பு அமைப்பில்தான் எழுதுகின்றன. இரண்டு கட்டளைகளுக்கும் இடையே உள்ள வேறுபாடு என்னவென்றால், download முடிந்ததும் chat session தானாகத் தொடங்குகிறதா என்பது மட்டுமே.
எதையும் pull செய்வதற்கு முன்பே disk அளவைத் திட்டமிடுங்கள். வெளியிடப்பட்ட download அளவுகள் உங்களுக்கு ஒரு குறைந்தபட்ச அளவை (floor) வழங்கும்.
இந்த விளக்கப்படத்தின் தரவு
[
{
"label": "gemma3:4b",
"download_gb": 3.4
},
{
"label": "mistral:7b",
"download_gb": 4.4
},
{
"label": "qwen3:8b",
"download_gb": 5.2
},
{
"label": "gemma3:12b",
"download_gb": 8.2
},
{
"label": "qwen3:14b",
"download_gb": 9.3
},
{
"label": "gemma3:27b",
"download_gb": 17
},
{
"label": "qwen3:30b",
"download_gb": 19
}
]7 வரிசைகளில் உள்ள அனைத்துத் தரவுகளும் ollama.com/library தளத்தில் வெளியிடப்பட்ட அளவுகள்; இவை disk-ல் அளவிடப்பட்டவை அல்ல. இதில் மிகச்சிறிய tag-ஆன gemma3:4b, 3.4 GB-ஐ download செய்கிறது. மிகப்பெரிய tag-ஆன qwen3:30b, 19 GB-ஐ download செய்கிறது. Container image-ஆனது Podman-ன் சொந்த storage-ல் இதற்கு மேலதிகமாக அமையும், எனவே podman system df மற்றும் df -h /home கட்டளைகளைப் பயன்படுத்தி இரண்டு அளவுகளையும் சரிபார்க்கவும். சிறந்த performance-க்கு, model-ன் கோப்பு அளவிற்கு இணையான RAM மற்றும் context window-க்குத் தேவையான கூடுதல் இடத்தையும் திட்டமிடுங்கள். Physical RAM என்பது ஒரு இறுதியான எல்லை அல்ல: disk-backed memory mapping அல்லது போதுமான அளவு swap இருந்தால், 16 GB VPS-ல் கூட 19 GB model-ஐ இயக்க முடியும், ஆனால் performance குறைவாக இருக்கும்.
Image tag-ஐ pin செய்யவும், முழுமையான registry பெயரைப் பயன்படுத்தவும்
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
mkdir -p ~/ollama-data ~/.config/containers/systemd
podman pull docker.io/ollama/ollama:0.32.9வெளியிடப்பட்ட version tag-ஐப் பயன்படுத்தவும், ஆகஸ்ட் 2026 நிலவரப்படி 0.32.9-ஐப் பயன்படுத்தவும், latest-ஐ அல்ல. அதன்பிறகு புதிய releases வந்துவிட்டன: 30 அக்டோபர் 2026 அன்று Docker Hub-ல் உள்ள புதிய plain version tag 0.40.13 ஆகும், எனவே tags பக்கத்தைச் சரிபார்த்து, pull கட்டளை மற்றும் Image= வரியிலும் தற்போதைய release-ஐப் பயன்படுத்தவும். Pinned version tag-ஐப் பயன்படுத்துவது, நீங்கள் தேர்வு செய்யாத releases உங்கள் server-க்கு வருவதைத் தடுக்கும், எனவே செயல்பாட்டில் மாற்றம் ஏற்பட்டால் அது நீங்கள் செய்த மாற்றமாகவே இருக்கும். இருப்பினும், tag என்பது ஒரு pointer மட்டுமே, அது fingerprint அல்ல: யாராவது அதே பெயரில் மீண்டும் push செய்தால், registry அதை வேறொரு image-க்கு மாற்றிவிடும், digest மட்டுமே மாறாமல் இருக்கும். Podman, Image=-ல் இரண்டு வடிவங்களையும் ஏற்கும். 04:00 மணிக்கு ஒரு restart நடக்கும்போது நீங்கள் சோதித்த அதே binary இயங்க வேண்டும் என்றால், pull செய்த பிறகு podman images --digests docker.io/ollama/ollama-ஐ இயக்கவும், அதற்குப் பதிலாக Image=docker.io/ollama/ollama@sha256:<digest> என்று எழுதவும். Docker Hub அதே versions-க்கு -rc மற்றும் -rocm tags-களையும் வெளியிடுகிறது; உங்களிடம் AMD GPU இல்லையென்றால் plain tag-ஐத் தேர்ந்தெடுக்கவும்.
Registry host-ஐயும் குறிப்பிடவும். Fedora-வில் systemd unit-ல் உள்ள short name-க்கு prompt செய்வதற்கு terminal கிடையாது, அதனால் அந்த unit பின்வரும் பிழையுடன் தோல்வியடையும்:
Error: short-name "ollama/ollama" did not resolve to an alias and no unqualified-search registries are definedமுதலில் கைமுறையாக pull செய்வது விருப்பத்திற்குரியது, ஆனால் அது பயனுள்ளது, ஏனெனில் இது பல gigabyte பதிவிறக்கத்தை unit-ன் start timeout-லிருந்து வெளியே கொண்டு வருகிறது.
reboot-க்கு பிறகும் நீடிக்கும் Quadlet unit
Quadlet என்பது Podman-ன் systemd generator ஆகும். நீங்கள் ஒரு .container கோப்பை எழுதினால், systemd அதை boot-ன் போது ஒரு service-ஆக மாற்றும், அப்போது podman generate systemd-ன் தேவை இருக்காது. இதை ollama பயனரின் உரிமையில் /home/ollama/.config/containers/systemd/ollama.container எனச் சேமிக்கவும்.
[Unit]
Description=Ollama API (rootless)
After=network-online.target
Wants=network-online.target
[Container]
Image=docker.io/ollama/ollama:0.32.9
ContainerName=ollama
PublishPort=127.0.0.1:11434:11434
Volume=/home/ollama/ollama-data:/root/.ollama:Z
Environment=OLLAMA_KEEP_ALIVE=30m
Environment=OLLAMA_MAX_LOADED_MODELS=1
[Service]
Restart=always
TimeoutStartSec=900
[Install]
WantedBy=default.targetகோப்பின் பெயர் service-ன் பெயரைத் தீர்மானிக்கிறது, எனவே ollama.container என்பது ollama.service என மாறும்.
systemctl --user daemon-reload
systemctl --user start ollama.service
systemctl --user status ollama.servicestatus கட்டளை active (running) என்பதைக் காட்ட வேண்டும். systemctl --user enable ollama.service கட்டளையை இயக்க வேண்டாம். இந்த unit வட்டில் ஒரு கோப்பாக இல்லாததால், systemd அதை நிராகரிக்கும்:
Failed to enable unit: Unit file /run/user/1001/systemd/generator/ollama.service is transient or generated.[Install] பகுதி ஏற்கனவே அந்த வேலையைச் செய்கிறது. daemon-reload கட்டளையின் போது Quadlet தானாகவே boot-ல் தொடங்குவதற்கான இணைப்பை உருவாக்குகிறது, அதனால்தான் அந்த கட்டளை கட்டாயமானது. OLLAMA_KEEP_ALIVE=30m என்பது கோரிக்கைகளுக்கு இடையில் ஒரு model-ஐ நினைவகத்தில் வைத்திருக்கும், ஐந்து நிமிடங்களுக்குப் பிறகு அதை நீக்காது; இதன் சாதக பாதகங்கள் Ollama model-ஐ நினைவகத்தில் வைத்திருத்தல் என்பதில் உள்ளன. இங்குள்ள systemd சொற்கள் உங்களுக்குப் புதியவை என்றால், VPS-ல் systemd services மற்றும் timers எவ்வாறு செயல்படுகின்றன என்பது அந்த unit-களைப் பற்றி விளக்குகிறது. TimeoutStartSec=900 என்பது முதல்முறை தொடங்கும் போது image-ஐ தரவிறக்கம் செய்ய அதிக நேரம் தேவைப்படும் சூழலைக் கையாள்கிறது, ஏனெனில் இயல்பான 90 வினாடிகள் பல gigabyte தரவிறக்கத்திற்குப் போதாது, அவ்வாறு நடந்தால் systemd அந்த தொடக்கத்தை தோல்வியுற்றதாகக் கருதி நிறுத்திவிடும்.
SELinux-ன் கீழ் model directory ஏன் permission denied என்று காட்டுகிறது
Fedora, RHEL, Rocky மற்றும் AlmaLinux ஆகியவற்றில், SELinux இயல்பாகவே அமலில் (enforcing) இருக்கும். ஒரு container process container_t domain-ல் இயங்குகிறது, ஆனால் பயனர் home directory user_home_t என்று லேபிளிடப்பட்டிருக்கும். இந்த policy ஒன்றையொன்று அணுக அனுமதிப்பதில்லை, எனவே Ollama-வால் அதன் model tree-ஐ உருவாக்க முடியாது, இதனால் container நின்றுவிடும். இத்தகைய கணினிகளில் getenforce கட்டளையை இயக்கினால் Enforcing என்று காட்டும், மேலும் அந்தத் தடை பதிவு செய்யப்படும்:
sudo ausearch -m avc -ts recentஅதில் domain மற்றும் target label-ஐக் குறிப்பிடும் ஒரு வரியைக் காண்பீர்கள்:
avc: denied { write } for pid=1842 comm="ollama" name="models" dev="vda1" ino=131077 scontext=system_u:system_r:container_t:s0:c214,c827 tcontext=unconfined_u:object_r:user_home_t:s0 tclass=dir permlisted=0Volume= வரியின் இறுதியில் உள்ள :Z தான் இதற்கான தீர்வு. இது host directory-ஐ container_file_t என மறுபெயரிட்டு (relabel), அந்த container-க்கு மட்டுமே உரிய ஒரு private MCS (multi-category security) category-ஐ முத்திரையிடுகிறது. சிறிய எழுத்து :z ஒரு பகிரப்பட்ட லேபிளைப் பயன்படுத்துகிறது; இரண்டு container-கள் ஒரே directory-ஐப் படிக்கும்போது இது தேவைப்படும்.
:Z குறித்து ஒரு எச்சரிக்கை: இது தரவுகளை அழிக்கும் தன்மை கொண்டது மற்றும் அமைதியாகச் செயல்படும். Relabelling என்பது recurs-ஆக நடக்கும். இதை /home/ollama-க்குக் காட்டினால், அந்த home directory-ல் உள்ள அனைத்துக் கோப்புகளும் மறுபெயரிடப்படும், இது அந்தப் பயனரின் SSH key அணுகலை முறித்துவிடும். எப்போதும் :Z-க்குத் தனியான ஒரு subdirectory-ஐ மட்டுமே ஒதுக்குங்கள், அதில் வேறு எதையும் வைக்க வேண்டாம். Named volumes-க்கு இது தேவையில்லை, ஏனெனில் Podman அவற்றை உருவாக்கும்போதே சரியாக லேபிளிடுகிறது. இது குறித்த கூடுதல் விவரங்களுக்கு, SELinux basics for a server என்பதில் contexts மற்றும் booleans பற்றிப் படிக்கலாம். Ubuntu மற்றும் Debian-ல் இதற்குப் பதிலாக AppArmor பயன்படுத்தப்படுகிறது, அங்கு :Z எந்த மாற்றத்தையும் செய்யாது, எனவே அதை unit-ல் அப்படியே வைத்திருப்பது பாதிப்பை ஏற்படுத்தாது.
port 11434-ஐ மூடிவிட்டு SSH வழியாக API-ஐ அணுகுதல்
PublishPort=127.0.0.1:11434:11434 host-ஐ loopback-உடன் இணைக்கிறது. இதை உறுதிப்படுத்தவும்:
ss -ltnp | grep 11434
curl http://127.0.0.1:11434ss வெளியீடு 127.0.0.1:11434-ஐக் காட்ட வேண்டும், மேலும் curl ஆனது Ollama is running என்று பதிலளிக்க வேண்டும். ஒருவேளை ss ஆனது 0.0.0.0:11434 அல்லது *:11434 என்று காட்டினால், அந்த port அனைத்து interface-களிலும் listening நிலையில் உள்ளது என்று அர்த்தம். இணையத்திலிருந்து அதை அணுக முடியுமா என்பது உங்கள் firewall விதிகள் மற்றும் server-க்கு முன்னால் உள்ள network அமைப்பைப் பொறுத்தது, எனவே wildcard listener தானாகவே exposed ஆகாது. இருப்பினும், அதை மட்டும் நம்பியிருக்க வேண்டாம்: Ubuntu ஆவணங்களின்படி ufw ஆரம்பத்தில் இயல்புநிலையாக முடக்கப்பட்டிருக்கும், மேலும் firewall விதி என்பது சரியாகப் பராமரிக்கப்பட வேண்டிய கூடுதல் காரணியாகும். Port ஒருபோதும் பொதுவெளியில் listening நிலையில் இருக்காதவாறு bind முகவரியைச் சரிசெய்யவும்.
எந்தப் பக்கத்தை bind செய்கிறீர்கள் என்பதில் கவனமாக இருக்கவும். PublishPort-ல் உள்ள முகவரி host முகவரியாகும். Container-க்குள், Ollama அனைத்து interface-களிலும் listening நிலையில் இருக்க வேண்டும், இதுவே image-ன் இயல்புநிலை அமைப்பாகும். Environment=OLLAMA_HOST=127.0.0.1-ஐ அமைப்பது Ollama-வை container-ன் சொந்த loopback-உடன் இணைக்கும், மேலும் Podman ஆனது வரும் traffic-ஐ container-ன் network முகவரிக்கு forward செய்யும், இதனால் host-லிருந்து வரும் கோரிக்கைகள் கூட நிராகரிக்கப்படும்.
திறந்த நிலையில் உள்ள 11434 port இரண்டு வழிகளில் பாதிப்பை ஏற்படுத்தும். Ollama-வில் authentication கிடையாது, எனவே அந்த port-ஐ அணுகும் எவரும் /api/tags மூலம் உங்கள் model-களைப் பட்டியலிடலாம், /api/generate மூலம் உங்கள் CPU மற்றும் bandwidth-ஐப் பயன்படுத்தி inference இயக்கலாம், புதிய model-களை உங்கள் disk-ல் பதிவிறக்கலாம், மற்றும் ஏற்கனவே உள்ளவற்றை நீக்கலாம். இரண்டாவதாக, remote port-க்கு அனுப்பப்படும் plain HTTP கோரிக்கைகள் prompts மற்றும் completions-ஐ cleartext-ஆக அனுப்புகின்றன, எனவே வழியில் உள்ள ஒவ்வொரு machine-ம் அவற்றைப் படிக்க முடியும். Port ஒருபோதும் server-ஐ விட்டு வெளியேறவில்லை என்றால் இந்த இரண்டு சிக்கல்களும் நீங்கிவிடும்.
உங்கள் workstation-லிருந்து, SSH வழியாக port-ஐ forward செய்யவும்:
ssh -N -L 11434:127.0.0.1:11434 you@vps.example.comஇப்போது உங்கள் laptop-ல் உள்ள http://127.0.0.1:11434 என்பது server-ன் Ollama ஆகும், இது SSH session-ன் encryption-க்குள் இருக்கும். உங்கள் laptop-ல் ஏற்கனவே Ollama இயங்கிக்கொண்டிருந்தால், local bind bind [127.0.0.1]:11434: Address already in use பிழையுடன் தோல்வியடையும்; -L 11435:127.0.0.1:11434-ஐப் பயன்படுத்தி உங்கள் client-ஐ 11435-க்கு மாற்றவும்.
Browser client-க்குத் தேவைப்படும்போது, அதற்கு முன்னால் password பாதுகாக்கப்பட்ட reverse proxy-ஐ வைக்கவும். Caddy site block சுருக்கமானது, மேலும் caddy hash-password அதற்குத் தேவையான bcrypt hash-ஐ உருவாக்கும்:
ollama.example.com {
basic_auth {
you $2a$14$replace_with_the_generated_hash
}
reverse_proxy 127.0.0.1:11434
}Caddy தானாகவே TLS (transport layer security) மூலம் certificate-ஐப் பெற்றுக்கொள்ளும், எனவே traffic encrypted ஆக இருக்கும். உங்கள் client-ஐ முதலில் சோதிக்கவும்: Authorization header-ஐ அனுப்ப முடியாத client-கள் basic auth-ல் 401 Unauthorized பிழையுடன் தோல்வியடையும். SSH tunnel-ல் இத்தகைய சிக்கல் இல்லை, அதனால்தான் இதுவே பரிந்துரைக்கப்படும் இயல்புநிலை முறையாகும்.
ஒரு model-ஐ pull செய்து முழு பாதையையும் சரிபார்க்கவும்
podman exec -it ollama ollama pull gemma3:4b
curl -s http://127.0.0.1:11434/api/tags
curl -s http://127.0.0.1:11434/api/generate -d '{"model":"gemma3:4b","prompt":"Reply with the single word: ready","stream":false}'
du -sh ~/ollama-data/models/api/tags கட்டளை JSON பட்டியலை gemma3:4b-ல் வழங்குகிறது. /api/generate கட்டளை, disk-லிருந்து weights ஏற்றப்படும் வரை சிறிது நேரம் காத்திருந்து, ஒரு JSON object-ஐ response field-உடன் வழங்குகிறது. du கட்டளை, வெளியிடப்பட்ட download size-க்கு நெருக்கமான எண்ணைக் காட்ட வேண்டும். இந்த வழிகாட்டியின் முக்கிய நோக்கமான பகுதியை இப்போது உறுதிப்படுத்தவும்:
sudo reboot
# reconnect, then:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user is-active ollama.serviceactive என்பது செயல்முறை பின்னணியில் இயங்குவதைக் குறிக்கிறது, அதாவது [Install] பகுதி மற்றும் daemon-reload ஆகியவை சரியாகச் செயல்பட்டுள்ளன. ஒருவேளை inactive என்று காட்டினால், முதலில் அந்த மூன்றையும் சரிபார்க்கவும், பின்னர் startup பிழைகளுக்கு journalctl --user -u ollama.service-ஐ ஆய்வு செய்யவும்.
தோல்வி முறைகள் மற்றும் நீங்கள் காணக்கூடிய செய்திகள்
Reboot-க்கு பிறகு Container இல்லை. முதலில் loginctl show-user ollama --property=Linger-ஐ சரிபார்க்கவும், ஏனெனில் Linger=yes இல்லாமல் பயனரின் systemd instance boot-ன் போது தொடங்காது. Lingering வசதி இயக்கப்பட்டிருந்தால், .container கோப்பில் உள்ள [Install] பகுதியைச் சரிபார்த்து, systemctl --user daemon-reload-ஐ இயக்கி, startup பிழைகளுக்கு journalctl --user -u ollama.service-ஐ ஆய்வு செய்யவும்.
Error: statfs /home/ollama/ollama-data: no such file or directory. Container தொடங்குவதற்கு முன்பே bind mount source இருக்க வேண்டும். Podman உங்களுக்காக host directories-ஐ உருவாக்காது. ollama பயனராக mkdir -p ~/ollama-data-ஐ இயக்கவும்.
90 வினாடிகளில் தொடங்குவது தோல்வியடைகிறது. journalctl --user -u ollama.service-ல் Start operation timed out. Terminating. காட்டுகிறது என்றால், image pull இன்னும் நடந்து கொண்டிருக்கிறது என்று பொருள். கைமுறையாக pull செய்யவும் அல்லது TimeoutStartSec=900-ஐ வைத்திருக்கவும்.
Container தொடங்கி உடனே நின்றுவிடுகிறது. podman logs ollama மற்றும் sudo ausearch -m avc -ts recent ஆகியவற்றைச் சேர்த்துப் பார்த்தால், அது SELinux label தொடர்பானதா என்பதை அறியலாம். container_t மற்றும் user_home_t-ஐக் குறிப்பிடும் AVC பிழை இருந்தால், :Z விடுபட்டுள்ளது என்று பொருள்.
Host-லிருந்து வரும் கோரிக்கைகள் நிராகரிக்கப்படுகின்றன. active சேவையுடன் curl: (7) Failed to connect to 127.0.0.1 port 11434: Connection refused-ஐப் பயன்படுத்தும்போது, பொதுவாக container-க்குள் OLLAMA_HOST ஒரு loopback முகவரிக்கு அமைக்கப்பட்டிருக்கும். அந்த வரியை நீக்கவும்.
Generation மிக மெதுவாக உள்ளது அல்லது container நிறுத்தப்படுகிறது. GPU இல்லை என்றால், inference CPU-ல் இயங்கும் மற்றும் பெரிய model இயல்பாகவே மெதுவாக இருக்கும். Model physical RAM-ல் பொருந்தவில்லை என்றால், disk-backed memory mapping அல்லது swap பயன்படுத்துவது inference-ஐ மேலும் மெதுவாக்கும். Logs-ல் signal: killed பிழையுடன் பாதியிலேயே ஒரு container நின்றால், அதன் காரணத்தைச் சரிபார்க்க வேண்டும்; kernel log-ல் out-of-memory kill என்று உறுதி செய்யப்பட்டால், மேலே உள்ள அட்டவணையில் இருந்து சிறிய tag-ஐத் தேர்ந்தெடுக்கவும்.
Pinned image-ஐப் புதுப்பித்தல்
Pinning என்பது நீங்கள் செய்யும் ஒரு செயல்; அது தானாக நடப்பதல்ல. Image=-ஐ ollama.container-ல் திருத்தி, பின் reload மற்றும் restart செய்யவும்:
systemctl --user daemon-reload
systemctl --user restart ollama.service
podman exec ollama ollama --versionModels அனைத்தும் bind mount-ல் இருப்பதால், image மாற்றத்தின் போதும் அவை பாதிக்கப்படாமல் அப்படியே இருக்கும். [Container] பகுதியில் உள்ள AutoUpdate=registry, registry-க்கு எதிராக digest சோதனைகளை உள்ளமைக்கிறது; podman auto-update, கைமுறையாகவோ அல்லது அதன் systemd timer மூலமாகவோ இயங்கும்போது, மாற்றப்பட்ட image-ஐப் பதிவிறக்கி unit-ஐ restart செய்யும். இது நகரும் tag-களுக்கு (moving tag) ஏற்றது. ஒரு version tag-ஐப் பொறுத்தவரை, வெளியீட்டாளர் அதே tag-ஐ மீண்டும் பதிவேற்றினால் மட்டுமே இது செயல்படும். இது போன்ற திட்டமிடப்படாத மாற்றங்களைத் தடுப்பதே pinning-ன் நோக்கம் என்பதால், இந்தச் சூழலில் அதைத் தவிர்க்கவும். /home/ollama/ollama-data/models/manifests மற்றும் .container கோப்பை backup எடுக்கவும், ஆனால் blobs-ஐத் தவிர்க்கவும்: அவை அளவில் பெரியவை, மேலும் புதிய server-ல் ollama pull அவற்றை மீண்டும் பதிவிறக்கிக் கொள்ளும்.
FAQ
நான் வெளியேறிய (log out) பிறகு எனது rootless Podman container ஏன் நின்றுவிடுகிறது?
ஒரு பயனரின் systemd instance மற்றும் அதன் /run/user/<uid> அடைவு (directory) பொதுவாக அந்தப் பயனரின் கடைசி session முடிந்ததும் நீக்கப்படும், இதனால் அந்த instance-ஆல் நிர்வகிக்கப்படும் சேவைகள் நின்றுவிடும். sudo loginctl enable-linger ollama கட்டளையை இயக்கி, loginctl show-user ollama --property=Linger வெளியீடு Linger=yes என்று வருகிறதா என்பதை உறுதிப்படுத்தவும். Quadlet unit-ஐ உருவாக்கும் முன்பே lingering-ஐ enable செய்யவும்; அப்போதுதான் login session இல்லாமலேயே user manager மற்றும் அதன் runtime அடைவு செயல்பாட்டில் இருக்கும்.
Ollama model அடைவுக்கு SELinux labels தேவையா?
Fedora, RHEL, Rocky மற்றும் AlmaLinux ஆகியவற்றில், நீங்கள் host அடைவை bind mount செய்தால், ஆம், தேவைப்படும். Container-ஆனது container_t domain-ல் இயங்குகிறது, home folder-ல் உள்ள ஒரு அடைவு user_home_t என்று label செய்யப்பட்டிருக்கும், எனவே எழுதும் அனுமதி (write access) மறுக்கப்பட்டு Ollama நின்றுவிடும். Volume= வரியில் :Z-ஐச் சேர்க்கவும், அதற்குத் தனிப்பட்ட subdirectory-ஐ ஒதுக்கவும். ஏனெனில் relabelling என்பது recurs-ஆக நடக்கும், எனவே :Z-ஐ முழு home directory-க்கும் சுட்டிக்காட்டினால் அந்தப் பயனரின் SSH key அணுகல் பாதிக்கப்படும். Named volumes-க்கு Podman சரியான label-களை இடுவதால், அதற்குத் தனியாக எதுவும் செய்யத் தேவையில்லை.
ஒரு Ollama model-க்கு எவ்வளவு வட்டு (disk) இடம் தேவை?
ollama.com/library தளத்தில் வெளியிடப்பட்டுள்ள download அளவிலிருந்து கணக்கிடத் தொடங்குங்கள். இது gemma3:4b-க்கு 3.4 GB முதல் qwen3:30b-க்கு 19 GB வரை இருக்கும். இதனுடன் Podman image அளவையும் சேர்த்துக்கொள்ளுங்கள். மேலும், கூடுதல் இடத்தையும் (headroom) விட்டுவிடுங்கள், ஏனெனில் இரண்டாவது model வட்டில் உள்ள முதல் model-ஐ நீக்காது. Pull செய்வதற்கு முன் df -h /home கட்டளையையும், செய்த பிறகு du -sh ~/ollama-data/models கட்டளையையும் சரிபார்க்கவும். சிறந்த செயல்பாட்டிற்கு, model-ன் கோப்பு அளவை RAM-ல் இருப்பதோடு, context window-விற்கும் இடம் ஒதுக்குங்கள். Disk-backed memory mapping அல்லது போதுமான swap இருந்தால், குறைந்த physical RAM-ல் பெரிய model-களை இயக்க முடியும், ஆனால் செயல்பாடு குறைவாகவே இருக்கும்.
VPS-ல் 11434 port-ஐத் திறப்பது பாதுகாப்பானதா?
இல்லை. Ollama-வில் எந்தவிதமான authentication-ம் இல்லை. எனவே, அந்த port-ஐ அணுகும் எவரும் உங்கள் model-களைப் பட்டியலிடலாம், அவற்றை நீக்கலாம், புதியவற்றை உங்கள் வட்டில் பதிவிறக்கலாம், மேலும் உங்கள் CPU மற்றும் bandwidth-ஐப் பயன்படுத்தி inference இயக்கலாம். இணையத்தில் plain HTTP-ஐப் பயன்படுத்தினால், ஒவ்வொரு prompt மற்றும் completion-ம் cleartext-ஆகவே செல்லும். Host பக்கத்தில் PublishPort=127.0.0.1:11434:11434 மூலம் 127.0.0.1-க்கு bind செய்யவும், ss -ltnp | grep 11434 மூலம் அதை உறுதிப்படுத்தவும். பிறகு, SSH tunnel அல்லது கடவுச்சொல் தேவைப்படும் reverse proxy வழியாக அதை அணுகவும்.