Ollama API பாதுகாப்பு: கடவுச்சொல் இல்லாமல் இயங்குவது
Ollama server-ல் இயல்பாகவே authentication கிடையாது. 11434 port வழியாக எவரும் உங்கள் models-ஐ இயக்க முடியும். இந்த பாதுகாப்பு சிக்கலை சரிசெய்ய மூன்று எளிய வழிகளைப் பாருங்கள்.
Ollama API-க்கு கடவுச்சொல் இல்லை
Ollama API-ல் எந்தவிதமான அங்கீகாரமும் (authentication) இல்லை. உள்வரும் வாடிக்கையாளர் இணைப்புகளுக்கு பயனர் பெயர், கடவுச்சொல் அல்லது API key சரிபார்ப்பு எதுவும் கிடையாது. 11434 என்ற port-க்கு TCP இணைப்பு ஏற்படுத்தக்கூடிய எவரும் உங்கள் மாடல்களைப் பட்டியலிடலாம், இயக்கலாம், புதியவற்றைத் தரவிறக்கம் செய்யலாம் மற்றும் ஏற்கனவே உள்ளவற்றை நீக்கலாம்.
அதிகாரப்பூர்வ ஆவணங்கள் இதைத் தெளிவாகக் குறிப்பிடுகின்றன: "http://localhost:11434-ல் உள்ள உள்ளூர் API-க்கு அங்கீகாரம் தேவையில்லை." Local (உள்ளூர்) என்ற வார்த்தையே முழு பாதுகாப்பு மாதிரியையும் குறிக்கிறது. Ollama இயல்பாகவே 127.0.0.1-ல் பிணைக்கப்படுவதால் (bind), ஒரு மடிக்கணினியில் loopback interface மட்டுமே அணுகல் கட்டுப்பாடாகச் செயல்படுகிறது. அந்த listener-ஐ ஒரு பொது முகவரிக்கு (public address) மாற்றினால், அணுகல் கட்டுப்பாடு நீங்கிவிடும், ஏனெனில் அதற்கு மாற்றாக வேறு எந்தப் பாதுகாப்பும் இல்லை.
இதனால்தான் ஒரு VPS-ல் (virtual private server) இது முக்கியத்துவம் பெறுகிறது. இயல்புநிலை அமைப்பு பாதுகாப்பானது. பெரும்பாலான பயனர்கள் செய்யும் முதல் மாற்றமான, மற்றொரு கணினி மாடலைப் பயன்படுத்த listener-ஐத் திறப்பது, ஒரே நேரத்தில் அனைத்துப் பாதுகாப்புகளையும் நீக்கிவிடும் செயலாகும்.
திறந்திருக்கும் 11434 port எதை வெளிப்படுத்துகிறது
ஒவ்வொரு endpoint-ம் வெளிப்படும். இதில் read-only mode கிடையாது, தனி நிர்வாக port-ம் இல்லை. இவை localhost-க்கு பதிலாக server முகவரியை இலக்காகக் கொண்ட உண்மையான கோரிக்கைகள் (requests):
# List every model on the box
curl http://SERVER_IP:11434/api/tags
# See what is loaded into memory right now
curl http://SERVER_IP:11434/api/ps
# Run a prompt on your hardware
curl http://SERVER_IP:11434/api/generate -d '{"model":"llama3.2","prompt":"Why is the sky blue?"}'
# Write several gigabytes to your disk
curl http://SERVER_IP:11434/api/pull -d '{"model":"llama3.2"}'
# Remove a model
curl -X DELETE http://SERVER_IP:11434/api/delete -d '{"model":"llama3.2"}'இயக்குநர் (operator) பார்வையில், நான்கு விஷயங்கள் தவறாக நடக்கின்றன:
- உங்கள் CPU அல்லது GPU வேறொருவருக்காக inference செய்கிறது. நியாயமான பயன்பாட்டு (fair-use) CPU ஒதுக்கீடு கொண்ட திட்டத்தில், தொடர்ச்சியான சுமை என்பது ஒரு அந்நியர் உங்கள் ஒதுக்கீட்டைச் செலவழிப்பதாகும். நீங்கள் மட்டுமே பயன்படுத்துபவர் அல்லாதபோது, VPS-ல் AI பணிச்சுமை செலவுகளைக் கட்டுக்குள் வைத்திருப்பது மிகவும் கடினமாகிறது.
/api/pullஉங்கள் வட்டில் (disk) எழுதும். மாடல்களின் அளவுகள் மாறுபடும்;llama3.2:1bகூட 1.3 GB அளவுடையது. மீண்டும் மீண்டும் pull செய்யும் சுழற்சி வட்டை நிரப்பிவிடும். வட்டு முழுமையாக நிரம்பினால், Ollama மட்டுமல்லாமல் அந்த server-ல் உள்ள மற்ற அனைத்து சேவைகளும் முடங்கிவிடும்.- கோரிக்கைகள் உங்கள் process-க்குள் வந்து பதிவாகின்றன (log). இயல்புநிலை log நிலையில் Ollama metadata-வை மட்டுமே பதிவு செய்கிறது. எனவே, prompt உரை கிடைக்காது, ஆனால் endpoint, status, latency மற்றும் client முகவரி ஆகியவை கிடைக்கும். உங்கள் server-ஐ யார் பயன்படுத்தினார்கள், எதற்காகப் பயன்படுத்தினார்கள் என்பதற்கான பதிவு உங்கள் journal-ல் இருக்கும்; இதைச் சேகரிக்க நீங்கள் முடிவெடுக்கவில்லை.
/api/deleteமாடல்களை நீக்கும். அவற்றை மீண்டும் பெற, உங்கள் சொந்த bandwidth-ஐப் பயன்படுத்தி மீண்டும் பதிவிறக்கம் செய்ய வேண்டியிருக்கும்.
இதற்கு எந்த exploit-ம் தேவையில்லை. இது ஆவணப்படுத்தப்பட்ட API, வடிவமைக்கப்பட்டபடியே செயல்படுகிறது.
Ed25519 key என்பது ஒரு access control அல்ல
"Ollama API key" என்று தேடினால், நீங்கள் இரண்டு வெவ்வேறு விஷயங்களைக் காண்பீர்கள். இவை இரண்டுமே உங்கள் server-க்கான கடவுச்சொல் (password) அல்ல; இவற்றைத் தனித்தனியாகப் புரிந்துகொண்டால் குழப்பம் நீங்கும்.
முதலாவது, identity key pair. Ollama முதல்முறை இயங்கும்போது ஒரு Ed25519 key pair-ஐ உருவாக்குகிறது. Linux-ல், install script ஆனது ollama என்ற பெயரில் ஒரு system user-ஐ உருவாக்கி, அதன் home directory-ஐ /usr/share/ollama-ல் அமைக்கும். எனவே, அந்த key pair இங்கே இருக்கும்:
/usr/share/ollama/.ollama/id_ed25519
/usr/share/ollama/.ollama/id_ed25519.pubஇந்த key வெளிப்புறத்தை நோக்கியது. ollama signin உங்கள் public key-ஐ ollama.com கணக்கில் பதிவு செய்கிறது. ஒரு model-ஐ registry-க்கு push செய்யவும் அல்லது private model-ஐ pull செய்யவும் இதுவே உங்களை அங்கீகரிக்கிறது. இது உங்கள் machine-ஐ ollama.com-க்கு உறுதிப்படுத்துகிறது. உங்கள் machine-ஐத் தொடர்பு கொள்ளும் clients-க்கு இது எதையும் கோருவதில்லை. இதை நீக்குவதாலோ, மாற்றுவதாலோ அல்லது உருவாக்காமல் இருப்பதாலோ உங்கள் API-ஐ யார் அழைக்கலாம் என்பதில் எந்த மாற்றமும் ஏற்படாது.
இரண்டாவது, OLLAMA_API_KEY. இந்த variable, நீங்கள் https://ollama.com/settings/keys-ல் உருவாக்கும் ஒரு key-ஐ வைத்திருக்கும். நீங்கள் https://ollama.com/api-ல் உள்ள hosted API-ஐ அழைக்கும்போது, உங்கள் client அதை Authorization: Bearer $OLLAMA_API_KEY-ஆக அனுப்பும். இது அவர்களின் சேவைக்கான ஒரு credential ஆகும்; இதை நீங்கள் client-ஆகப் பயன்படுத்துகிறீர்கள். உங்கள் சொந்த ollama serve, உள்வரும் கோரிக்கைகளை (incoming requests) அங்கீகரிக்க இதைப் பயன்படுத்துவதில்லை. உங்கள் VPS-ல் OLLAMA_API_KEY-ஐ அமைப்பது உங்கள் VPS-க்கு கடவுச்சொல் பாதுகாப்பைத் தராது.
எனவே, இதில் ஆன் செய்ய வேண்டிய அமைப்புகள் எதுவும் இல்லை. கீழே உள்ள மூன்று பாதுகாப்பு முறைகளும் ஒரே விதமாகவே செயல்படுகின்றன: port-ஐ அணுக முடியாதபடி வைத்திருங்கள், மேலும் அதைச் சரிபார்க்கும் ஒரு கருவியை அதற்கு முன்னால் (in front of it) நிறுவுங்கள்.
தற்போது உங்கள் server எவற்றைக் கவனிக்கிறது (listening) என்பதைச் சரிபார்க்கவும்
sudo ss -tlnp | grep 11434பாதுகாப்பான முடிவானது loopback முகவரியைக் காட்டும்:
LISTEN 0 4096 127.0.0.1:11434 0.0.0.0:* users:(("ollama",pid=812,fd=3))வெளிப்படுத்தப்பட்ட (exposed) முடிவானது அனைத்து interface-களையும் காட்டும்:
LISTEN 0 4096 0.0.0.0:11434 0.0.0.0:* users:(("ollama",pid=812,fd=3))0.0.0.0 என்பது server-ல் உள்ள அனைத்து IPv4 முகவரிகளையும் குறிக்கும், இதில் public முகவரியும் அடங்கும். *:11434 மற்றும் [::]:11434 ஆகியவை அனைத்து IPv6 முகவரிகளிலும் கேட்கும் wildcard listeners ஆகும். இவை IPv4-ஐயும் ஏற்குமா என்பது அந்த socket-ன் IPV6_V6ONLY விருப்பத்தைப் பொறுத்தது. Linux-ல் இது இயல்பாகவே முடக்கப்பட்டிருக்கும் (net.ipv6.bindv6only=0), எனவே இந்த மூன்றில் எதைக் கண்டாலும் அது வெளிப்படுத்தப்பட்டதாகவே கருத வேண்டும்.
இப்போது வெளியிலிருந்து உறுதிப்படுத்தவும். இதை server-ல் இயக்காமல், உங்கள் laptop-ல் இயக்கவும்:
curl -m 5 http://YOUR_SERVER_IP:11434/api/versioncurl: (28) Connection timed out after 5001 milliseconds என்பது நீங்கள் எதிர்பார்க்கும் பதில், curl: (7) Failed to connect ... Connection refused என்பதும் அதுவே. version புலத்தைக் கொண்ட ஒரு JSON object கிடைத்தால், அந்த API-ஐ யார் வேண்டுமானாலும் அணுக முடியும் என்று அர்த்தம். Server-லேயே curl மூலம் சோதிப்பது, மற்றொரு கணினியால் அதை அணுக முடியுமா என்பதை உறுதிப்படுத்தாது. Server-க்கு IPv6 முகவரி இருந்தால், curl -6 -m 5 http://[YOUR_SERVER_IPV6]:11434/api/version மூலம் அதையும் சோதிக்கவும்; ஏனெனில் IPv4 port மூடப்பட்டிருப்பது IPv6 listener-ஐப் பற்றி எதையும் கூறாது.
பொதுவாக இரண்டு வழிகளில் வெளிப்பாடு (exposure) நிகழ்கிறது. முதலாவது, வேண்டுமென்றே செய்யப்படும் திருத்தம்; ஏனெனில் மற்றொரு கணினி அந்த model-ஐ அணுக வேண்டிய தேவை இருக்கலாம்:
sudo systemctl edit ollama.service[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"அந்த ஒரு வரி மட்டுமே முழு வெளிப்பாட்டிற்கும் காரணமாகிறது. இரண்டாவது வழி Docker ஆகும், இது எதையும் திருத்தச் சொல்லாது. அதைப் பற்றி கீழே உள்ள பகுதியில் காணலாம்.
பாதுகாப்பு 1: localhost-ல் வைத்துக்கொண்டு tunnel மூலம் அணுகுதல்
முதலில் இந்த முறையை முயற்சி செய்யுங்கள். இதற்குப் புதிய மென்பொருள் தேவையில்லை, கசிவு ஏற்படக்கூடிய எந்தவொரு நற்சான்றிதழும் (credential) உருவாக்கப்படுவதில்லை. இந்த port பொதுவான interface-ல் இருக்காது என்பதால், scanning மூலம் இதைக் கண்டறிய முடியாது.
இயல்பான அமைப்பைச் சார்ந்திருக்காமல், bind address-ஐ நேரடியாகக் குறிப்பிடவும்:
sudo systemctl edit ollama.service[Service]
Environment="OLLAMA_HOST=127.0.0.1:11434"இது /etc/systemd/system/ollama.service.d/override.conf-ஐ எழுதும். இதைச் செயல்படுத்திச் சரிபார்க்கவும்:
sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo ss -tlnp | grep 11434ss இப்போது 127.0.0.1:11434-ஐக் காட்ட வேண்டும். ஒருவேளை அது இன்னும் 0.0.0.0-ஐக் காட்டினால், வேறொரு drop-in file முன்னுரிமை பெறுகிறது என்று அர்த்தம். systemctl cat ollama.service-ஐ இயக்கி, அந்த unit மற்றும் அதன் அனைத்து drop-in கோப்புகளையும் அவற்றின் பாதையுடன் பட்டியலிட்டு, பழைய கோப்பை நீக்கவும்.
உங்கள் மடிக்கணினியிலிருந்து இந்த மாதிரியைப் பயன்படுத்த, SSH மூலம் port-ஐ forward செய்யவும்:
ssh -N -L 11434:127.0.0.1:11434 you@your-server-L 11434:127.0.0.1:11434 உங்கள் மடிக்கணினியில் 11434 port-ஐத் திறந்து, அங்கு வரும் அனைத்தையும் server-ல் இருந்து பார்க்கும்போது 127.0.0.1:11434-க்கு அனுப்பும். -N என்பது SSH-ஐ remote command-ஐ இயக்க வேண்டாம் என்று கூறுகிறது, எனவே அந்த process tunnel-ஐத் திறந்து வைத்திருக்கும். அது இயங்கும்போது, உங்கள் மடிக்கணினியில் இது வேலை செய்யும்:
curl -s http://localhost:11434/api/tagsநீங்கள் இரண்டு தோல்விகளைச் சந்திக்க நேரிடலாம். bind [127.0.0.1]:11434: Address already in use என்பது அந்த local முகவரி மற்றும் port ஏற்கனவே பயன்பாட்டில் உள்ளது என்று பொருள் (Ollama, மற்றொரு SSH tunnel அல்லது வேறு ஏதேனும் நிரலால் இருக்கலாம்). எனவே, -L 11500:127.0.0.1:11434 மூலம் வேறு ஒரு local port-ஐத் தேர்ந்தெடுத்து, உங்கள் client-ஐ 11500-க்கு மாற்றவும். tunnel வழியாகச் செல்லும் கோரிக்கைக்குப் பதில் வரவில்லை எனில், எந்தச் சேவை தோல்வியடைந்தது என்பதைத் தீர்மானிக்கும் முன், server-ல் ss மற்றும் SSH-ன் error output-ஐச் சரிபார்க்கவும்.
பல client கணினிகள் இருந்தால், ஒவ்வொருவருக்கும் ஒரு tunnel அமைப்பதை விட, ஒரு private network சிறந்தது. கணினிகளை WireGuard அல்லது Tailscale-ல் இணைத்து, Ollama-வை 0.0.0.0-க்கு பதிலாக அந்த network-ன் முகவரியுடன் bind செய்யவும்:
[Service]
Environment="OLLAMA_HOST=10.8.0.1:11434"இப்போது அந்த port, நீங்கள் key வைத்திருந்தால் மட்டுமே நுழையக்கூடிய ஒரு interface-ல் மட்டுமே இருக்கும். firewall-ல் தவறு நடந்தாலும் இது பாதுகாப்பானது, ஏனெனில் பொதுவான interface-ல் இல்லாத ஒரு listener-ஐ, தவறுதலாக அனுமதிக்கப்பட்ட ஒரு rule-ஆல் கூட வெளிப்படுத்த முடியாது.
பாதுகாப்பு 2: bearer token-ஐ சரிபார்க்கும் reverse proxy
பொது இணையத்திலிருந்து ஏதேனும் ஒன்று model-ஐ அழைக்க வேண்டியிருக்கும் போது, Ollama-வை loopback-ல் வைத்துக்கொண்டு, அதற்கு முன்னால் ஒரு proxy-ஐ அமைக்கவும். இந்த proxy TLS (transport layer security)-ஐ முடிவுக்குக் கொண்டுவந்து, சரியான header இல்லாத கோரிக்கைகளை நிராகரிக்கிறது. Ollama தொடர்ந்து 127.0.0.1-லிருந்து வரும் இணைப்புகளை மட்டுமே ஏற்றுக்கொள்வதால், இந்த proxy மட்டுமே உள்ளே செல்வதற்கான ஒரே வழியாகும்.
முதலில் ஒரு உண்மையான token-ஐ உருவாக்கவும். நீங்களாகவே எதையும் உருவாக்க வேண்டாம்:
openssl rand -base64 36அதைச் சரிபார்க்கும் ஒரு nginx தளம்:
map $http_authorization $ollama_ok {
default 0;
"Bearer PASTE_YOUR_GENERATED_TOKEN_HERE" 1;
}
server {
listen 443 ssl;
server_name llm.example.com;
ssl_certificate /etc/letsencrypt/live/llm.example.com/fullchain.pem;
ssl_certificate_key /etc/letsencrypt/live/llm.example.com/privkey.pem;
location = /api/pull { return 403; }
location = /api/delete { return 403; }
location = /api/push { return 403; }
location / {
if ($ollama_ok = 0) { return 401; }
proxy_pass http://127.0.0.1:11434;
proxy_set_header Host 127.0.0.1:11434;
proxy_buffering off;
proxy_read_timeout 600s;
}
}அதில் உள்ள ஐந்து வரிகள் உண்மையான வேலையைச் செய்கின்றன, ஒவ்வொன்றும் நீங்கள் எதிர்கொள்ளக்கூடிய ஒரு தோல்வியைத் தடுக்கின்றன.
nginx-ல் location தொகுதிக்குள் if-ஐப் பயன்படுத்துவது பொதுவாக நல்லதல்ல, ஆனால் சரியாக return அளவுள்ள body, கணிக்கக்கூடிய வகையில் செயல்படும் இரண்டு வடிவங்களில் ஒன்றாகும், எனவே இந்த பயன்பாடு பாதுகாப்பானது.
location = /api/pull என்பது துல்லியமான பொருத்தம் (exact match), மேலும் nginx துல்லியமான பொருத்தங்களை location / முன்னொட்டை விட உயர்வாகக் கருதுகிறது, எனவே அந்த மூன்று endpoints-களும் token பரிசீலிக்கப்படுவதற்கு முன்பே நிராகரிக்கப்படுகின்றன. செல்லுபடியாகும் token இன்னும் /api/create மற்றும் /api/blobs/:digest உள்ளிட்ட பிற model-management endpoints-களுக்கான அணுகலை வழங்குகிறது, எனவே இந்த மூன்று தொகுதிகளும் ஒவ்வொரு disk எழுத்தையும் தடுப்பதில்லை.
Ollama உள்வரும் Host மற்றும் Origin தலைப்புகளை (headers) ஆய்வு செய்வதால் proxy_set_header Host 127.0.0.1:11434; முக்கியமானது. proxy-ன் பொதுவான hostname-ஐ அப்படியே கடத்துவது, nginx-லிருந்து வராமல் Ollama-விலிருந்து வந்த 403 Forbidden-ஐ உருவாக்கலாம், இது பிழைத்திருத்தம் செய்வதற்கு குழப்பத்தை ஏற்படுத்தும். ஒரு குறிப்பிட்ட origin அனுமதிக்கப்பட வேண்டிய browser client-க்கு OLLAMA_ORIGINS மற்றொரு கருவியாகும்.
Ollama தனது பதிலை token-ஆகத் தொடர்ந்து அனுப்புவதால் proxy_buffering off; முக்கியமானது. buffering செயல்பாட்டில் இருக்கும்போது, nginx பதிலை அனுப்பும் முன் சேமித்து வைக்கிறது, இது அனுப்பப்படும் token-களின் விநியோகத்தைத் தாமதப்படுத்துகிறது.
proxy_read_timeout 600s; முக்கியமானது, ஏனெனில் nginx இயல்பாக 60 வினாடிகளை அமைத்துள்ளது, மேலும் அந்த டைமர் முழு பதிலுக்கும் அல்லாமல், Ollama-விடமிருந்து அடுத்தடுத்து வரும் இரண்டு வாசிப்புகளுக்கு இடையே இயங்குகிறது. தொடர்ந்து token-களை உருவாக்கும் streaming பதில் அதை ஒவ்வொரு முறையும் மீட்டமைக்கிறது. Ollama 60 வினாடிகளுக்கு எதையும் அனுப்பாத கோரிக்கை அதைத் தூண்டுகிறது, உதாரணமாக "stream": false உடன் அனுப்பப்படும் கோரிக்கை, இது இறுதியில் முழு பதிலையும் ஒரே துண்டாகத் தருகிறது, அல்லது முதல் token வருவதற்கு முன்பு நீண்ட அமைதி நிலவுகிறது. client-க்கு 504 Gateway Time-out கிடைக்கிறது, மேலும் /var/log/nginx/error.log-ல் upstream timed out (110: Connection timed out) while reading response header from upstream பதிவாகிறது. கோரிக்கை இன்னும் செயல்பட்டுக்கொண்டிருந்தது, ஆனால் nginx அதைக் கைவிட்டது.
Reload செய்து இரண்டு பாதைகளையும் சோதிக்கவும்:
sudo nginx -t && sudo systemctl reload nginx
curl -s -o /dev/null -w '%{http_code}\n' https://llm.example.com/api/tags
curl -s -H "Authorization: Bearer YOUR_TOKEN" https://llm.example.com/api/tagsமுதல் கட்டளை 401-ஐ அச்சிட வேண்டும். இரண்டாவது உங்கள் model பட்டியலை அச்சிட வேண்டும். முதல் கட்டளையும் model பட்டியலைத் தந்தால், எந்த server மற்றும் location கோரிக்கையைக் கையாண்டது என்பதையும், reload வெற்றிகரமாக முடிந்ததா என்பதையும் சரிபார்க்கவும். தவறான scope-ல் உள்ள map தொகுதி உள்ளமைவைச் செல்லாததாக்குகிறது. இது http மட்டத்தில் இருக்க வேண்டும், எனவே அதை /etc/nginx/conf.d/-க்குக் கீழே உள்ள கோப்பிலோ அல்லது server தொகுதிக்கு மேலோ வைக்கவும், ஒருபோதும் server-க்குள் வைக்க வேண்டாம்.
Caddy இதே வேலையை நான்கு வரிகளில் basic authentication மூலம் செய்கிறது, இது bearer token-ஐ விட browser client-க்கு மிகவும் பொருத்தமானது:
llm.example.com {
basic_auth {
apiuser PASTE_BCRYPT_HASH_HERE
}
reverse_proxy 127.0.0.1:11434
}அது எதிர்பார்க்கும் bcrypt hash-ஐ உருவாக்க caddy hash-password-ஐ இயக்கவும். ஒரு பெயரிடல் குறிப்பு: Caddy v2.8-க்கு முன்பு இந்த directive basicauth என்று இருந்தது, இப்போது basic_auth என்று உள்ளது. Caddy பழைய எழுத்துப்பிழையை இன்னும் ஒரு deprecated alias-ஆக ஏற்றுக்கொள்கிறது, எனவே பழைய வழிகாட்டியிலிருந்து நகலெடுக்கப்பட்ட உள்ளமைவு ஏற்றப்படும், ஆனால் basicauth என்பது deprecated என்றும் அதற்குப் பதிலாக basic_auth-ஐப் பயன்படுத்துமாறும் Caddy எச்சரிக்கும். அந்த எச்சரிக்கையைப் பார்க்கும்போது அதை மாற்றவும்.
நீங்கள் எந்த proxy-ஐத் தேர்ந்தெடுத்தாலும், இது அனைவருக்கும் பகிரப்பட்ட ஒரு ரகசியமாகும். அதை வைத்திருக்கும் ஒவ்வொரு client-க்கும் ஒரே மாதிரியான அணுகல் இருக்கும், அதை ரத்து செய்வது என்பது உள்ளமைவைத் திருத்தி, அதே நேரத்தில் ஒவ்வொரு அழைப்பாளரையும் புதுப்பிப்பதாகும்.
பாதுகாப்பு 3: ஒவ்வொரு client-க்கும் தனித்தனி keys வழங்கும் gateway
ஒன்றுக்கும் மேற்பட்ட நபர்கள் அல்லது applications இந்த model-ஐ அழைக்கும்போது, பகிரப்பட்ட (shared) token-ன் பயன்பாட்டு வரம்பு விரைவில் முடிந்துவிடும். எந்த client சுமையை (load) உருவாக்கியது என்பதை உங்களால் கண்டறிய முடியாது; மேலும், அனைவரின் இணைப்பையும் துண்டிக்காமல் ஒரு குறிப்பிட்ட client-ஐ மட்டும் உங்களால் தடுக்க முடியாது. proxy இருந்த இடத்தில் ஒரு gateway-ஐ அமைக்க வேண்டும். இது OpenAI-compatible API-ஐப் பின்பற்றி, ஒவ்வொரு client-க்கும் தனித்தனி key-களை வழங்கி, அந்தந்த key-ன் பயன்பாட்டைப் பதிவு செய்யும். சுயமாக இயங்கும் (self-hosted) LiteLLM gateway இதற்குச் சிறந்த தீர்வாகும். இது access control-உடன் சேர்த்து, ஒவ்வொரு key-க்கும் தனித்தனி வரவு-செலவுத் திட்டத்தையும் (budgets) மற்றும் request logs-ஐயும் வழங்குகிறது.
பாதுகாப்பு 1-ல் உள்ள விதி மாறாது. Ollama-வை 127.0.0.1-ல் bind செய்ய வேண்டும். gateway மட்டுமே அதனுடன் தொடர்பு கொள்ளும் ஒரே process ஆக இருக்க வேண்டும், மேலும் public listener-ஐக் கொண்ட ஒரே service-ஆகவும் gateway மட்டுமே இருக்க வேண்டும். port 11434 உலகளாவிய பயன்பாட்டிற்குத் திறந்திருக்கும் ஒரு server-ல் gateway-ஐ அமைப்பது பயனற்றது; ஏனெனில், அழைப்பாளர்கள் (callers) gateway-ஐத் தவிர்த்துவிட்டு நேரடியாக Ollama-வை அணுக முடியும்.
Firewall சிக்கல்: வெளியிடப்பட்ட container port UFW-ஐத் தவிர்க்கிறது
சரியான firewall அமைப்புகளைக் கொண்டிருந்தும், servers-ல் exposed instances இருப்பதற்கு இதுவே காரணம்.
UFW (uncomplicated firewall) தனது விதிகளை kernel-ன் INPUT chain-ல், filter table-ல் எழுதுகிறது. INPUT, host-க்கு வரும் பாக்கெட்டுகளைக் கையாளுகிறது. Docker-ன் -p flag, ஒரு destination NAT (network address translation) விதியை nat table-ன் PREROUTING chain-ல் எழுதுகிறது. பாக்கெட் எங்கு செல்ல வேண்டும் என்று தீர்மானிக்கும் முன்பே, kernel இதைச் சரிபார்க்கிறது. Routing முடிவு எடுக்கும்போது, destination ஏற்கனவே container-ன் முகவரிக்கு மாற்றப்பட்டிருக்கும். எனவே, பாக்கெட் உள்ளூர் பயன்பாட்டிற்கு வராமல், forward செய்யப்படுகிறது. இது INPUT-க்கு பதிலாக FORWARD வழியாகச் செல்கிறது. UFW-ன் INPUT விதிகள் ஒருபோதும் சரிபார்க்கப்படுவதில்லை, எனவே பாக்கெட் firewall-ஐத் தவிர்த்துச் செல்கிறது.
இதன் காரணமாகவே, பின்வரும் வரிசைமுறை port 11434-ஐ இணையத்திற்குத் திறந்து விடுகிறது:
sudo ufw default deny incoming
sudo ufw enable
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollamaமேலும், sudo ufw status firewall இயங்குவதாகவும், default deny நிலையில் இருப்பதாகவும் காட்டுகிறது. இரண்டு தகவல்களும் சரியானவை, இதனால்தான் பயனர்கள் தவறான தகவலை நம்புகிறார்கள். இந்த விதியை நீங்கள் பின்வருமாறு பார்க்கலாம்:
sudo iptables -t nat -L DOCKER -nஇதற்கான தீர்வு, publish flag-ல் ஒரு முகவரியைச் சேர்ப்பதுதான்:
docker rm -f ollama
docker run -d -v ollama:/root/.ollama -p 127.0.0.1:11434:11434 --name ollama ollama/ollama-p 11434:11434 எந்த host முகவரியையும் குறிப்பிடவில்லை, எனவே Docker அந்த port-ஐ அனைத்து host முகவரிகளிலும், IPv4 (0.0.0.0) மற்றும் IPv6 ([::]) இரண்டிலும் வெளியிடுகிறது. 127.0.0.1 என்று குறிப்பிடுவது, mapping-ன் host பகுதியை loopback-ல் பிணைக்கிறது. இதனால் உங்கள் SSH tunnel மற்றும் reverse proxy மூலம் மட்டுமே அதை அணுக முடியும், இணையத்தால் முடியாது. 28.0.0-க்கு முந்தைய Docker பதிப்புகளில் ஒரு விதிவிலக்கு உள்ளது: ஒரே network segment-ல் உள்ள கணினிகள் localhost-ல் வெளியிடப்பட்ட port-களை அணுக முடியும். எனவே, இந்த பாதுகாப்பை நம்புவதற்கு முன் upgrade செய்யவும். Container-ஐ மீண்டும் உருவாக்குவது பாதுகாப்பானது, ஏனெனில் மாதிரிகள் (models) container-க்குள் இல்லை, பெயரிடப்பட்ட ollama volume-ல் உள்ளன.
இரண்டு பார்வைகளும் ஒத்துப்போவதை உறுதிப்படுத்தவும்:
docker port ollama
sudo ss -tlnp | grep 11434docker port ollama என்பது 11434/tcp -> 127.0.0.1:11434 என்று காட்ட வேண்டும். அது 0.0.0.0:11434 அல்லது [::]:11434 என்று காட்டினால், உங்கள் server இன்னும் exposed நிலையில் உள்ளது. இந்த நுட்பத்தை ஒருமுறை கற்றுக்கொண்டால், நீங்கள் வெளியிடும் அனைத்து container-களுக்கும் இது பொருந்தும்: Docker ஏன் UFW-ஐத் தவிர்த்து port-களை வெளியிடுகிறது என்பது DOCKER-USER chain மற்றும் Docker restart-க்குப் பிறகும் நீடிக்கும் விதிகளை விளக்குகிறது. நீங்கள் இன்னும் host policy-ஐ உருவாக்குகிறீர்கள் என்றால், புதிய VPS-க்குத் தேவையான UFW விதிகள் அடிப்படை அமைப்புகளை விளக்குகிறது. Rocky அல்லது AlmaLinux-ல் UFW கிடையாது, எனவே firewalld-ல் எழுதப்பட்ட அதே அடிப்படை policy-ல் தொடங்கவும்.
இந்த process எந்த பயனர் கணக்கில் இயங்குகிறது
Linux install script ஒரு பிரத்யேக கணக்கை உருவாக்கி, அதன் கீழ் service-ஐ இயக்குகிறது:
useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama/etc/systemd/system/ollama.service-ல் உள்ள unit, User=ollama மற்றும் Group=ollama ஆகியவற்றை அமைக்கிறது. அதை மாற்ற வேண்டாம். ஒரு terminal-ல் கையால் தொடங்கப்படும் ollama serve, நீங்கள் login செய்துள்ள பயனர் கணக்கிலேயே இயங்கும். அது root ஆக இருந்தால், authentication இல்லாத API, root உரிமையுடன் கோப்புகளை எழுதும். எது இயங்குகிறது என்பதைச் சரிபார்க்கவும்:
ps -o user= -C ollamaஇதற்கான விடை ollama என்று இருக்க வேண்டும். வேறு ஏதேனும் விடை வந்தால், unit-க்கு பதிலாகவோ அல்லது அதனுடன் இணைந்தோ கையால் தொடங்கப்பட்ட process ஒன்று இயங்குகிறது என்று அர்த்தம். நீங்கள் பின்னர் சேர்க்கும் ஒவ்வொரு daemon-க்கும் இதே தர்க்கம் பொருந்தும், மேலும் குறைந்தபட்ச உரிமைகள் கொண்ட பயனர்களாக சேவைகளை இயக்குதல் என்ற பகுதி இதை விரிவாக விளக்குகிறது.
Ollama API endpoint பாதுகாப்பாக உள்ளதா என்பதைச் சரிபார்ப்பது எப்படி
நீங்கள் எதைத் தேர்ந்தெடுத்தாலும், ஒரு சோதனை மட்டுமே இதை உறுதிப்படுத்தும். அந்தச் சோதனையை மற்றொரு கணினியிலிருந்து இயக்க வேண்டும்:
curl -m 5 http://YOUR_SERVER_IP:11434/api/version
curl -m 5 http://YOUR_SERVER_IP:11434/api/tagsஇவை இரண்டுமே time out ஆக வேண்டும் அல்லது நிராகரிக்கப்பட வேண்டும். நீங்கள் ஒரு proxy-ஐ உருவாக்கியிருந்தால், proxy hostname-ல் உள்ள அதே இரண்டு பாதைகளும், credentials இல்லாமல் 401-ஐயும், அவற்றுடன் உண்மையான JSON-ஐயும் வழங்க வேண்டும்.
பிறகு, port திறந்திருந்தபோது செய்யப்பட்ட கோரிக்கைகளுக்காக access log-ஐ ஒருமுறை வாசிக்கவும்:
journalctl -u ollama --since "-30 days" | grep GINOllama ஒவ்வொரு கோரிக்கைக்கும் ஒரு வரியை எழுதுகிறது மற்றும் அதில் client முகவரியையும் உள்ளடக்குகிறது:
[GIN] 2026/08/12 - 14:01:10 | 200 | 103.965898ms | 127.0.0.1 | POST "/api/generate"அந்த முகவரி Gin-ன் ClientIP()-லிருந்து வருகிறது. இது நம்பகமான proxy-களிடமிருந்து வரும் X-Forwarded-For மற்றும் X-Real-IP தலைப்புகளையும் (headers) சரிபார்க்கிறது. எனவே, loopback reverse proxy வழியாக வரும் ஒரு கோரிக்கை, Ollama சரியாக 127.0.0.1-ல் பிணைக்கப்பட்டிருந்தாலும் (bound), பொதுவான client முகவரியைக் காட்டக்கூடும். அந்த நெடுவரிசையில் உள்ள ஒரு பொது முகவரி, port 11434-க்கு நேரடி அணுகல் இருப்பதை நிரூபிக்காது. அதேபோல், பொருந்தக்கூடிய log வரிகள் இல்லை என்பது யாரும் அதை அணுகவில்லை என்று அர்த்தமல்ல. உங்கள் proxy logs மற்றும் configuration-உடன் நேர முத்திரைகளை (timestamps) ஒப்பிட்டுப் பாருங்கள். தற்போதைய வெளிப்பாட்டைச் (exposure) சரிபார்க்க, வெளியிலிருந்து இணைக்கும் சோதனையைப் பயன்படுத்துங்கள். இந்த model சார்ந்த பகுதி உங்களுக்குப் புதியது என்றால், VPS-ல் Ollama-வை இயக்குவது என்ற பகுதி, நிறுவல், model அளவு மற்றும் எவை உண்மையில் load ஆகும் என்பதைத் தீர்மானிக்கும் memory வரம்புகள் பற்றி விளக்குகிறது.
FAQ
Ollama-வில் API key அல்லது password உள்ளதா?
இல்லை. நீங்கள் இயக்கும் server-ல் எந்தவிதமான authentication-ம் இல்லை. local API-க்கு authentication தேவையில்லை என்று அதிகாரப்பூர்வ ஆவணங்கள் குறிப்பிடுகின்றன. "Ollama API key" என்று அழைக்கப்படுபவை இரண்டும் வேறு நோக்கத்தைக் கொண்டவை. /usr/share/ollama/.ollama/-ல் உள்ள Ed25519 ஜோடி, உங்கள் machine-ஐ ollama.com-உடன் இணைத்து, models-ஐ push செய்யவும் private models-ஐ pull செய்யவும் உதவுகிறது. OLLAMA_API_KEY என்பது https://ollama.com/api-ல் உள்ள hosted API-க்கு உங்கள் client அனுப்பும் ஒரு credential ஆகும். உங்கள் சொந்த ollama serve உள்வரும் client-களை அங்கீகரிக்க எதையும் பயன்படுத்துவதில்லை; எனவே, network மூலமாகவோ அல்லது முன்னால் உள்ள proxy மூலமாகவோதான் access control-ஐ நீங்கள் செய்ய வேண்டும்.
என்னிடம் firewall இருந்தால் OLLAMA_HOST=0.0.0.0 பாதுகாப்பானதா?
firewall அந்த listener-க்கான அணுகலைச் சரியாகத் தடுத்தால் மட்டுமே அது பாதுகாப்பானது. 0.0.0.0 என்பது அந்த listener பொதுவான interface-ல் இருப்பதை உறுதி செய்கிறது; அதை அணுக முடியாதபடி தடுக்கும் பொறுப்பை நீங்கள் firewall-இடம் மட்டுமே ஒப்படைக்கிறீர்கள். Docker மூலம் வெளியிடப்பட்ட Ollama port-க்கு கூடுதல் கவனம் தேவை. ஏனெனில், Docker nat table-ல் சேர்க்கும் DNAT rule, UFW இருக்கும் INPUT chain-க்கு packet செல்வதற்கு முன்பே செயல்படுத்தப்படுகிறது. இதனால் packet forward செய்யப்பட்டு, UFW-ன் INPUT விதிகள் அதை கவனிப்பதில்லை. 127.0.0.1-ல் அல்லது private tunnel address-ல் bind செய்வதன் மூலம், listener-ஐ பொதுவான interface-லிருந்து நீக்கலாம். இதனால் firewall-ல் தவறு நடந்தாலும், வெளிப்படையாக எதுவும் இருக்காது.
எனது Ollama port இணையத்திற்குத் திறந்திருக்கிறதா என்பதை எப்படிச் சரிபார்ப்பது?
server-ல் sudo ss -tlnp | grep 11434-ஐயும், வேறொரு machine-லிருந்து curl -m 5 http://YOUR_SERVER_IP:11434/api/version-ஐயும் இயக்கவும். 127.0.0.1:11434-ஐக் காட்டும் ss மற்றும் remote curl-ன் timeout ஆகியவையே நீங்கள் எதிர்பார்க்கும் முடிவுகள். remote curl JSON-ஐத் தரும்போது, 0.0.0.0:11434 அல்லது *:11434-ஐக் காட்டும் ss என்பது முழு API-யும் அணுகக்கூடிய நிலையில் இருப்பதைக் குறிக்கிறது. server-லேயே curl மூலம் சோதிப்பது, மற்றொரு machine-ஆல் அதை அணுக முடியுமா என்பதை உறுதிப்படுத்தாது.
port-ஐ 11434-லிருந்து ஏதேனும் ஒரு random port-க்கு மாற்றலாமா?
கூடாது, இதற்கான காரணத்தைப் புரிந்துகொள்வது அவசியம். port-ஐ மாற்றுவது ஒரு குறிப்பிட்ட port-ஐ scan செய்வதைத் தவிர எதையும் தாமதப்படுத்தாது. scanners முழு range-ஐயும் சோதிக்கும்; /api/tags-க்கு வரும் ஒரு request, அது எந்த port-ல் வந்தாலும் அந்த service-ஐ அடையாளம் காட்டிவிடும். மேலும், port-ஐ மாற்றுவது அனைத்து client default-களையும் பாதிக்கும், உங்கள் setup-ஐப் புரிந்துகொள்வதையும் கடினமாக்கும். அதற்குப் பதிலாக loopback-ல் bind செய்யுங்கள்; இது listener-ஐ இடம் மாற்றுவதற்குப் பதிலாக, அதை நீக்கிவிடும்.
யாரோ எனது திறந்த Ollama-வை அணுகிவிட்டார்கள். நான் எதைச் சரிபார்க்க வேண்டும்?
முதலில் அதை 127.0.0.1-ல் bind செய்து service-ஐ restart செய்யுங்கள்; அப்போதுதான் நீங்கள் ஆய்வு செய்வதற்குள் அந்த exposure நின்றுவிடும். பிறகு, client addresses, endpoints மற்றும் timestamps-ஐ ஆய்வு செய்ய journalctl -u ollama --since "-30 days" | grep GIN-ஐ இயக்கவும். Gin forwarded client-address headers-ஐயும் வாசிக்கும் என்பதால், ஒரு முகவரியை நேரடி அணுகலுக்கான ஆதாரமாகக் கருதும் முன், அதை உங்கள் proxy logs-உடன் ஒப்பிட்டுப் பாருங்கள். /api/pull-ல் authentication இல்லாததால், நீங்கள் pull செய்யாத ஒரு model வட்டில் இடத்தைப் பிடிப்பதோடு அது ஒரு ஆதாரமாகவும் இருக்கும். எனவே, ollama list-ஐ நீங்கள் வைத்திருக்க வேண்டிய models-உடன் ஒப்பிட்டுப் பாருங்கள். df -h மூலம் free space-ஐச் சரிபார்க்கவும். default access log-ல் request metadata மட்டுமே பதிவாகும்; model பெயர், prompt text அல்லது உருவாக்கப்பட்ட பதில் அதில் இருக்காது.