SSD Nodes Learn Hosting plans →
تعلیمی Matt Connorتحریر: Matt Connor · اپ ڈیٹ شدہ 2026-10-30

Ollama API پر پاس ورڈ نہیں؟ 3 محفوظ حل

Ollama API میں authentication نہیں ہوتی۔ port 11434 تک پہنچنے والا ہر شخص models چلا، download اور delete کر سکتا ہے۔ مسئلے کے 3 حل ترتیب سے جانیں۔

Ollama API میں password نہیں ہے

Ollama API میں authentication نہیں ہے۔ آنے والے clients کے لیے user، password اور API key کی کوئی جانچ نہیں ہوتی۔ جو بھی port 11434 سے TCP connection قائم کر سکتا ہے، وہ آپ کے models کی فہرست دیکھ سکتا ہے، انہیں چلا سکتا ہے، نئے models download کر سکتا ہے اور آپ کے موجودہ models delete کر سکتا ہے۔

سرکاری documentation میں یہ بات واضح طور پر لکھی ہے: "http://localhost:11434 پر موجود local API کے لیے authentication درکار نہیں ہے۔" local کا لفظ پورے security model کی بنیاد ہے۔ Ollama بطور default 127.0.0.1 پر bind ہوتا ہے، اس لیے laptop پر loopback interface ہی access control فراہم کرتا ہے۔ اس listener کو public address پر منتقل کرنے سے access control ختم ہو جاتا ہے، کیونکہ اس کی جگہ کوئی متبادل protection نہیں رہتی۔

اسی لیے VPS (virtual private server) پر یہ بات اہم ہے۔ default محفوظ ہوتا ہے۔ زیادہ تر لوگ پہلی تبدیلی یہ کرتے ہیں کہ listener کھول دیتے ہیں تاکہ دوسری machine model استعمال کر سکے۔ یہی تبدیلی تمام protection بیک وقت ختم کر دیتی ہے۔

کھلا port 11434 کیا ظاہر کرتا ہے

ہر endpoint دستیاب ہو جاتا ہے۔ read-only mode موجود نہیں، اور الگ admin port بھی نہیں۔ یہ حقیقی requests ہیں، جو localhost کے بجائے server address کو بھیجی جاتی ہیں:

# List every model on the box
curl http://SERVER_IP:11434/api/tags

# See what is loaded into memory right now
curl http://SERVER_IP:11434/api/ps

# Run a prompt on your hardware
curl http://SERVER_IP:11434/api/generate -d '{"model":"llama3.2","prompt":"Why is the sky blue?"}'

# Write several gigabytes to your disk
curl http://SERVER_IP:11434/api/pull -d '{"model":"llama3.2"}'

# Remove a model
curl -X DELETE http://SERVER_IP:11434/api/delete -d '{"model":"llama3.2"}'

آپریٹر کے لحاظ سے چار مسائل پیدا ہوتے ہیں:

  • آپ کا CPU یا GPU کسی اور کے لیے inference چلاتا ہے۔ fair-use CPU allowance والے plan میں مسلسل load کا مطلب ہے کہ کوئی اجنبی آپ کا allowance خرچ کر رہا ہے، اور VPS پر AI workload کے اخراجات قابو میں رکھنا اس وقت کہیں مشکل ہو جاتا ہے جب آپ اکیلے caller نہ رہیں۔
  • /api/pull آپ کی disk پر لکھتا ہے۔ model sizes مختلف ہوتے ہیں؛ حتیٰ کہ llama3.2:1b بھی 1.3 GB ہے۔ pulls کا loop volume بھر دیتا ہے، اور full disk machine پر موجود ہر دوسری service کو بھی ناکام کر دیتی ہے، صرف Ollama کو نہیں۔
  • requests آپ کے process کے اندر پہنچتی ہیں اور log ہو جاتی ہیں۔ default log level پر Ollama صرف metadata record کرتا ہے، اس لیے آپ کو endpoint، status، latency اور client address ملتا ہے، prompt text نہیں۔ پھر بھی یہ ریکارڈ آپ کے box کو کس نے اور کس مقصد کے لیے استعمال کیا، آپ کے journal میں موجود رہتا ہے، اور آپ نے اسے collect کرنے کا انتخاب نہیں کیا تھا۔
  • /api/delete models remove کرتا ہے۔ انہیں واپس حاصل کرنے کے لیے انہیں اپنی bandwidth استعمال کرتے ہوئے دوبارہ download کرنا پڑتا ہے۔

اس میں سے کسی کے لیے exploit درکار نہیں۔ یہ documented API ہے جو بالکل اسی طرح کام کر رہی ہے جیسے اسے design کیا گیا ہے۔

Ed25519 key access control نہیں ہے

"کسی Ollama API key" تلاش کرنے پر آپ کو دو مختلف چیزیں ملتی ہیں۔ ان میں سے کوئی بھی آپ کے server کا password نہیں ہے، اور ان دونوں میں فرق واضح کرنے سے زیادہ تر الجھن دور ہو جاتی ہے۔

پہلی چیز identity key pair ہے۔ Ollama پہلی بار چلنے پر Ed25519 key pair بناتا ہے۔ Linux پر install script ollama نام کا system user بناتی ہے، جس کی home directory /usr/share/ollama ہے، اس لیے یہ key pair یہاں موجود ہوتا ہے:

/usr/share/ollama/.ollama/id_ed25519
/usr/share/ollama/.ollama/id_ed25519.pub

یہ key باہر کی طرف شناخت فراہم کرتی ہے۔ ollama signin public half کو آپ کے ollama.com account کے ساتھ register کرتا ہے، اور اسی کے ذریعے آپ registry میں model push یا private model pull کرنے کے مجاز ہوتے ہیں۔ یہ ollama.com کے سامنے آپ کی machine کی شناخت ثابت کرتا ہے۔ آپ کی machine سے connect ہونے والے clients سے یہ کسی credential کا تقاضا نہیں کرتا۔ اسے delete کرنے، rotate کرنے یا کبھی نہ بنانے سے اس بات پر کوئی اثر نہیں پڑتا کہ آپ کی API کو کون call کر سکتا ہے۔

دوسری چیز OLLAMA_API_KEY ہے۔ اس variable میں وہ key رکھی جاتی ہے جو آپ https://ollama.com/settings/keys پر بناتے ہیں، اور hosted API کو https://ollama.com/api پر call کرتے وقت client اسے Authorization: Bearer $OLLAMA_API_KEY کے طور پر بھیجتا ہے۔ یہ ان کی service کے لیے credential ہے، جسے آپ client کی حیثیت سے استعمال کرتے ہیں۔ آپ کا اپنا ollama serve آنے والی requests کی authentication کے لیے اسے استعمال نہیں کرتا۔ اپنے VPS پر OLLAMA_API_KEY set کرنے سے VPS پر password فعال نہیں ہوتا۔

اس لیے کوئی setting switch on کرنے کی ضرورت نہیں ہے۔ نیچے دی گئی تینوں defences ایک ہی طریقے سے کام کرتی ہیں: port کو ناقابل رسائی رکھیں، اور اس کے سامنے ایسی چیز رکھیں جو واقعی جانچ کرے۔

چیک کریں کہ آپ کا سرور اس وقت کن interfaces پر listening کر رہا ہے

sudo ss -tlnp | grep 11434

محفوظ نتیجہ loopback address دکھاتا ہے:

LISTEN 0  4096  127.0.0.1:11434  0.0.0.0:*  users:(("ollama",pid=812,fd=3))

exposed نتیجہ ہر interface کا نام دکھاتا ہے:

LISTEN 0  4096  0.0.0.0:11434  0.0.0.0:*  users:(("ollama",pid=812,fd=3))

0.0.0.0 مشین کے تمام IPv4 addresses ہیں، جن میں public address بھی شامل ہے۔ *:11434 اور [::]:11434 ہر IPv6 address پر wildcard listeners ہیں۔ یہ دونوں IPv4 connections بھی قبول کریں گے یا نہیں، اس کا انحصار socket کے IPV6_V6ONLY option پر ہے۔ Linux اسے بطور default بند رکھتا ہے (net.ipv6.bindv6only=0)، اس لیے ان تینوں میں سے کسی کو بھی exposed سمجھیں۔

اب باہر سے تصدیق کریں۔ یہ command اپنے laptop پر چلائیں، سرور پر نہیں:

curl -m 5 http://YOUR_SERVER_IP:11434/api/version

curl: (28) Connection timed out after 5001 milliseconds مطلوبہ جواب ہے، اور curl: (7) Failed to connect ... Connection refused بھی۔ اگر JSON object میں version field موجود ہو تو پوری API ہر درخواست کرنے والے کے لیے قابل رسائی ہے۔ خود سرور پر curl سے test کرنے سے یہ ثابت نہیں ہوتا کہ کوئی دوسری machine اس تک پہنچ سکتی ہے۔ اگر سرور کے پاس IPv6 address ہے تو curl -6 -m 5 http://[YOUR_SERVER_IPV6]:11434/api/version کے ساتھ اس address پر بھی test دہرائیں، کیونکہ بند IPv4 port سے IPv6 listener کے بارے میں کچھ معلوم نہیں ہوتا۔

Exposure عموماً دو طریقوں سے آتی ہے۔ پہلا طریقہ دانستہ configuration edit ہے، کیونکہ کسی کو model تک دوسری machine سے رسائی درکار تھی:

sudo systemctl edit ollama.service
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

یہ ایک سطر ہی مکمل exposure ہے۔ دوسرا طریقہ Docker ہے، اور اس میں آپ کو کچھ بھی edit کرنے کی ضرورت نہیں ہوتی۔ اس کے لیے نیچے الگ section موجود ہے۔

دفاع 1: اسے localhost پر رکھیں اور tunnel کے ذریعے رسائی لیں

سب سے پہلے اسی طریقے کو استعمال کریں۔ اس کے لیے نئے software کی ضرورت نہیں ہوتی اور ایسا کوئی credential بھی نہیں بنتا جو leak ہو سکے۔ یہ port کبھی public interface پر موجود نہیں ہوتا، اس لیے scanning اسے تلاش نہیں کر سکتی۔

default پر انحصار کرنے کے بجائے bind address واضح طور پر مقرر کریں:

sudo systemctl edit ollama.service
[Service]
Environment="OLLAMA_HOST=127.0.0.1:11434"

اس سے /etc/systemd/system/ollama.service.d/override.conf لکھا جاتا ہے۔ اسے apply کریں اور تصدیق کریں:

sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo ss -tlnp | grep 11434

اب ss میں 127.0.0.1:11434 نظر آنا چاہیے۔ اگر اب بھی 0.0.0.0 نظر آئے تو دوسرا drop-in file غالب ہے۔ unit اور تمام drop-in files کو ان کے paths سمیت فہرست میں دیکھنے کے لیے systemctl cat ollama.service چلائیں، پھر پرانا file حذف کریں۔

اپنے laptop سے model استعمال کرنے کے لیے port کو SSH کے ذریعے forward کریں:

ssh -N -L 11434:127.0.0.1:11434 you@your-server

-L 11434:127.0.0.1:11434 آپ کے laptop پر port 11434 کھولتا ہے اور وہاں آنے والی ہر چیز کو server کے نقطۂ نظر سے 127.0.0.1:11434 تک بھیجتا ہے۔ -N SSH کو remote command چلانے سے روکتا ہے، اس لیے process صرف tunnel کو کھلا رکھتا ہے۔ جب یہ چل رہا ہو تو آپ کے laptop پر یہ کام کرے گا:

curl -s http://localhost:11434/api/tags

آپ کو دو failures کا سامنا ہوگا۔ bind [127.0.0.1]:11434: Address already in use کا مطلب ہے کہ local address اور port پہلے ہی استعمال میں ہیں، خواہ انہیں Ollama، کوئی دوسرا SSH tunnel یا کوئی اور program استعمال کر رہا ہو۔ اس لیے -L 11500:127.0.0.1:11434 کے ذریعے مختلف local port منتخب کریں اور اپنے client کو 11500 پر بھیجیں۔ اگر tunnel کے ذریعے request پر empty reply ملے تو یہ فیصلہ کرنے سے پہلے کہ کون سی service failed ہے، server پر ss اور SSH کے error output کو چیک کریں۔

کئی client machines کے لیے ہر شخص کے لیے الگ tunnel بنانے کے مقابلے میں private network بہتر ہے۔ machines کو WireGuard یا Tailscale پر رکھیں، پھر Ollama کو 0.0.0.0 کے بجائے اس network کے address پر bind کریں:

[Service]
Environment="OLLAMA_HOST=10.8.0.1:11434"

اس کے بعد port صرف ایسے interface پر موجود ہوگا جس میں شامل ہونے کے لیے key درکار ہے۔ یہ firewall کی غلطی کے باوجود بھی محفوظ رہتا ہے، کیونکہ کوئی rule اگر غلطی سے دنیا بھر سے رسائی کی اجازت دے دے، تب بھی وہ ایسے listener کو expose نہیں کر سکتا جو public interface پر موجود ہی نہ ہو۔

دفاع 2: bearer token کی جانچ کرنے والا reverse proxy

جب public internet پر موجود کسی چیز کو model کو call کرنا ہو تو Ollama کو loopback پر رکھیں اور اس کے سامنے proxy لگائیں۔ proxy TLS (transport layer security) کو terminate کرتا ہے اور درست header کے بغیر آنے والی requests مسترد کر دیتا ہے۔ Ollama اب بھی صرف 127.0.0.1 سے connections قبول کرتا ہے، اس لیے اندر آنے کا واحد راستہ proxy ہے۔

پہلے حقیقی token بنائیں۔ اسے ہاتھ سے خود نہ بنائیں:

openssl rand -base64 36

یہ nginx site token کی جانچ کرتی ہے:

map $http_authorization $ollama_ok {
    default                                   0;
    "Bearer PASTE_YOUR_GENERATED_TOKEN_HERE"  1;
}

server {
    listen 443 ssl;
    server_name llm.example.com;

    ssl_certificate     /etc/letsencrypt/live/llm.example.com/fullchain.pem;
    ssl_certificate_key /etc/letsencrypt/live/llm.example.com/privkey.pem;

    location = /api/pull   { return 403; }
    location = /api/delete { return 403; }
    location = /api/push   { return 403; }

    location / {
        if ($ollama_ok = 0) { return 401; }

        proxy_pass http://127.0.0.1:11434;
        proxy_set_header Host 127.0.0.1:11434;
        proxy_buffering off;
        proxy_read_timeout 600s;
    }
}

اس میں موجود پانچ lines حقیقی کام کرتی ہیں، اور ہر line ایسی failure روکتی ہے جس کا سامنا بصورت دیگر ہوتا۔

if کو nginx کے location block کے اندر استعمال کرنا عموماً خراب خیال ہے، لیکن بالکل return پر مشتمل body ان دو forms میں سے ایک ہے جو قابل پیش گوئی انداز میں کام کرتی ہیں، اس لیے یہاں اس کا استعمال محفوظ ہے۔

location = /api/pull exact match ہے، اور nginx exact matches کو location / prefix سے زیادہ ترجیح دیتا ہے، اس لیے ان تین endpoints کو token پر غور کرنے سے پہلے ہی مسترد کر دیا جاتا ہے۔ درست token رکھنے والا client دیگر model-management endpoints تک رسائی حاصل کر سکتا ہے، جن میں /api/create اور /api/blobs/:digest شامل ہیں۔ اس لیے یہ تین blocks ہر disk write کو نہیں روکتے۔

proxy_set_header Host 127.0.0.1:11434; اہم ہے کیونکہ Ollama آنے والے Host اور Origin headers کا جائزہ لیتا ہے۔ proxy کا public hostname براہ راست آگے بھیجنے سے 403 Forbidden بن سکتا ہے جو nginx کے بجائے Ollama سے آیا ہو، اور اس کی debugging مشکل ہو جاتی ہے۔ OLLAMA_ORIGINS دوسرا control ہے، جو ایسے browser client کے لیے ہے جس کے لیے مخصوص origin کی اجازت درکار ہو۔

proxy_buffering off; اہم ہے کیونکہ Ollama اپنے response کو token بہ token stream کرتا ہے۔ buffering فعال ہونے پر nginx response آگے بھیجنے سے پہلے اسے buffer کرتا ہے، جس سے streamed tokens کی ترسیل میں تاخیر ہوتی ہے۔

proxy_read_timeout 600s; اہم ہے کیونکہ nginx کی default مدت 60 seconds ہے، اور یہ timer پورے response کے دوران نہیں بلکہ Ollama سے ہونے والی دو مسلسل reads کے درمیان چلتا ہے۔ مسلسل streaming reply ہر token پر اس timer کو دوبارہ شروع کر دیتی ہے۔ اگر Ollama 60 seconds تک کچھ نہ بھیجے تو request timeout ہو جاتی ہے۔ ایسا اس request میں ہو سکتا ہے جو "stream": false کے ساتھ بھیجی گئی ہو، کیونکہ یہ پورا answer آخر میں ایک ہی حصے میں واپس کرتا ہے، یا اس وقت جب پہلا token آنے سے پہلے طویل خاموشی ہو۔ client کو 504 Gateway Time-out ملتا ہے، اور /var/log/nginx/error.log، upstream timed out (110: Connection timed out) while reading response header from upstream record کرتا ہے۔ request ابھی بھی کام کر رہی تھی۔ nginx نے اسے ترک کر دیا۔

دونوں paths کو reload اور test کریں:

sudo nginx -t && sudo systemctl reload nginx
curl -s -o /dev/null -w '%{http_code}\n' https://llm.example.com/api/tags
curl -s -H "Authorization: Bearer YOUR_TOKEN" https://llm.example.com/api/tags

پہلی command کو 401 print کرنا چاہیے۔ دوسری کو آپ کی model list print کرنی چاہیے۔ اگر پہلی command بھی model list واپس کرے تو معلوم کریں کہ request کو کس server اور location نے handle کیا اور reload کامیاب ہوا یا نہیں۔ غلط scope میں موجود map block configuration کو invalid بنا دیتا ہے۔ یہ http level پر ہونا چاہیے، اس لیے اسے /etc/nginx/conf.d/ کے تحت کسی file میں یا server block سے اوپر رکھیں، server کے اندر ہرگز نہیں۔

Caddy یہی کام چار lines میں basic authentication کے ذریعے کرتا ہے، جو browser client کے لیے bearer token سے زیادہ موزوں ہے:

llm.example.com {
	basic_auth {
		apiuser PASTE_BCRYPT_HASH_HERE
	}
	reverse_proxy 127.0.0.1:11434
}

اس کے مطلوبہ bcrypt hash کو بنانے کے لیے caddy hash-password چلائیں۔ نام کے بارے میں ایک بات: Caddy v2.8 سے پہلے directive basicauth تھا، اور اب basic_auth ہے۔ Caddy اب بھی پرانی spelling کو deprecated alias کے طور پر قبول کرتا ہے، اس لیے پرانی guide سے copy کی گئی config load ہو جاتی ہے، لیکن Caddy خبردار کرتا ہے کہ basicauth deprecated ہے اور اسے basic_auth کے بجائے استعمال کرنے کو کہتا ہے۔ یہ warning نظر آئے تو اسے rename کریں۔

آپ جو بھی proxy منتخب کریں، سب clients کے لیے یہی ایک shared secret ہوگا۔ جس client کے پاس یہ secret ہے اسے یکساں access حاصل ہوگی، اور اسے revoke کرنے کے لیے config edit کرنا اور تمام callers کو بیک وقت update کرنا ہوگا۔

دفاع 3: ہر کلائنٹ کے لیے keys جاری کرنے والا gateway

جب ایک سے زیادہ افراد یا ایپلی کیشنز model کو call کرتی ہیں تو shared token کافی نہیں رہتا۔ آپ یہ معلوم نہیں کر سکتے کہ load کس client نے پیدا کیا، اور ایک client کو باقی سب کی رسائی بند کیے بغیر الگ سے روک نہیں سکتے۔ gateway اس جگہ کام کرتا ہے جہاں proxy موجود تھا، وہی OpenAI-compatible API استعمال کرتا ہے، ہر client کے لیے الگ key جاری کرتا ہے، اور ریکارڈ رکھتا ہے کہ ہر key نے کیا استعمال کیا۔ Self-hosted LiteLLM gateway عام حل ہے۔ یہ access control کے ساتھ ہر key کے لیے budgets اور request logs بھی فراہم کرتا ہے۔

دفاع 1 کا اصول تبدیل نہیں ہوتا۔ Ollama 127.0.0.1 پر bind ہوتا ہے، اس سے رابطہ کرنے والا واحد process gateway ہوتا ہے، اور public listener رکھنے والی واحد service بھی gateway ہوتی ہے۔ ایسے server پر gateway محض دکھاوا ہے جہاں port 11434 اب بھی پوری دنیا کے لیے کھلا ہو، کیونکہ callers آسانی سے gateway کو bypass کر سکتے ہیں۔

فائر وال کی پیچیدگی: published container port، UFW کو bypass کرتا ہے

اسی وجہ سے ان سرورز پر exposed instances موجود ہوتے ہیں جن کے مالکان نے فائر وال درست طور پر configure کیا ہوتا ہے۔

UFW (uncomplicated firewall) اپنے rules kernel کے filter table کی INPUT chain میں لکھتا ہے، اور INPUT ان packets کو handle کرتا ہے جن کا مقصد خود host ہو۔ Docker کا -p flag، nat table کی PREROUTING chain میں destination NAT (network address translation) rule لکھتا ہے۔ Kernel اس rule کو یہ فیصلہ کرنے سے پہلے evaluate کرتا ہے کہ packet کہاں جائے گا۔ Routing decision ہونے تک destination پہلے ہی container کے address میں تبدیل ہو چکا ہوتا ہے، اس لیے packet مقامی طور پر deliver ہونے کے بجائے forward ہو جاتا ہے اور INPUT کے بجائے FORWARD سے گزرتا ہے۔ UFW کے INPUT rules کبھی consult نہیں ہوتے، اس لیے packet فائر وال کے ذریعے گزرنے کے بجائے اسے bypass کر جاتا ہے۔

اسی وجہ سے درج ذیل sequence، port 11434 کو internet کے لیے کھلا چھوڑ دیتا ہے:

sudo ufw default deny incoming
sudo ufw enable
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

اور sudo ufw status پھر بھی default deny کے ساتھ firewall کو active ظاہر کرتا ہے۔ دونوں readings بیک وقت درست ہیں، اور یہی وجہ ہے کہ لوگ غلط reading پر اعتماد کرتے ہیں۔ آپ وہ rule دیکھ سکتے ہیں جس نے یہ کیا:

sudo iptables -t nat -L DOCKER -n

اس کا حل publish flag میں ایک address شامل کرنا ہے:

docker rm -f ollama
docker run -d -v ollama:/root/.ollama -p 127.0.0.1:11434:11434 --name ollama ollama/ollama

-p 11434:11434 میں کوئی host address متعین نہیں کیا گیا، اس لیے Docker port کو ہر host address، یعنی IPv4 (0.0.0.0) اور IPv6 ([::])، پر publish کرتا ہے۔ 127.0.0.1 متعین کرنے سے mapping کا host-side loopback سے bind ہو جاتا ہے۔ اس طرح آپ کا SSH tunnel اور reverse proxy اب بھی اس تک پہنچ سکتے ہیں، لیکن internet نہیں پہنچ سکتا۔ 28.0.0 سے پرانے Docker releases میں ایک استثنا ہے: اسی network segment پر موجود machines localhost پر published ports تک پہنچ سکتی ہیں۔ اس لیے اس protection پر انحصار کرنے سے پہلے upgrade کریں۔ یہاں container کو دوبارہ بنانا محفوظ ہے، کیونکہ models named ollama volume میں موجود ہیں، container کے اندر نہیں۔

تصدیق کریں کہ دونوں views ایک دوسرے سے مطابقت رکھتے ہیں:

docker port ollama
sudo ss -tlnp | grep 11434

docker port ollama کو 11434/tcp -> 127.0.0.1:11434 print کرنا چاہیے۔ اگر یہ 0.0.0.0:11434 یا [::]:11434 print کرے تو آپ اب بھی exposed ہیں۔ اس mechanism کو ایک بار سمجھ لیں، پھر یہ ہر اس container پر لاگو ہوگا جسے آپ publish کریں گے: Docker کے published ports، UFW کو bypass کیوں کرتے ہیں میں DOCKER-USER chain اور ان rules کا احاطہ کیا گیا ہے جو Docker restart کے بعد بھی برقرار رہتے ہیں۔ اگر آپ ابھی خود host policy بنا رہے ہیں تو نئے VPS کے لیے درکار UFW rules اس بنیادی policy کا احاطہ کرتا ہے جس پر یہ setup قائم ہے۔ Rocky یا AlmaLinux پر configure کرنے کے لیے UFW موجود نہیں ہوتا، اس لیے firewalld میں لکھی گئی یہی بنیادی policy سے آغاز کریں۔

پروسیس کس اکاؤنٹ کے تحت چل رہا ہے

Linux install script ایک dedicated account بناتی ہے اور service اسی کے تحت چلاتی ہے:

useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama

/etc/systemd/system/ollama.service میں موجود unit پھر User=ollama اور Group=ollama متعین کرتی ہے۔ اسے تبدیل نہ کریں۔ ٹرمینل میں ہاتھ سے شروع کیا گیا فوری ollama serve اسی user کے تحت چلتا ہے جس سے آپ نے login کیا ہو۔ اگر وہ root ہے تو unauthenticated API، root کے طور پر files لکھ رہی ہے۔ معلوم کریں کہ یہ کس account کے تحت چل رہا ہے:

ps -o user= -C ollama

جواب ollama ہونا چاہیے۔ اس کے علاوہ کوئی بھی نتیجہ ظاہر کرتا ہے کہ ہاتھ سے شروع کیا گیا process unit کے ساتھ ساتھ یا اس کے بجائے چل رہا ہے۔ یہی اصول بعد میں شامل کیے جانے والے ہر daemon پر لاگو ہوتا ہے، اور services کو کم سے کم مراعات رکھنے والے users کے تحت چلانا اس مسئلے کو درست طور پر حل کرتا ہے۔

Ollama API endpoint کے محفوظ ہونے کی جانچ کیسے کریں

آپ نے جو بھی طریقہ اختیار کیا ہو، ایک test حتمی تصدیق کر دیتا ہے، اور اسے کسی دوسری machine سے چلانا ضروری ہے:

curl -m 5 http://YOUR_SERVER_IP:11434/api/version
curl -m 5 http://YOUR_SERVER_IP:11434/api/tags

دونوں requests کو timeout ہونا چاہیے یا انہیں refuse کر دیا جانا چاہیے۔ اگر آپ نے proxy بنایا ہے تو proxy hostname پر یہی دونوں paths credentials کے بغیر 401 واپس کریں، اور credentials کے ساتھ حقیقی JSON واپس کریں۔

اس کے بعد اس وقت کی گئی requests کے لیے access log ایک بار پڑھیں جب port کھلا ہوا تھا:

journalctl -u ollama --since "-30 days" | grep GIN

Ollama ہر request کے لیے ایک line لکھتا ہے اور client address شامل کرتا ہے:

[GIN] 2026/08/12 - 14:01:10 | 200 | 103.965898ms | 127.0.0.1 | POST "/api/generate"

یہ address Gin کے ClientIP() سے حاصل ہوتا ہے، جو trusted proxies سے آنے والے X-Forwarded-For اور X-Real-IP headers کو بھی check کرتا ہے۔ اس لیے loopback reverse proxy کے ذریعے آنے والی request میں public client address دکھائی دے سکتا ہے، جبکہ Ollama درست طور پر 127.0.0.1 پر bound ہو۔ اس column میں public address کا دکھائی دینا port 11434 تک direct access ثابت نہیں کرتا، اور matching log lines کا نہ ملنا بھی یہ ثابت نہیں کرتا کہ کسی نے endpoint تک رسائی نہیں کی۔ Timestamps کا اپنے proxy logs اور configuration سے موازنہ کریں، اور موجودہ exposure کی جانچ کے لیے بیرونی connection test استعمال کریں۔ اگر model کے بارے میں یہ پہلو آپ کے لیے نیا ہے تو VPS پر Ollama چلانا installation، model sizing اور memory limits کی وضاحت کرتا ہے جو طے کرتی ہیں کہ حقیقت میں کیا load ہو سکے گا۔

FAQ

کیا Ollama میں API key یا password ہوتا ہے؟

نہیں۔ آپ جو server چلاتے ہیں، اس میں کسی بھی قسم کی authentication نہیں ہوتی، اور official documentation کے مطابق local API کے لیے authentication درکار نہیں ہے۔ جن دونوں چیزوں کو "Ollama API key" کہا جاتا ہے، ان کا مقصد مختلف ہے۔ /usr/share/ollama/.ollama/ میں موجود Ed25519 جوڑا آپ کی machine کی شناخت ollama.com کے سامنے ثابت کرتا ہے، تاکہ آپ models push اور private models pull کر سکیں۔ OLLAMA_API_KEY ایک credential ہے جسے آپ کا client https://ollama.com/api پر hosted API کو بھیجتا ہے۔ آپ کا اپنا ollama serve incoming clients کی authentication کے لیے ان میں سے کسی کو استعمال نہیں کرتا، اس لیے access control network یا سامنے موجود proxy سے فراہم کرنا ہوگا۔

اگر firewall موجود ہو تو کیا OLLAMA_HOST=0.0.0.0 محفوظ ہے؟

صرف اس صورت میں جب firewall اس listener تک رسائی کو درست طور پر block کرے۔ 0.0.0.0 کا مطلب ہے کہ listener واقعی public interface پر موجود ہے، اور آپ اسے ناقابل رسائی رکھنے کے لیے صرف firewall پر انحصار کر رہے ہیں۔ Docker کے ذریعے published Ollama port پر الگ توجہ درکار ہے، کیونکہ Docker کی جانب سے nat table میں شامل کیا گیا DNAT rule اس packet کے INPUT chain تک پہنچنے سے پہلے evaluate ہو جاتا ہے جہاں UFW موجود ہے۔ اس لیے packet forward ہو جاتا ہے اور UFW کے INPUT rules اسے دیکھ ہی نہیں پاتے۔ 127.0.0.1 یا private tunnel address پر bind کرنے سے listener public interface سے ہٹ جاتا ہے، اس لیے firewall کی غلطی کے باوجود expose کرنے کے لیے کچھ باقی نہیں رہتا۔

میں کیسے جانچوں کہ میرا Ollama port internet کے لیے کھلا ہے یا نہیں؟

Server پر sudo ss -tlnp | grep 11434 اور کسی دوسری machine سے curl -m 5 http://YOUR_SERVER_IP:11434/api/version چلائیں۔ ss کا 127.0.0.1:11434 دکھانا اور remote curl کا timeout ہونا وہ نتیجہ ہے جو آپ چاہتے ہیں۔ اگر ss 0.0.0.0:11434 یا *:11434 دکھائے جبکہ remote curl JSON واپس کرے، تو full API reachable ہے۔ Server پر خود curl سے testing یہ ثابت نہیں کرتی کہ کوئی دوسری machine اس تک پہنچ سکتی ہے۔

کیا میں port کو 11434 سے کسی random port پر منتقل کر سکتا ہوں؟

نہیں، اور اس کی وجہ واضح ہے۔ مختلف port صرف ایک port کے scan کو سست کرتا ہے۔ Scanners پوری range scan کرتے ہیں، اور /api/tags کو بھیجی گئی ایک request service کی شناخت کر دیتی ہے، چاہے وہ کسی بھی port پر موصول ہو۔ Port منتقل کرنے سے ہر client کا default بھی ٹوٹ جاتا ہے اور بعد میں اپنی setup کو سمجھنا مشکل ہو جاتا ہے۔ اس کے بجائے loopback پر bind کریں۔ اس سے listener کو منتقل کرنے کے بجائے ختم کیا جاتا ہے۔

کسی شخص نے میرے open Ollama تک رسائی حاصل کی۔ مجھے کیا جانچنا چاہیے؟

پہلے اسے 127.0.0.1 پر bind کریں اور service restart کریں، تاکہ investigation شروع کرنے سے پہلے exposure ختم ہو جائے۔ پھر client addresses، endpoints اور timestamps کا جائزہ لینے کے لیے journalctl -u ollama --since "-30 days" | grep GIN چلائیں۔ Gin forwarded client-address headers بھی پڑھتا ہے، اس لیے کسی address کو direct access کا ثبوت سمجھنے سے پہلے ان entries کا اپنے proxy logs سے موازنہ کریں۔ ollama list کا ان models سے موازنہ کریں جو آپ کے مطابق موجود ہونے چاہییں، کیونکہ /api/pull میں authentication نہیں ہوتی، اور ایسا model جسے آپ نے pull نہیں کیا، disk usage بھی ہے اور evidence بھی۔ df -h سے free space چیک کریں۔ Default access log request metadata record کرتا ہے، model name، prompt text یا generated answer نہیں۔

کیا یہ مضمون مفید تھا؟