VPS کے لیے بہترین Open WebUI متبادل کون سا ہے؟
Public IP والے VPS پر Open WebUI، LibreChat، Hollama اور OrionChat کا موازنہ: model کے لیے بچنے والی RAM، logins، remote Ollama اور upkeep کی حقیقت۔
کون سا Open WebUI متبادل VPS پر ہونا چاہیے
Open WebUI کے متبادل کا موازنہ تقریباً ہمیشہ لیپ ٹاپ پر کیا جاتا ہے، جہاں RAM سستی ہوتی ہے اور کوئی بھی چیز public address پر listen نہیں کر رہی ہوتی۔ ایک VPS ان دونوں حقائق کو بدل دیتا ہے، اور یہ درجہ بندی کو بھی تبدیل کر دیتا ہے۔ جیسے ہی کوئی دوسرا شخص لاگ ان ہوتا ہے، Open WebUI ہی درست ڈیفالٹ انتخاب رہتا ہے، کیونکہ یہ حقیقی user accounts اور ایک admin panel کے ساتھ آتا ہے۔ ہلکے پروجیکٹس تب جیتتے ہیں جب انٹرفیس RAM کے آخری گیگا بائٹ کے لیے ماڈل کے ساتھ مقابلہ کر رہا ہو۔ اس جیت کی قیمت authentication ہے: ان میں سے کسی کے پاس یہ سہولت نہیں ہے۔
ذیل میں دی گئی ہر چیز متعلقہ پروجیکٹ کی اپنی دستاویزات سے لی گئی ہے، جنہیں اگست 2026 میں پڑھا گیا، 20 اکتوبر 2026 کو دوبارہ جانچا گیا، اور 25 اکتوبر 2026 کو Open WebUI، LibreChat، Hollama اور OrionChat کے لیے دوبارہ چیک کیا گیا۔ Ollama کی دستاویزات اور براؤزر سیکیورٹی رولز کو 29 اکتوبر 2026 کو دوبارہ چیک کیا گیا۔ یہ چار محور وہی ہیں جو تب ہی سامنے آتے ہیں جب سرور انٹرنیٹ سے قابل رسائی ہو۔
وہ چار پہلو جو صرف public IP پر اہم ہوتے ہیں
- ماڈل کے ساتھ موجود memory۔ model server اس machine پر سب سے زیادہ وسائل استعمال کرنے والا process ہوتا ہے۔ interface جتنی بھی megabytes استعمال کرتا ہے، اتنی ہی megabytes model کے لیے دستیاب نہیں رہتیں۔
- Authentication۔ ان میں سے کچھ projects میں user accounts اور roles ہوتے ہیں۔ دوسرے یہ فرض کرتے ہیں کہ وہ آپ کے laptop پر چلنے والی واحد چیز ہیں، اس لیے ان میں login موجود نہیں ہوتا۔
- Remote inference۔ ایسا UI جسے صرف
127.0.0.1:11434کی طرف point کیا جاتا ہے، یہ توقع کرتا ہے کہ model اسی machine پر ہو جہاں interface موجود ہے۔ model کو کسی دوسری جگہ رکھنے کے لیے پھر tunnel یا local proxy درکار ہوتا ہے، جو اس local port کو model host تک forward کرے۔ - Upkeep۔ SQLite file کے ساتھ ایک container چلانا، MongoDB اور vector database کے پیچھے چھ containers چلانے سے مختلف انتظامی کام ہے۔
ماڈل interface کے لیے کتنی RAM چھوڑتا ہے
interface اس box کی سب سے بڑی چیز نہیں ہے۔ ماڈل ہے۔ شائع کردہ download sizes کم از کم حد بتاتے ہیں، کیونکہ model کے جواب دیتے وقت weights کا memory میں موجود رہنا ضروری ہے۔ context cache allocate ہونے کے بعد حقیقی memory استعمال download size سے زیادہ ہوتا ہے۔
اس چارٹ کے پیچھے کا ڈیٹا
[
{
"label": "llama3.2:3b",
"download_gb": "2.0"
},
{
"label": "qwen3:4b",
"download_gb": "2.5"
},
{
"label": "gemma3:4b",
"download_gb": "3.4"
},
{
"label": "qwen3:8b",
"download_gb": "5.2"
}
]یہ وہ اعداد و شمار ہیں جو Ollama library pages نے 25 October 2026 کو دکھائے تھے۔ یہ published sizes ہیں، measurements نہیں۔ 4 GB VPS پر qwen3:4b کو 2.5 GB درکار ہیں، اس لیے operating system اور باقی تمام چیزوں کے لیے 1.5 GB سے کم بچتا ہے۔ conversation بڑھنے کے ساتھ context cache بھی اسی memory میں سے استعمال ہوتا ہے۔ اسی لیے آپ جو num_ctx مقرر کرتے ہیں وہ quality کے ساتھ ساتھ memory کا فیصلہ بھی ہوتا ہے۔ qwen3:8b کو 5.2 GB درکار ہیں، اس لیے یہ اس box پر بالکل fit نہیں ہوتا۔ laptop roundups عموماً اس صورتِ حال کا احاطہ نہیں کرتے۔ یہی وہ مقام ہے جہاں چند سو megabytes رکھنے والا chat interface فیصلہ کرتا ہے کہ model چل سکے گا یا نہیں۔ اگر آپ ان tags سے نمایاں طور پر بڑے model کے لیے box کا سائز مقرر کر رہے ہیں تو CPU-only VPS پر 27B model کے لیے arithmetic دکھاتی ہے کہ interface کتنی تیزی سے غیر فیصلہ کن عنصر بن جاتا ہے۔
کسی roundup میں دیے گئے کسی بھی number پر، اس number پر بھی، بھروسا کرنے کے بجائے measurement کریں۔ docker stats --no-stream کو حقیقی استعمال شروع ہونے کے ایک گھنٹے بعد چلائیں، container شروع ہونے کے ایک منٹ بعد نہیں، کیونکہ متعلقہ memory پہلی بار استعمال کے وقت allocate ہوتی ہے۔ Ollama پانچ منٹ تک idle رہنے کے بعد weights بھی release کر دیتا ہے۔ اس لیے conversations کے درمیان لی گئی reading peak استعمال کو کم ظاہر کرتی ہے۔ اگلا message دوبارہ مکمل load کا memory خرچ برداشت کرتا ہے، جب تک کہ آپ keep_alive کے ذریعے model کو resident نہ رکھیں۔
Open WebUI: ایک سے زیادہ صارفین کے لیے اب بھی default
Open WebUI ایک image سے چلتا ہے اور اپنا data ایک volume میں رکھتا ہے۔
docker run -d -p 127.0.0.1:3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:mainProject README میں موجود command -p 3000:8080 کو publish کرتی ہے، جو ہر interface پر listen کرتا ہے۔ 127.0.0.1: prefix اسے loopback تک محدود رکھتا ہے۔ Docker خبردار کرتا ہے کہ 28.0.0 سے پرانی releases میں اسی L2 segment پر موجود hosts localhost پر publish کیے گئے ports تک پہنچ سکتے ہیں، اس لیے isolation کے لیے اس binding پر انحصار کرنے سے پہلے Docker Engine 28.0.0 یا بعد کا version استعمال کریں۔ VPS پر اس prefix کی اہمیت لائن کے باقی تمام حصوں سے زیادہ ہے، کیونکہ Docker اپنے iptables rules خود لکھتا ہے اور published port آپ کے ufw deny rules کو نظرانداز کرتا ہے۔
صفحے تک tunnel یا proxy کے ذریعے پہنچیں۔ دونوں کی وضاحت نیچے دی گئی ہے۔ پھر پہلا account بنائیں۔ یہ account administrator بن جاتا ہے۔ اس کے بعد sign-up خود بخود بند ہو جاتا ہے، جب تک کوئی admin New Sign Ups کو دوبارہ فعال نہ کرے۔ بعد میں بننے والے signups کو pending role دیا جاتا ہے، جو DEFAULT_USER_ROLE کا documented default ہے۔ اس لیے صفحے تک پہنچنے والا اجنبی آپ کے model کو اس وقت تک استعمال نہیں کر سکتا جب تک کوئی admin اسے approve نہ کرے۔
Open WebUI نیچے دیے گئے projects سے زیادہ memory استعمال کرتا ہے، کیونکہ یہ زیادہ کام کرتا ہے۔ اس کی اپنی performance page ان اجزا کے نام بتاتی ہے جو memory استعمال کرتے ہیں۔ Default embedding engine container کے اندر sentence-transformers model load کرتا ہے۔ RAG_EMBEDDING_ENGINE=ollama set کرنے سے یہ کام اس model server کو منتقل ہو جاتا ہے جسے آپ پہلے ہی چلا رہے ہیں۔ AUDIO_STT_ENGINE=web مقامی speech-to-text model load ہونے سے روکتا ہے۔ SQLite میں جب DATABASE_POOL_SIZE unset ہو تو pool ایک بڑے internal size پر واپس چلا جاتا ہے، اور ہر connection اپنا page cache اور memory map بڑھاتا ہے۔ اس لیے چھوٹے box پر DATABASE_POOL_SIZE=8 اور DATABASE_SQLITE_PRAGMA_MMAP_SIZE=0 set کریں۔ Autocomplete اس وقت model سے completion مانگتا ہے جب صارف ابھی typing کر رہا ہوتا ہے۔ اب یہ switched off حالت میں ship ہوتا ہے (ENABLE_AUTOCOMPLETE_GENERATION کا default False ہے)، اس لیے چھوٹے box پر اسے اسی حالت میں رہنے دیں۔
LibreChat: متعدد صارفین، اس کے پیچھے stack
git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat
cp .env.example .env
docker compose up -dانٹرفیس port 3080 پر جواب دیتا ہے۔ جب آپ کو صرف login box کے بجائے identity system درکار ہو تو LibreChat موزوں ہے: اس کی دستاویزات LDAP اور OAuth2 logins بیان کرتی ہیں، اور اس کی default compose file میں users، groups اور roles کے لیے admin panel بھی شامل ہے۔ یہ panel out of the box نہیں چلتا۔ یہ اس وقت تک start ہونے سے انکار کرتا ہے جب تک ADMIN_PANEL_SESSION_SECRET کو .env میں set نہ کیا جائے۔ اس کی مطلوبہ قدر کم از کم 32 characters کی ہے اور اس کی کوئی default value نہیں۔ اگر چاہیں تو openssl rand -hex 32 سے ایک value generate کریں۔ یہ panel LibreChat process کے اندر نہیں بلکہ اپنی الگ service کے طور پر چلتا ہے، اور اسے LibreChat v0.8.5 یا اس کے بعد کا ورژن درکار ہے۔ یہ capability ایک stack کے ساتھ آتی ہے۔
اس چارٹ کے پیچھے کا ڈیٹا
[
{
"label": "OrionChat",
"containers": 0,
"notes": "static files, served by a web server you already run"
},
{
"label": "Hollama",
"containers": 1,
"notes": "one container serving a browser app"
},
{
"label": "Open WebUI",
"containers": 1,
"notes": "application and SQLite in one image"
},
{
"label": "LibreChat",
"containers": 5,
"notes": "api, MongoDB, Meilisearch, pgvector, RAG API"
}
]default compose file 5 services start کرتی ہے: api, MongoDB, Meilisearch, pgvector, RAG API۔ چھٹی service، یعنی admin panel، اسی file میں موجود ہے اور secret set ہونے کے بعد ان services میں شامل ہو جاتی ہے۔ ان میں سے کوئی بھی model نہیں ہے۔ MongoDB اور pgvector دونوں کو اپنی الگ memory درکار ہوتی ہے، اور 4 GB machine پر یہ وہی memory ہے جو model کو درکار تھی۔
اس file میں دو services ports publish کرتی ہیں، اور کسی بھی mapping میں bind address درج نہیں: API port 3080 پر اور admin panel host port 3000 پر، جو ADMIN_PANEL_PORT کی default value ہے۔ اس لیے دونوں کے run ہونے کے بعد ہر interface پر listen کرتی ہیں۔ Port 3000 وہی port ہے جو اوپر Open WebUI استعمال کرتا ہے، لہذا panel enable ہوتے ہی shared machine پر دونوں میں conflict ہو جاتا ہے۔ Stack کو internet کے سامنے رکھنے سے پہلے docker-compose.override.yml میں دونوں کو 127.0.0.1 پر rebind کریں۔
Upgrades ایک git operation ہیں، اور یہی وہ حصہ ہے جس میں لوگ عموماً غلطی کرتے ہیں۔
docker compose down
git pull
docker compose pull
docker compose up -dاگر آپ نے tracked docker-compose.yml میں edit کیا ہو تو git pull conflict کے ساتھ رک جاتا ہے، اور upgrade آدھا apply ہوتا ہے۔ اپنی تبدیلیاں docker-compose.override.yml میں رکھیں، جو project اسی مقصد کے لیے فراہم کرتا ہے، اور secrets کو .env میں رکھیں۔ دونوں files untracked ہیں، اس لیے git pull انہیں تبدیل نہیں کرتا۔
اپنے model server کو custom endpoint کے ذریعے librechat.yaml میں LibreChat سے connect کریں۔
endpoints:
custom:
- name: "Ollama"
apiKey: "ollama"
baseURL: "http://model-host:11434/v1/"
models:
default: ["llama3.2"]
fetch: true
titleConvo: true
titleModel: "current_model"
modelDisplayLabel: "Ollama"model-host کو اس machine کے address سے replace کریں جس پر Ollama چل رہا ہے۔ apiKey field موجود ہونا ضروری ہے، اگرچہ Ollama اس کی value کو ignore کرتا ہے، اس لیے placeholder کافی ہے۔ اگر LibreChat Docker میں چل رہا ہو اور Ollama اسی machine پر چل رہا ہو تو container کے اندر localhost سے مراد خود container ہوتا ہے، اس لیے وہاں host.docker.internal استعمال کریں۔
Hollama اور OrionChat: کام browser انجام دیتا ہے
Hollama ایک چھوٹے container سے browser application فراہم کرتا ہے۔ Chats server پر نہیں بلکہ آپ کے browser کے storage میں محفوظ رہتی ہیں۔
docker run -d --restart unless-stopped -p 127.0.0.1:4173:4173 --name hollama ghcr.io/fmaclen/hollama:latestself-hosting guide میں اس command کا ورژن --rm استعمال کرتا ہے۔ یہ container کے رکنے پر اسے delete کر دیتا ہے، اس لیے reboot کے بعد interface دوبارہ دستیاب نہیں ہوتا۔
OrionChat اس سے بھی آگے ہے اور اس کا server component بالکل نہیں ہے۔ repository کو clone کریں اور folder کو اپنے پہلے سے چلنے والے web server سے serve کریں، یا disk سے index.html کھولیں۔ API keys browser کے localStorage میں محفوظ ہوتی ہیں، chat history browser میں رہتی ہے، اور chats کی تعداد 512 سے بڑھنے پر app پرانی chats delete کر دیتی ہے۔ OrionChat کا Ollama address اس کے source میں js/script.js پر http://localhost:11434 پر fixed ہے، اور اس کی settings میں اسے تبدیل کرنے کا کوئی field نہیں ہے۔
کسی بھی project میں login نہیں ہے۔ Laptop پر یہ قابل قبول ہے۔ VPS پر اس کا مطلب ہے کہ page کو 0.0.0.0 پر کبھی publish نہیں کرنا چاہیے، اور ایک ایسی بات بھی ہے جسے نظرانداز کرنا آسان ہے: model کو server نہیں بلکہ browser call کرتا ہے۔
یہی بات طے کرتی ہے کہ یہ دونوں کہاں قابل استعمال ہیں۔ آپ کے browser کو Ollama تک براہ راست رسائی حاصل ہونی چاہیے۔ OrionChat کے لیے اس کا مطلب ہمیشہ browser چلانے والی machine پر localhost:11434 ہوتا ہے، اس لیے remote model کے لیے وہاں tunnel یا local TCP proxy کو listening کرنا ہوگا۔ مثال کے طور پر Windows netsh interface portproxy اس local port کو کسی reachable remote Ollama تک forward کر سکتا ہے، اور OrionChat میں کوئی تبدیلی ضروری نہیں۔ Hollama connection کے base URL کے طور پر آپ کا درج کردہ کوئی بھی address قبول کرتا ہے، اور اس کی self-hosting guide کسی دوسرے device پر موجود Ollama server کا طریقہ بیان کرتی ہے: Ollama کی جانب سے OLLAMA_ORIGINS میں Hollama کا origin شامل کریں۔ اس لیے اگر آپ tunnel یا proxy کے ذریعے Ollama تک نہیں پہنچ رہے تو Ollama کو loopback کے علاوہ کسی address پر بھی listening کرنا ہوگا، اور Ollama کی API کسی login یا key کا مطالبہ نہیں کرتی۔ اس سے browser کے دو اصول سامنے آتے ہیں۔ HTTPS کے ذریعے serve کیا گیا page public IP address پر موجود plain HTTP endpoint کو call نہیں کر سکتا، اور console Mixed Content: The page at 'https://chat.example.com/' was loaded over HTTPS, but requested an insecure resource 'http://203.0.113.10:11434/api/tags'. This request has been blocked. دکھاتا ہے۔ Loopback کے لیے الگ استثنا ہے: Mixed Content spec صرف ان URLs کو block کرتی ہے جو potentially trustworthy نہیں ہیں، اور Secure Contexts spec localhost، 127.0.0.0/8 اور ::1 کو potentially trustworthy شمار کرتی ہے، اس لیے وہی HTTPS page http://localhost:11434 یا http://127.0.0.1:11434 کو call کر سکتا ہے۔ نیچے دیا گیا SSH tunnel اسی استثنا پر منحصر ہے۔ Version 142 سے Chrome ایک اضافی مرحلہ شامل کرتا ہے جب page کسی public site، مثلاً https://chat.example.com، سے آتا ہے: اس page کی جانب سے loopback یا local network address کو بھیجی گئی request اس وقت تک انتظار کرتی ہے جب تک user permission prompt میں local network access کی اجازت نہ دے۔ جب hostname کوئی private IP literal، مثلاً 192.168.0.1، .local نام، ہو یا fetch میں targetAddressSpace: "local" شامل ہو، تو Chrome permission-gated HTTP requests کو local-network endpoints کے لیے mixed-content checks سے بھی مستثنیٰ کرتا ہے۔ tunnel کے ذریعے http://localhost پر کھولا گیا page پہلے ہی loopback پر ہوتا ہے، اس لیے اس پر یہ prompt لاگو نہیں ہوتا۔ کسی دوسرے origin کو call کرنے پر has been blocked by CORS policy: No 'Access-Control-Allow-Origin' header is present on the requested resource کے ساتھ request مسترد ہو جاتی ہے، جب تک آپ اس origin کی اجازت نہ دیں۔
Ollama کی دستاویزی ہدایت کے مطابق دونوں میں سے کسی setting کو تبدیل کرنے کا طریقہ systemd override ہے۔
sudo systemctl edit ollama.service[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=https://chat.example.com"sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo ss -lntp | grep 11434اب ss کو 0.0.0.0:11434 دکھانا چاہیے، جبکہ پہلے یہ 127.0.0.1:11434 دکھاتا تھا۔ یہ تبدیلی صرف اس وقت کریں جب firewall یا authentication کرنے والا proxy پہلے ہی اس بات کو کنٹرول کرتا ہو کہ port تک کون پہنچ سکتا ہے، کیونکہ کھلا ہوا 11434 ایک کھلا model server ہے اور mass scanners نئے public port تک تیزی سے پہنچ جاتے ہیں۔ نیچے دیا گیا SSH tunnel اس پورے مسئلے سے بچاتا ہے: اس کے بعد page localhost origin پر چلتا ہے، جسے Ollama default طور پر اجازت دیتا ہے، اور port machine سے باہر نہیں جاتا۔
کیا ہر ایک remote Ollama یا vLLM endpoint استعمال کر سکتا ہے
Open WebUI یہ کر سکتا ہے، اور connection server side پر بنتا ہے۔ OLLAMA_BASE_URL=http://model-host:11434 اسے Ollama کی طرف point کرتا ہے۔ vLLM کے لیے OPENAI_API_BASE_URL=http://model-host:8000/v1 سیٹ کریں، اور /v1 وہی رکھیں جس کے تحت vLLM اپنی API فراہم کرتا ہے۔ OPENAI_API_KEY صرف اسی وقت سیٹ کریں جب server کو key کے ساتھ start کیا گیا ہو، کیونکہ Open WebUI کی vLLM guide میں بصورت دیگر auth استعمال نہیں ہوتی۔ دوسرے OpenAI-compatible servers کے لیے ان کی اپنی documentation میں دیا گیا base path استعمال کریں؛ یہ ہمیشہ /v1 نہیں ہوتا۔ OPENAI_API_BASE_URLS میں semicolons سے الگ کیے گئے متعدد backends قبول کیے جاتے ہیں۔
LibreChat یہ کام اوپر دکھائے گئے custom endpoint کے baseURL کے ذریعے کر سکتا ہے۔ یہ request بھی server سے باہر جاتی ہے، اس لیے browser کا کوئی rule لاگو نہیں ہوتا۔ یہی base URL اور یہی placeholder key chat window کے باہر بھی کام کرتے ہیں۔ اتنا ہی کافی ہے کہ جس model کو آپ پہلے سے host کر رہے ہیں، coding agent کو اس کی طرف point کر دیں۔
Hollama اپنی settings میں درج کیے گئے کسی بھی endpoint کی طرف point کر سکتا ہے۔ اس کے Ollama connection میں editable base URL ہوتا ہے، جو default طور پر http://localhost:11434 ہے۔ اس کے علاوہ Hollama ایک OpenAI-compatible connection بھی فراہم کرتا ہے، جو default طور پر http://localhost:8080/v1 ہے اور vLLM تک پہنچنے کا راستہ ہے۔ یہ request آپ کے browser سے باہر جاتی ہے، اس لیے اوپر والے section کی تمام باتیں اس پر بھی لاگو ہوتی ہیں۔ OrionChat میں remote endpoint کے لیے کوئی setting نہیں ہے۔ اس کے endpoints hardcoded ہیں، اور Ollama کو http://localhost:11434/v1/chat/completions پر fixed کیا گیا ہے۔ اس کی README کے مطابق requests براہ راست ہر provider کی official API کو بھیجی جاتی ہیں۔ Remote Ollama تک SSH tunnel یا local TCP proxy کے ذریعے پہنچا جا سکتا ہے، بشرطیکہ وہ اسے اس local port پر جواب دینے کے قابل بنائے۔ vLLM server کے لیے کوئی setting موجود نہیں ہے۔
Interface کو model سے الگ کرنا remote endpoint کا سب سے مفید فائدہ ہے۔ Interface کو ایک چھوٹے box پر رکھیں اور model کو اس جگہ رکھیں جہاں memory دستیاب ہو۔ یہی وہ مرحلہ ہے جہاں طے کرنا چاہیے کہ requests کو Ollama یا vLLM میں سے کون serve کرے گا، کیونکہ ایک وقت میں متعدد افراد model سے بات کریں تو دونوں کا رویہ بہت مختلف ہوتا ہے۔ اگر model server ابھی موجود نہیں ہے تو پہلے VPS پر Ollama چلائیں، اور CPU-only box پر runner منتخب کرنے سے پہلے دیکھیں کہ Ollama کا llama.cpp کے ساتھ کیا موازنہ ہے۔
0.0.0.0 پر login کے بغیر chat UI شائع نہ کریں
Open WebUI کے hardening صفحے کے مطابق یہ project "نجی، قابل اعتماد networks کے لیے بنایا گیا ہے، جیسے databases، container registries اور CI servers جیسا دیگر self-hosted infrastructure"، اور یہ ہدایت دیتا ہے کہ اسے VPN یا authentication والے reverse proxy کے پیچھے رکھا جائے۔ جس project میں بالکل login نہ ہو، اسے کم از کم یہی تحفظ درکار ہے۔
کسی بھی چیز پر اعتماد کرنے سے پہلے دیکھیں کہ کون سی سروس listening کر رہی ہے۔
sudo ss -lntp | grep -E ':(3000|3080|4173|11434)'127.0.0.1:3000 والی line مطلوبہ صورت ہے۔ 0.0.0.0:3000 والی line کا مطلب ہے کہ service تمام addresses پر listening کر رہی ہے، اور Docker default طور پر ہر external source IP کو published port تک پہنچنے دیتا ہے۔ جب تک Docker کی DOCKER-USER chain یا آپ کے provider کا firewall اسے block نہ کرے، آپ کا chat interface public internet پر موجود ہے۔ اپنی machine سے curl -sI http://YOUR.VPS.IP:3000 کا HTTP/1.1 200 OK کا جواب اس سوال کو مزید واضح طور پر طے کر دیتا ہے۔
WEBUI_AUTH=False کے ذریعے Open WebUI کا login بند کرنا ایسی machine کے لیے single-user setting ہے جس تک کوئی دوسرا شخص نہیں پہنچ سکتا۔ اس کی documentation یہ بھی کہتی ہے کہ یہ صرف ایسی installation پر کام کرتی ہے جس میں کوئی registered users نہ ہوں، اس لیے اسے ایسی installation پر لاگو نہیں کیا جا سکتا جس میں پہلے ہی accounts موجود ہوں۔
پہلا طریقہ: loopback پر bind کریں اور SSH کے ذریعے رسائی حاصل کریں۔ ہر port کو 127.0.0.1 پر publish کریں، پھر مطلوبہ port forward کریں: ssh -N -L 3000:127.0.0.1:3000 you@vps.example.com، اور اپنے laptop پر http://localhost:3000 کھولیں۔ اس طریقے کے لیے Docker Engine 28.0.0 یا بعد کا version استعمال کریں؛ پرانے releases میں اسی L2 segment پر موجود hosts، localhost پر published ports تک پہنچ سکتے ہیں۔ OrionChat کے لیے اسی command میں -L 11434:127.0.0.1:11434 کے ذریعے model port بھی forward کریں اور Ollama کو loopback پر رہنے دیں۔ Hollama براہ راست Ollama تک پہنچ سکتا ہے، لیکن یہی forward Ollama کو public internet سے دور رکھتا ہے، اس لیے Hollama کے لیے بھی یہ زیادہ محفوظ طریقہ ہے۔ اس طریقے کی مضبوطی آپ کے SSH setup تک محدود ہے، اس لیے اسے صرف key کے ذریعے SSH اور hardened sshd کے ساتھ استعمال کریں۔
دوسرا طریقہ: ایسا reverse proxy جو app تک request پہنچنے سے پہلے authentication کرے۔ App کو loopback پر رکھیں، proxy کو port 443 کا مالک بنائیں، اور اس کے سامنے single sign-on رکھیں۔ Docker Compose labels سے چلنے والا Traefik، identity provider کے طور پر Authentik کے ساتھ، machine پر موجود ہر app کے لیے ایک login اور ایک certificate فراہم کرتا ہے۔ Open WebUI کو TLS (transport layer security) کے پیچھے رکھنے پر WEBUI_SESSION_COOKIE_SECURE=true اور WEBUI_SESSION_COOKIE_SAME_SITE=strict set کریں۔ JWT_EXPIRES_IN کو اس کی default چار ہفتوں کی مدت سے بھی کم کریں، کیونکہ Open WebUI کی documentation کے مطابق Redis کے بغیر sign-out token کو invalid نہیں کرتا: token اپنی مدت ختم ہونے تک قابل استعمال رہتا ہے۔
دوسرا طریقہ صرف browser پر منحصر projects کو محفوظ نہیں کرتا۔ Page کے سامنے proxy ہونا model endpoint کو محفوظ نہیں بناتا، اور اس page سے کسی مختلف hostname کو بھیجی گئی fetch آپ کی session cookie ساتھ نہیں لے جاتی؛ اس لیے Ollama کے سامنے موجود authenticating proxy login form کی طرف redirect کے ذریعے جواب دیتا ہے اور chat ناکام ہو جاتی ہے۔ یا تو model endpoint کو page کے same hostname کے تحت route کریں، یا پہلا طریقہ استعمال کریں۔
کسے منتخب کریں
اگر اسے آپ کے علاوہ کوئی اور بھی استعمال کرے گا تو Open WebUI چلائیں۔ اس میں باقاعدہ user accounts ہوتے ہیں، نئے users approval queue میں پہنچتے ہیں، اور اس کے maintainers ایسی hardening guidance شائع کرتے ہیں جس پر آپ عمل کر سکتے ہیں۔ اگر آپ کو LDAP یا admin panel درکار ہے تو LibreChat چلائیں، panel درکار ہو تو ADMIN_PANEL_SESSION_SECRET سیٹ کریں، اور اس پر انحصار کرنے سے پہلے docker stats سے تصدیق کریں کہ اس کی پانچ services، panel کے ساتھ چھ services، اور آپ کا model حقیقتاً دستیاب وسائل میں فٹ ہوتے ہیں۔ اگر چھوٹے box پر صرف ایک شخص اسے استعمال کرے گا اور model پہلے ہی RAM کا بیشتر حصہ لے چکا ہے تو Hollama یا OrionChat کو SSH tunnel کے ذریعے serve کریں اور state browser کے پاس رہنے دیں۔ VPS پر غلط انتخاب یہ ہے کہ ان میں سے کسی کو بھی 0.0.0.0 پر login کے بغیر publish کر دیا جائے۔
FAQ
کیا Open WebUI کو public IP پر براہِ راست expose کرنا محفوظ ہے؟
اس کا hardening صفحہ اسے private، trusted networks کے لیے software قرار دیتا ہے، اور اسے database یا CI server کے زمرے میں رکھتا ہے۔ اس میں حقیقی accounts موجود ہوتے ہیں۔ پہلا account administrator بن جاتا ہے، جبکہ بعد کے accounts منظوری تک pending رہتے ہیں۔ اس لیے یہ ایسی UI سے کہیں زیادہ محفوظ ہے جس میں login موجود نہ ہو۔ پھر بھی اسے TLS والے reverse proxy کے پیچھے رکھیں اور جہاں ممکن ہو، single sign-on استعمال کریں۔ container port کو 127.0.0.1:3000:8080 کے طور پر publish کریں، اور isolation کے لیے loopback publishing پر انحصار کرنے سے پہلے Docker Engine 28.0.0 یا اس کے بعد کا ورژن استعمال کریں۔ Docker خبردار کرتا ہے کہ پرانی releases میں اسی L2 segment پر موجود hosts، localhost پر published ports تک پہنچ سکتے ہیں۔
VPS پر Open WebUI کا کون سا متبادل سب سے کم RAM استعمال کرتا ہے؟
Browser-based متبادل، Hollama اور OrionChat، کیونکہ application client پر چلتی ہے۔ Server صرف static files بھیجتا ہے، اور OrionChat کو application container کی بھی ضرورت نہیں ہوتی۔ Open WebUI ایک Python process، ایک database، اور default طور پر ایک local embedding model کو memory میں رکھتا ہے۔ اپنے box پر docker stats --no-stream کے ذریعے اعداد کی تصدیق کریں، کیونکہ فعال کی گئی features کے مطابق یہ اعداد بدلتے رہتے ہیں۔
کیا یہ chat UIs کسی دوسرے host پر موجود Ollama server استعمال کر سکتی ہیں؟
Open WebUI اور LibreChat ایسا کر سکتے ہیں، اور connection ان کا server بناتا ہے، اس لیے browser کی کوئی rule لاگو نہیں ہوتی۔ Open WebUI کے لیے OLLAMA_BASE_URL set کریں، یا LibreChat کے لیے custom endpoint میں baseURL set کریں۔ vLLM یا کسی دوسرے OpenAI-compatible server کے لیے OPENAI_API_BASE_URL استعمال کریں اور وہ base path دیں جسے server document کرتا ہے۔ vLLM کے لیے یہ /v1 ہے۔ API key صرف اس صورت میں شامل کریں جب server اس کا تقاضا کرے۔ Hollama بھی کسی بھی address کی طرف point کر سکتا ہے، لیکن request آپ کے browser سے آتی ہے۔ اس لیے endpoint آپ کے browser سے بھی reachable ہونا چاہیے۔ OrionChat کا Ollama address http://localhost:11434 پر hardcoded ہے۔ اس لیے remote Ollama کے لیے SSH tunnel یا local TCP proxy درکار ہے، جو اس port کو reachable remote server تک forward کرے۔
میرا browser chat UI Ollama تک کیوں نہیں پہنچ سکتا؟
تقریباً ہر case کی دو وجوہات ہوتی ہیں۔ Ollama default طور پر 127.0.0.1:11434 پر bind ہوتا ہے۔ اس لیے دوسرے machine پر موجود browser براہِ راست اس تک نہیں پہنچ سکتا، جب تک OLLAMA_HOST تبدیل نہ کیا جائے یا tunnel یا proxy access فراہم نہ کرے۔ دوسری وجہ یہ ہے کہ Ollama default طور پر localhost، 127.0.0.1 اور 0.0.0.0 سے آنے والی cross-origin requests قبول کرتا ہے۔ اس لیے آپ کے اپنے domain سے serve کیا گیا page No 'Access-Control-Allow-Origin' header is present on the requested resource کے ساتھ refuse ہو جاتا ہے، جب تک وہ origin OLLAMA_ORIGINS میں درج نہ ہو۔ اگر page HTTPS پر ہو اور endpoint public IP address پر plain HTTP استعمال کرے، تو browser Ollama تک request پہنچنے سے پہلے اسے mixed content کے طور پر block کر دیتا ہے۔ Loopback addresses (localhost، 127.0.0.0/8 میں موجود کوئی بھی address، مثلاً 127.0.0.2، یا [::1]) اس پابندی سے مستثنیٰ ہیں۔ Local-network permission ملنے کے بعد Chrome private IP literals، مثلاً 192.168.0.1، .local hostnames، یا targetAddressSpace: "local" استعمال کرنے والی local-network HTTP requests کو بھی مستثنیٰ قرار دیتا ہے؛ تاہم Ollama کی CORS requirements پھر بھی لاگو رہتی ہیں۔ دونوں variables کو systemctl edit ollama.service override میں set کریں، یا port کو SSH کے ذریعے forward کریں، تو یہ مسئلہ ختم ہو جاتا ہے۔