SSD Nodes Learn 8GB RAM — $66/سال
تعلیمی Matt Connorتحریر: Matt Connor · اپ ڈیٹ شدہ 2026-08-01

کیا Claude کو خود میزبانی کر سکتے ہیں؟ اصل جواب

Claude کے weights عوامی نہیں، اس لیے آپ کا کوئی server اسے نہیں چلا سکتا۔ جانیں خود کیا host کر سکتے ہیں: open models، gateway، اور Claude Code۔

کیا آپ Claude کو خود میزبانی کر سکتے ہیں؟ نہیں، اور اس کی وجہ یہ ہے

آپ Claude کو خود میزبانی نہیں کر سکتے۔ Anthropic ماڈل کے weights شائع نہیں کرتا، اس لیے download کرنے کے لیے کوئی file، چلانے کے لیے کوئی container، اور ایسا کوئی licence موجود نہیں جو آپ کو اسے اپنے hardware سے serve کرنے کی اجازت دے۔ Claude کی ہر request Anthropic کے API یا کسی hosted partner، جیسے Amazon Bedrock، Google Vertex AI، یا Microsoft Foundry، کو بھیجی جاتی ہے۔ اسے اپنی ملکیت والی machine پر چلانا configuration کا مسئلہ نہیں ہے۔ یہ artefact Anthropic کے باہر موجود ہی نہیں ہے۔

یہ مختصر جواب ہے۔ تفصیلی جواب یہ ہے کہ یہ سوال پوچھنے والے زیادہ تر لوگ دراصل weights نہیں چاہتے۔ وہ تین چیزوں میں سے ایک چاہتے ہیں، اور یہ تینوں ان کے زیرِ اختیار server پر حاصل کی جا سکتی ہیں: مقامی طور پر چلنے والا باصلاحیت model، ایسا gateway جو ان کی API keys محفوظ رکھے اور ان کے اخراجات کی حد مقرر کرے، یا ایسا coding agent جو ان کے laptop کے بجائے ان کے اپنے box پر موجود ہو۔ یہ guide تینوں کا احاطہ کرتی ہے، اور اس میں commands بھی شامل ہیں۔

"self-hosted Claude" سے عموماً کیا مراد ہوتی ہے

"self hosted Claude" کے لیے ہونے والی تلاشیں چند مختلف ضروریات کی طرف اشارہ کرتی ہیں، اور ہر ضرورت کا جواب مختلف ہے۔

کچھ لوگ رازداری چاہتے ہیں۔ وہ نہیں چاہتے کہ prompts ان کے network سے باہر جائیں۔ صرف local open weight model ہی یہ مسئلہ حل کر سکتا ہے، کیونکہ Claude کی ہر request لازماً Anthropic کو بھیجی جاتی ہے۔

کچھ لوگ اخراجات کو قابو میں رکھنا چاہتے ہیں۔ انہیں خدشہ ہوتا ہے کہ کوئی بے قابو agent بہت زیادہ credits استعمال کر دے گا۔ gateway اس مسئلے کا حل ہے، اور یہ Claude کے ساتھ کام کرتا ہے، اس لیے model quality برقرار رہتی ہے۔

کچھ لوگ laptop سے آزادی چاہتے ہیں۔ وہ ایسا agent چاہتے ہیں جو lid بند کرنے کے بعد بھی کام کرتا رہے۔ VPS اس ضرورت کو پورا کرتا ہے، اور Claude Code اس پر آسانی سے چلتا ہے۔

کچھ لوگ "self hosted OpenRouter" کی اصطلاح استعمال کرتے ہیں۔ یہ بھی gateway ہے، اور اس کے لیے عام طور پر LiteLLM استعمال کیا جاتا ہے۔

پہلے یہ طے کریں کہ آپ کی ضرورت کون سی ہے، کیونکہ ہر صورت میں درست build مختلف ہوگی۔

Ollama کے ساتھ ایک اوپن ماڈل خود ہوسٹ کریں

اگر شرط یہ ہے کہ کوئی بھی prompt آپ کے server سے باہر نہ جائے، تو open weight model چلائیں۔ آج rented server پر عملی طور پر قابلِ استعمال families میں Llama، Qwen، Mistral، Gemma، اور DeepSeek شامل ہیں۔ یہ سب ایسی weights جاری کرتے ہیں جنہیں آپ download کرکے چلا سکتے ہیں۔

Ollama شروع کرنے کا سب سے تیز طریقہ ہے۔ install script ایک ہی line پر مشتمل ہے، اور یہ Ubuntu پر systemd service ترتیب دیتی ہے۔

curl -fsSL https://ollama.com/install.sh | sh
systemctl status ollama

systemctl status ollama کو active (running) دکھانا چاہیے۔ پھر ایک model pull کریں اور اس سے بات کریں۔

ollama pull qwen3:8b
ollama run qwen3:8b "Summarise what a reverse proxy does in two sentences."

پہلا pull کئی gigabytes download کرتا ہے، اس لیے model کے جواب دینے سے پہلے اس کا RAM یا GPU memory میں سما جانا ضروری ہے۔ quantised models کے لیے ایک عمومی اندازہ یہ ہے: 8 billion parameters والے model کو تقریباً 6 GB خالی memory درکار ہوتی ہے، 14 billion parameters والے model کو تقریباً 10 GB، جبکہ 70 billion parameters والے model کو اتنی زیادہ memory درکار ہوتی ہے جو زیادہ تر general purpose VPS plans میں موجود نہیں ہوتی۔ اگر machine میں memory کم ہو تو kernel process کو ختم کر دیتا ہے اور آپ کو Error: llama runner process has terminated نظر آتا ہے، جبکہ dmesg میں out of memory کی line موجود ہوتی ہے۔ model کو موردِ الزام ٹھہرانے سے پہلے free -h چیک کریں۔

Ollama 127.0.0.1:11434 پر HTTP API بھی فراہم کرتا ہے۔ اسی وجہ سے یہ صرف chat toy کے بجائے دوسرے software کے لیے بھی مفید ہے۔

curl http://127.0.0.1:11434/api/generate -d '{"model":"qwen3:8b","prompt":"ping","stream":false}'

اس port کو localhost سے bound رکھیں۔ public IP پر کھلا ہوا Ollama port اسے تلاش کرنے والے ہر شخص کے لیے مفت GPU بنا دیتا ہے۔ مکمل build، جس میں systemd unit، GPU detection، اور سامنے reverse proxy لگانا شامل ہے، VPS پر Ollama چلانے کی guide میں بیان کیا گیا ہے۔ اگر آپ ایک وقت میں ایک سے زیادہ users کو service دے رہے ہیں تو پہلے Ollama اور vLLM کا موازنہ پڑھیں، کیونکہ Ollama کا single stream design hardware کی حد آنے سے بہت پہلے bottleneck بن جاتا ہے۔

اس فرق کے بارے میں حقیقت پسند رہیں۔ درمیانے درجے کے VPS پر ایک اچھا open model summarising، classifying، drafting، اور سادہ extraction کے لیے واقعی مفید ہے۔ طویل multi step reasoning، بڑے codebases، اور agentic tool use میں یہ frontier hosted model کے قریب بھی نہیں پہنچتا، اور prompt tuning کی کوئی مقدار اس فرق کو ختم نہیں کر سکتی۔ مقامی model کا انتخاب اس کام کے لیے کریں جس میں وہ اچھا ہے، اور جہاں کام واقعی مشکل ہو وہاں hosted model کے لیے ادائیگی کریں۔

LiteLLM کے ساتھ اپنا gateway چلائیں

یہ وہ "self hosted OpenRouter" ہے جسے لوگ تلاش کر رہے ہیں۔ gateway آپ کی applications اور ہر model provider کے درمیان کام کرتا ہے۔ آپ کی applications میں صرف ایک key ہوتی ہے، جو آپ کے server کی طرف اشارہ کرتی ہے۔ اصل provider keys صرف اسی server پر محفوظ رہتی ہیں۔ آپ ہر key کے اخراجات کی حد مقرر کر سکتے ہیں، مختلف applications کو مختلف models کی طرف route کر سکتے ہیں، اور ہر request کو ایک ہی جگہ log کر سکتے ہیں۔

LiteLLM عام انتخاب ہے، کیونکہ یہ OpenAI compatible API استعمال کرتا ہے اور اسی endpoint کے پیچھے Anthropic، Ollama اور زیادہ تر دیگر providers کو proxy کرتا ہے۔ اسے config file کے ساتھ Docker میں چلائیں۔

model_list:
  - model_name: claude
    litellm_params:
      model: anthropic/claude-sonnet-5
      api_key: os.environ/ANTHROPIC_API_KEY
  - model_name: local
    litellm_params:
      model: ollama/qwen3:8b
      api_base: http://127.0.0.1:11434

اسے litellm_config.yaml کے نام سے محفوظ کریں اور proxy شروع کریں۔ یہ port 4000 پر requests سنتا ہے۔

docker run -v $(pwd)/litellm_config.yaml:/app/config.yaml \
  -e ANTHROPIC_API_KEY=$ANTHROPIC_API_KEY \
  -e LITELLM_MASTER_KEY=sk-1234 \
  -p 4000:4000 docker.litellm.ai/berriai/litellm:latest \
  --config /app/config.yaml

LITELLM_MASTER_KEY admin credential ہے، اس لیے اسے root password کی طرح محفوظ رکھیں اور example value کو استعمال نہ کریں۔ proxy کو بالکل اسی طرح call کریں جیسے آپ کسی hosted API کو call کرتے ہیں۔

curl http://localhost:4000/v1/chat/completions \
  -H 'Authorization: Bearer sk-1234' \
  -H 'Content-Type: application/json' \
  -d '{"model": "claude","messages": [{"role": "user","content": "Say hello in five words."}]}'

صحت مند response معمول کا JSON ہوتا ہے، جس میں choices array شامل ہوتی ہے۔ 401 کا مطلب ہے کہ Authorization header آپ کی master key سے match نہیں کرتا۔ model کا نام دینے والا 400 بتاتا ہے کہ آپ کی request میں موجود model config file کے کسی بھی model_name سے match نہیں کرتا۔

براہِ راست Anthropic کو call کرنے کے بجائے اسے بنانے کی وجہ اخراجات کی حد ہے۔ ہر application کے لیے الگ virtual key جاری کریں، اور ہر key کے لیے الگ budget مقرر کریں۔

curl 'http://0.0.0.0:4000/key/generate' \
--header 'Authorization: Bearer sk-1234' \
--header 'Content-Type: application/json' \
--data-raw '{"models": ["claude"], "max_budget": 100}'

وہ key one hundred dollars خرچ کر سکتی ہے اور صرف one model تک رسائی حاصل کر سکتی ہے، اس کے علاوہ کچھ نہیں۔ جب کوئی agent صبح تین بجے خراب طریقے سے کام کرے، تو اس کا اثر آپ کے پورے account کے بجائے صرف ایک key تک محدود رہتا ہے۔ اس pattern اور اس کی monitoring کی تفصیل VPS پر agent کے اخراجات کو قابو میں رکھنا میں ہے۔ اگر آپ ابھی یہ فیصلہ کر رہے ہیں کہ فی token ادائیگی کرنی بھی ہے یا نہیں، تو API اور subscription کے اخراجات کا موازنہ حساب واضح کرتا ہے۔

یہ بات سمجھیں کہ gateway کیا نہیں کرتا۔ یہ Claude کو local نہیں بناتا، اور نہ ہی آپ کے prompts کو Anthropic سے چھپاتا ہے۔ requests اب بھی آپ کے server سے provider تک جاتی ہیں۔ آپ کو keys، اخراجات، routing اور logs پر کنٹرول حاصل ہوتا ہے۔

اپنے VPS پر Claude Code چلائیں

تیسری خواہش پوری کرنا سب سے آسان ہے۔ Claude Code ایک کلائنٹ ہے۔ یہ وہاں چلتا ہے جہاں آپ Node.js انسٹال کرتے ہیں، اور HTTPS کے ذریعے API سے رابطہ کرتا ہے۔ اسے اپنے زیرِ ملکیت سرور پر چلانے سے آپ کے لیپ ٹاپ کو بند کرنے کے بعد بھی ایجنٹ کام کرتا رہتا ہے۔ اس کا یہ مطلب بھی ہے کہ ایجنٹ کا ممکنہ اثر ایک ایسے سسٹم تک محدود رہتا ہے جسے آپ دوبارہ بنا سکتے ہیں، بجائے اس کے کہ وہ آپ کی مرکزی مشین کو متاثر کرے۔

npm install -g @anthropic-ai/claude-code
claude --version

اسے tmux کے اندر چلائیں تاکہ SSH کنکشن منقطع ہونے سے طویل کام بند نہ ہو۔ یہ سیٹ اپ، بشمول سیشن ہینڈلنگ، tmux کے ساتھ VPS پر Claude Code چلانا میں بیان کیا گیا ہے۔ ایجنٹ کے لیے الگ غیر مراعات یافتہ صارف بنائیں، اور اسے ان فائلوں یا سسٹمز تک تحریری رسائی دینے سے پہلے سرور پر Claude Code چلانے کے حفاظتی قواعد پڑھیں جن کی آپ کو ضرورت ہے۔

یہ ایجنٹ کی self-hosting ہے، ماڈل کی نہیں۔ اس فرق کو واضح رکھنا ضروری ہے، کیونکہ لوگ اکثر دونوں کو ایک سمجھ لیتے ہیں۔ عمل، فائل سسٹم، نیٹ ورک egress اور لاگز آپ کے اختیار میں ہوتے ہیں۔ Inference اب بھی Anthropic کے اختیار میں ہوتا ہے۔

ہر آپشن کی اصل لاگت

قیمتیں تبدیل ہوتی رہتی ہیں، اس لیے ان اعداد کو حتمی نرخ کے بجائے عمومی اندازہ سمجھیں۔ July 2026 کے مطابق، Claude Sonnet 5 کی قیمت $3 فی million input tokens اور $15 فی million output tokens ہے، جبکہ Claude Opus 5 کی قیمتیں بالترتیب $5 اور $25 ہیں۔ مقامی model فی token کوئی قیمت نہیں لیتا۔ اس کے بجائے اس کی لاگت server کے ماہانہ اخراجات کے برابر ہوتی ہے، چاہے آپ اسے استعمال کریں یا نہ کریں۔

Break-even point لوگوں کے اندازے سے کم ہوتا ہے۔ مناسب memory والا VPS، جو ایک مفید open model چلا سکے، ہر ماہ حقیقی رقم خرچ کرتا ہے، اور زیادہ تر وقت idle رہتا ہے۔ اگر آپ کا استعمال وقفوں سے ہوتا ہے تو hosted API عموماً سستا ہوتا ہے۔ اگر استعمال مسلسل ہو، یا آپ کا data network سے باہر نہیں جا سکتا، تو local model دونوں صورتوں میں بہتر رہتا ہے۔

عملی طور پر زیادہ تر teams ایک مشترکہ حل اختیار کرتی ہیں۔ زیادہ volume اور کم difficulty والے کاموں کے لیے open model مقامی طور پر چلائیں۔ مشکل requests کو hosted frontier model کی طرف بھیجیں۔ دونوں کے سامنے ایک gateway رکھیں، تاکہ applications کو یہ جاننے کی ضرورت نہ ہو کہ کون سا model استعمال ہو رہا ہے، اور آپ application code تبدیل کیے بغیر دونوں کے درمیان تقسیم کی حد بدل سکیں۔ یہی architecture "self hosted Claude" کا عملی روپ ہے۔ لفظی معنوں والا ورژن موجود نہیں، لیکن یہ موجود ہے۔ اگر آپ پورا agent stack بھی خود چلانا چاہتے ہیں تو self-hosted AI agents کا خلاصہ دستیاب اختیارات کا جائزہ پیش کرتا ہے۔

FAQ

کیا میں Claude کے model weights ڈاؤن لوڈ کرکے انہیں مقامی طور پر چلا سکتا ہوں؟

نہیں۔ Anthropic نے کسی بھی Claude model کے weights کبھی جاری نہیں کیے، اور self hosting کی اجازت دینے والا کوئی licence موجود نہیں ہے۔ آن لائن downloadable "Claude model" کے نام سے پیش کی جانے والی کوئی بھی چیز یا تو گمراہ کن نام والا مختلف model ہے، یا ایسا wrapper ہے جو API کو call کرتا ہے۔ اگر اسے API key درکار ہے، تو یہ مقامی نہیں ہے۔

Claude کے قریب ترین open model کون سا ہے؟

کوئی exact match موجود نہیں، اور بہترین models ہر چند ماہ بعد بدل جاتے ہیں۔ جن open weight families کو آزمانا چاہیے ان میں Llama، Qwen، Mistral، Gemma، اور DeepSeek شامل ہیں۔ summarising، classification، اور سادہ code edits کے لیے 8 سے 14 billion parameters والا اچھا open model واقعی مفید ہے۔ طویل multi step reasoning اور agentic tool use میں hosted frontier model کے مقابلے میں فرق اب بھی بہت زیادہ ہے۔ leaderboard پر بھروسا کرنے کے بجائے اپنے prompts پر test کریں۔

کیا LiteLLM ایک self-hosted OpenRouter ہے؟

Routing اور key management کے لحاظ سے عملی طور پر ہاں۔ LiteLLM آپ کے server پر چلتا ہے، ایک OpenAI compatible endpoint فراہم کرتا ہے، اور Anthropic، Ollama، اور زیادہ تر دیگر providers کو proxy کرتا ہے۔ آپ کو ہر key کے لیے spend caps، model routing، اور logs پڑھنے کے لیے ایک مرکزی جگہ ملتی ہے۔ یہ آپ کو local inference فراہم نہیں کرتا: Claude کو بھیجی گئی requests اب بھی Anthropic تک جاتی ہیں۔

کیا میرے اپنے server پر Claude Code چلانے سے میرا code private رہتا ہے؟

نہیں۔ Claude Code جن file contents کو پڑھتا ہے انہیں Anthropic API کو بھیجتا ہے، خواہ process کسی بھی جگہ چل رہا ہو۔ VPS آپ کو agent کی isolation فراہم کرتا ہے، content کی privacy نہیں۔ اسے ایک dedicated unprivileged user دیں، اسے credentials اور غیر متعلقہ repositories سے دور رکھیں، اور ہر اس چیز کو جسے یہ پڑھ سکتا ہے ایسا content سمجھیں جو server سے باہر بھیجا جاتا ہے۔