SSD Nodes Learn Hosting plans →
تعلیمی Matt Connorتحریر: Matt Connor · اپ ڈیٹ شدہ 2026-10-24

کیا Claude کو self-host کیا جا سکتا ہے؟ مکمل حقیقت

Anthropic کے ماڈل weights عوامی نہیں ہیں لہذا Claude کو مقامی سرور پر چلانا ناممکن ہے۔ اس گائیڈ میں جانیں کہ آپ متبادل اوپن ماڈلز، API گیٹ وے اور Claude Code کیسے استعمال کر سکتے ہیں۔

کیا آپ Claude کو self-host کر سکتے ہیں؟ نہیں، اور اس کی وجہ یہ ہے

آپ Claude کو self-host نہیں کر سکتے۔ Anthropic ماڈل کے weights جاری نہیں کرتا، اس لیے نہ تو کوئی فائل ڈاؤن لوڈ کے لیے دستیاب ہے، نہ ہی کوئی container ہے جسے چلایا جا سکے، اور نہ ہی کوئی ایسا لائسنس موجود ہے جو آپ کو اسے اپنے ہارڈویئر سے چلانے کی اجازت دے۔ Claude کی ہر درخواست Anthropic کی API یا کسی hosted پارٹنر جیسے کہ Amazon Bedrock، Google Vertex AI، یا Microsoft Foundry پر جاتی ہے۔ اسے اپنی مشین پر چلانا کوئی configuration کا مسئلہ نہیں ہے۔ یہ آرٹفیکٹ Anthropic کے باہر موجود ہی نہیں ہے۔

یہ مختصر جواب ہے۔ تفصیلی جواب یہ ہے کہ جو لوگ یہ سوال پوچھتے ہیں، ان میں سے اکثر کو درحقیقت weights کی ضرورت نہیں ہوتی۔ وہ ان تین چیزوں میں سے کوئی ایک چاہتے ہیں جو آپ کے کنٹرول والے سرور پر حاصل کی جا سکتی ہیں: ایک قابل ماڈل جو مقامی طور پر چل رہا ہو، ایک گیٹ وے جو ان کی API keys کو محفوظ رکھے اور اخراجات کو محدود کرے، یا ایک کوڈنگ ایجنٹ جو ان کے لیپ ٹاپ کے بجائے ان کے اپنے سرور پر موجود ہو۔ یہ گائیڈ ان تینوں کا احاطہ کرتی ہے، اور اس میں متعلقہ کمانڈز بھی شامل ہیں۔

"Self-hosted Claude" کا عام مطلب کیا ہے

"Self-hosted Claude" کے لیے سرچ ٹریفک چند مختلف خواہشات میں تقسیم ہوتی ہے، اور ان کے لیے مختلف جوابات درکار ہوتے ہیں۔

کچھ لوگ پرائیویسی چاہتے ہیں۔ وہ نہیں چاہتے کہ ان کے پرامپٹس ان کے نیٹ ورک سے باہر جائیں۔ صرف ایک مقامی open weight ماڈل ہی اس کا حل ہے، کیونکہ Claude کی کوئی بھی درخواست اصولی طور پر Anthropic کو بھیجی گئی درخواست ہوتی ہے۔

کچھ لوگ اخراجات پر کنٹرول چاہتے ہیں۔ انہیں خدشہ ہوتا ہے کہ کوئی بے قابو ایجنٹ ان کے کریڈٹس ختم کر دے گا۔ ایک گیٹ وے اس کا حل ہے، اور یہ Claude کے ساتھ کام کرتا ہے، لہذا آپ ماڈل کے معیار کو برقرار رکھ سکتے ہیں۔

کچھ لوگ لیپ ٹاپ سے آزادی چاہتے ہیں۔ وہ ایسا ایجنٹ چاہتے ہیں جو لیپ ٹاپ بند کرنے کے بعد بھی کام کرتا رہے۔ ایک VPS اس کا حل ہے، اور Claude Code اس پر بخوبی چلتا ہے۔

کچھ لوگ "self-hosted OpenRouter" کی اصطلاح تلاش کرتے ہیں۔ یہ بھی ایک گیٹ وے ہے، اور اس کا عام جواب LiteLLM ہے۔

یہ طے کریں کہ آپ کی ضرورت کیا ہے، کیونکہ ہر صورت میں درست تعمیر (build) مختلف ہوتی ہے۔

Ollama کے ساتھ ایک اوپن ماڈل کو self-host کریں

اگر ضرورت یہ ہے کہ آپ کا کوئی بھی پرامپٹ آپ کے سرور سے باہر نہ جائے، تو ایک اوپن ویٹ ماڈل چلائیں۔ آج کرائے کے سرور پر جو ماڈل فیملیز واقعی قابل استعمال ہیں ان میں Llama، Qwen، Mistral، Gemma اور DeepSeek شامل ہیں۔ یہ سب اپنے ویٹس شائع کرتے ہیں جنہیں آپ ڈاؤن لوڈ کر کے چلا سکتے ہیں۔

Ollama اس کام کا تیز ترین طریقہ ہے۔ اس کی انسٹالیشن اسکرپٹ ایک لائن پر مشتمل ہے، اور یہ Ubuntu پر ایک systemd سروس سیٹ اپ کر دیتی ہے۔

curl -fsSL https://ollama.com/install.sh | sh
systemctl status ollama

systemctl status ollama کو active (running) پرنٹ کرنا چاہیے۔ اس کے بعد ایک ماڈل pull کریں اور اس سے بات کریں۔

ollama pull qwen3:8b
ollama run qwen3:8b "Summarise what a reverse proxy does in two sentences."

پہلا pull کئی گیگا بائٹس ڈاؤن لوڈ کرتا ہے، لہذا کسی بھی جواب سے پہلے ماڈل کا RAM یا GPU میموری میں فٹ ہونا ضروری ہے۔ کوانٹائزڈ ماڈلز کے لیے ایک عمومی اصول یہ ہے: 8 بلین پیرامیٹر والے ماڈل کو تقریباً 6 GB خالی جگہ درکار ہوتی ہے، 14 بلین پیرامیٹر والے ماڈل کو تقریباً 10 GB، اور 70 بلین پیرامیٹر والے ماڈل کو اس سے کہیں زیادہ میموری درکار ہوتی ہے جتنی عام VPS پلانز میں ہوتی ہے۔ اگر سرور میں میموری کم ہو تو kernel اس پروسیس کو ختم کر دیتا ہے اور آپ کو Error: llama runner process has terminated نظر آتا ہے، جس کے ساتھ dmesg میں out of memory کی لائن ہوتی ہے۔ ماڈل کو قصوروار ٹھہرانے سے پہلے free -h چیک کریں۔ یہی میموری بجٹ یہ بھی طے کرتا ہے کہ ماڈل ایک طویل پرامپٹ کا کتنا حصہ پڑھتا ہے، کیونکہ Ollama خاموشی سے ایک معمولی ڈیفالٹ ونڈو کے بعد کے حصے کو truncate کر دیتا ہے، لہذا num_ctx کو بڑھانا اور KV cache کا سائز سیٹ کرنا وہ پہلی چیز ہے جسے چیک کرنا چاہیے جب طویل دستاویزات کا آدھا خلاصہ واپس ملے۔

Ollama 127.0.0.1:11434 پر ایک HTTP API بھی فراہم کرتا ہے، جو اسے صرف ایک چیٹ ٹوائے کے بجائے دیگر سافٹ ویئر کے لیے مفید بناتا ہے۔

curl http://127.0.0.1:11434/api/generate -d '{"model":"qwen3:8b","prompt":"ping","stream":false}'

اگر خاموشی کے وقفے کے بعد پہلی درخواست تیس سیکنڈ لیتی ہے جبکہ اگلی فوری طور پر واپس آ جاتی ہے، تو کچھ بھی خراب نہیں ہے: Ollama پانچ منٹ کے آئیڈل ٹائم کے بعد ماڈل کو ان لوڈ کر دیتا ہے، اور keep_alive کے ساتھ اسے resident رکھنا اس ری لوڈ کے تعطل کو ختم کر دیتا ہے۔

اس پورٹ کو localhost تک محدود رکھیں۔ پبلک IP پر کھلا Ollama پورٹ اسے تلاش کرنے والے ہر شخص کے لیے ایک مفت GPU ہے۔ مکمل بلڈ، بشمول systemd یونٹ، GPU ڈیٹیکشن، اور سامنے ایک reverse proxy لگانا، VPS پر Ollama چلانے کی گائیڈ میں کور کیا گیا ہے۔ اگر آپ ایک وقت میں ایک سے زیادہ صارفین کو سروس دے رہے ہیں، تو پہلے Ollama اور vLLM کا موازنہ پڑھیں، کیونکہ Ollama کا سنگل اسٹریم ڈیزائن ہارڈویئر سے پہلے ہی رکاوٹ (bottleneck) بن جاتا ہے۔

فرق کے بارے میں ایماندار رہیں۔ ایک درمیانے درجے کے VPS پر ایک اچھا اوپن ماڈل خلاصہ سازی، درجہ بندی، مسودہ سازی، اور سادہ ڈیٹا نکالنے کے لیے واقعی مفید ہے۔ طویل کثیر الجہتی استدلال، بڑے کوڈ بیسز، اور ایجنٹک ٹول کے استعمال پر یہ کسی فرنٹیر ہوسٹڈ ماڈل کے قریب نہیں ہے، اور پرامپٹ ٹیوننگ سے یہ فرق ختم نہیں ہوتا۔ مقامی ماڈل کا انتخاب ان کاموں کے لیے کریں جن میں وہ اچھا ہے، اور جہاں مشکل حقیقی ہو وہاں ہوسٹڈ ماڈل کے لیے ادائیگی کریں۔

اپنا gateway LiteLLM کے ساتھ چلائیں

یہ وہ "self-hosted OpenRouter" ہے جسے لوگ تلاش کر رہے ہیں۔ gateway آپ کی applications اور ہر model provider کے درمیان کام کرتا ہے۔ آپ کی apps ایک ہی key رکھتی ہیں، جو آپ کے server کی طرف اشارہ کرتی ہے۔ اصل provider keys صرف اسی server پر رہتی ہیں۔ آپ ہر key کے لیے خرچ کی حد مقرر کر سکتے ہیں، مختلف apps کو مختلف models کی طرف route کر سکتے ہیں، اور ہر request کی logging ایک جگہ کر سکتے ہیں۔

LiteLLM عام انتخاب ہے، کیونکہ یہ OpenAI-compatible API استعمال کرتا ہے اور Anthropic، Ollama اور زیادہ تر دوسرے providers کو اسی endpoint کے پیچھے proxy کرتا ہے۔ اسے config file کے ساتھ Docker میں چلائیں۔

model_list:
  - model_name: claude
    litellm_params:
      model: anthropic/claude-sonnet-5
      api_key: os.environ/ANTHROPIC_API_KEY
  - model_name: local
    litellm_params:
      model: ollama/qwen3:8b
      api_base: http://127.0.0.1:11434

اسے litellm_config.yaml کے طور پر محفوظ کریں اور proxy شروع کریں۔ یہ port 4000 پر listen کرتا ہے۔

docker run -v $(pwd)/litellm_config.yaml:/app/config.yaml \
  -e ANTHROPIC_API_KEY=$ANTHROPIC_API_KEY \
  -e LITELLM_MASTER_KEY=sk-1234 \
  -p 4000:4000 docker.litellm.ai/berriai/litellm:latest \
  --config /app/config.yaml

LITELLM_MASTER_KEY admin credential ہے، اس لیے اسے root password کی طرح محفوظ رکھیں اور example value استعمال نہ کریں۔ proxy کو بالکل اسی طرح call کریں جیسے کسی hosted API کو call کرتے ہیں۔

curl http://localhost:4000/v1/chat/completions \
  -H 'Authorization: Bearer sk-1234' \
  -H 'Content-Type: application/json' \
  -d '{"model": "claude","messages": [{"role": "user","content": "Say hello in five words."}]}'

صحت مند response معمول کا JSON ہوتا ہے جس میں choices array شامل ہوتا ہے۔ 401 authentication failure ہے۔ اس setup میں عام وجہ Authorization header ہے جو آپ کی master key سے match نہیں کرتا۔ LiteLLM اسے invalid virtual key کے لیے بھی واپس کرتا ہے، اور provider کی جانب سے مسترد کی جانے والی provider key بھی authentication failure پیدا کرتی ہے، مثلاً خراب ANTHROPIC_API_KEY کے باعث۔ اس صورت میں error کے اندر provider کا نام <Provider>Exception کی شکل میں شامل ہوتا ہے۔ model کا نام بتانے والا 400 اکثر اس بات کی علامت ہوتا ہے کہ آپ کی request میں موجود model config file کے کسی model_name سے match نہیں کرتا۔ اگر request model کی context window کے لیے بہت طویل ہو تو LiteLLM 400 بھی واپس کرتا ہے، اس لیے config edit کرنے سے پہلے error message پڑھیں۔

اسے براہ راست Anthropic کو call کرنے کے بجائے بنانے کی وجہ spend cap ہے۔ ہر application کے لیے الگ virtual key جاری کریں اور ہر key کا اپنا budget مقرر کریں۔

curl 'http://0.0.0.0:4000/key/generate' \
--header 'Authorization: Bearer sk-1234' \
--header 'Content-Type: application/json' \
--data-raw '{"models": ["claude"], "max_budget": 100}'

Virtual keys اور budgets کے لیے proxy کے پیچھے Postgres database ضروری ہے۔ اوپر موجود docker run میں database نہیں ہے، اس لیے پہلے اس میں -e DATABASE_URL=postgresql://user:password@host:5432/litellm شامل کریں۔ Database کے بغیر یہ call No connected db. کے ساتھ fail ہوتی ہے۔

اس key سے ایک سو dollars تک خرچ کیا جا سکتا ہے اور صرف ایک model تک رسائی ہو گی، اس کے علاوہ کچھ نہیں۔ جب کوئی agent صبح تین بجے غلط رویہ اختیار کرے تو اثرات کی حد پوری account کے بجائے صرف ایک key تک رہتی ہے۔ یہی طریقہ اور اس کے ساتھ monitoring VPS پر agent کے اخراجات قابو میں رکھنا کا موضوع ہے۔ اگر آپ اب بھی یہ طے کر رہے ہیں کہ فی token ادائیگی کرنی بھی ہے یا نہیں، تو API اور subscription کے اخراجات کا موازنہ حساب واضح کرتا ہے۔

یہ بھی سمجھیں کہ gateway کیا نہیں کرتا۔ یہ Claude کو local نہیں بناتا اور نہ ہی آپ کے prompts Anthropic سے چھپاتا ہے۔ Requests اب بھی آپ کے server سے نکل کر provider تک جاتی ہیں۔ آپ کو keys، خرچ، routing اور logs پر control حاصل ہوتا ہے۔

اپنے VPS پر Claude Code چلائیں

تیسری خواہش پوری کرنا سب سے آسان ہے۔ Claude Code ایک client ہے۔ یہ ایک واحد native binary کے طور پر install ہوتا ہے اور HTTPS کے ذریعے API سے رابطہ کرتا ہے۔ اسے اپنے زیرِ انتظام server پر رکھنے سے آپ laptop بند کرنے کے بعد بھی agent کام کرتا رہتا ہے۔ اس کا blast radius بھی ایسی مشین تک محدود رہتا ہے جسے آپ دوبارہ build کر سکتے ہیں، نہ کہ آپ کی مرکزی مشین تک۔

npm install -g @anthropic-ai/claude-code
claude --version

npm package کے لیے Node.js 22 یا اس کے بعد کا ورژن درکار ہے۔ تاہم، پرانے Node.js پر install صرف EBADENGINE warning دکھاتا ہے اور پھر بھی مکمل ہو جاتا ہے۔ Anthropic کا تجویز کردہ native installer، curl -fsSL https://claude.ai/install.sh | bash، Node.js کے بغیر کام کرتا ہے۔ دونوں صورتوں میں install ہونے والی claude binary Node پر نہیں چلتی۔ Anthropic کم از کم 4 GB RAM بتاتا ہے، اس لیے VPS کا سائز اسی حساب سے منتخب کریں۔

اسے tmux کے اندر چلائیں تاکہ SSH connection منقطع ہونے سے طویل job ختم نہ ہو۔ اس setup میں session handling بھی شامل ہے، جس کی تفصیل tmux کے ساتھ VPS پر Claude Code چلانا میں ہے۔ agent کے لیے اپنا unprivileged user بنائیں۔ جس چیز تک write access اہم ہو، وہ دینے سے پہلے server پر Claude Code چلانے کے حفاظتی اصول پڑھیں۔

یہ agent کی self-hosting ہے، model کی نہیں۔ اس فرق کو واضح رکھنا ضروری ہے، کیونکہ لوگ اکثر دونوں کو ایک سمجھ لیتے ہیں۔ process، filesystem، network egress اور logs آپ کے زیرِ انتظام ہوتے ہیں۔ Inference اب بھی Anthropic کے زیرِ انتظام ہے۔

ہر اختیار کی حقیقی لاگت

قیمتیں بدلتی رہتی ہیں، اس لیے ان اعداد کو حتمی نرخ کے بجائے عمومی اندازہ سمجھیں۔ 17 October 2026 تک Claude Sonnet 5.5 کی قیمت فی million input tokens $2 اور فی million output tokens $10 ہے، جبکہ Claude Opus 5.5 کی قیمت بالترتیب $4 اور $20 ہے۔ اوپر gateway config میں استعمال ہونے والا ماڈل Sonnet 5 ہے۔ اسے Sonnet 5.5 سے تبدیل کیا جا چکا ہے، لیکن یہ deprecated نہیں ہے: Anthropic کے model deprecations صفحے پر اس کی حالت Active درج ہے، اور retirement 30 June 2027 سے پہلے متوقع نہیں۔ اس کی قیمت اب بھی $2 اور $10 ہے، جبکہ Opus 5 کی قیمت اب بھی $5 اور $25 درج ہے۔ Local model فی token کوئی قیمت نہیں لیتا؛ اس کے بجائے server کی ماہانہ لاگت ادا کرنی پڑتی ہے، چاہے آپ اسے استعمال کریں یا نہ کریں۔

Break-even point لوگوں کی توقع سے کم ہوتا ہے۔ کسی مفید open model کو چلانے کے لیے کافی memory والے VPS کی ماہانہ حقیقی لاگت ہوتی ہے، اور یہ زیادہ تر وقت idle رہتا ہے۔ اگر آپ کا استعمال bursty ہو تو hosted API عموماً سستا ہوتا ہے۔ اگر استعمال مسلسل ہو، یا آپ کا data آپ کے network سے باہر نہ جا سکتا ہو، تو local model دونوں صورتوں میں بہتر رہتا ہے۔

زیادہ تر teams جس عملی نتیجے تک پہنچتی ہیں، وہ ایک mixed approach ہے۔ زیادہ volume اور کم difficulty والے کام کے لیے open model مقامی طور پر چلائیں۔ مشکل requests کو hosted frontier model تک route کریں۔ دونوں کے سامنے gateway رکھیں تاکہ applications کو یہ معلوم نہ ہو کہ کون سا model استعمال ہو رہا ہے، اور آپ application code تبدیل کیے بغیر دونوں کے درمیان تقسیم بدل سکیں۔ یہ "self hosted Claude" کا عملی ورژن ہے، اور لفظی ورژن کے برعکس، یہ موجود ہے۔ اگر آپ پورا agent stack بھی خود چلانا چاہتے ہیں تو self-hosted AI agents کا خلاصہ دستیاب اختیارات کا جائزہ پیش کرتا ہے۔

FAQ

کیا میں Claude کے model weights download کرکے انہیں مقامی طور پر چلا سکتا ہوں؟

نہیں۔ Anthropic نے کسی بھی Claude model کے weights کبھی جاری نہیں کیے، اور self hosting کی اجازت دینے والا کوئی licence موجود نہیں ہے۔ آن لائن downloadable "Claude model" کے طور پر مشتہر کی جانے والی چیز یا تو گمراہ کن نام والا مختلف model ہوتی ہے یا ایسا wrapper جو API کو call کرتا ہے۔ اگر اسے API key درکار ہے تو یہ local نہیں ہے۔

Claude کے قریب ترین open model کون سا ہے؟

اس کا کوئی عین متبادل نہیں ہے، اور بہترین models ہر چند ماہ بعد بدل جاتے ہیں۔ جن open weight families کو test کرنا مفید ہے ان میں Llama، Qwen، Mistral، Gemma اور DeepSeek شامل ہیں۔ summarising، classification اور سادہ code edits کے لیے 8 سے 14 billion parameters والا اچھا open model واقعی مفید ہوتا ہے۔ طویل multi step reasoning اور agentic tool use میں hosted frontier model کے مقابلے میں فرق اب بھی بڑا ہے۔ leaderboard پر اعتماد کرنے کے بجائے اپنے prompts پر test کریں۔

کیا LiteLLM self-hosted OpenRouter ہے؟

routing اور key management کے معاملے میں فعلاً ہاں۔ LiteLLM آپ کے server پر چلتا ہے، ایک OpenAI compatible endpoint فراہم کرتا ہے، اور Anthropic، Ollama اور زیادہ تر دیگر providers کو proxy کرتا ہے۔ Postgres database منسلک کرنے کے بعد آپ کو ہر key کے لیے spend caps، model routing اور logs پڑھنے کے لیے ایک مرکزی جگہ مل جاتی ہے۔ لیکن یہ local inference فراہم نہیں کرتا: Claude کو بھیجی جانے والی requests اب بھی Anthropic تک جاتی ہیں۔

کیا اپنے server پر Claude Code چلانے سے میرا code private رہتا ہے؟

نہیں۔ Claude Code جن file contents کو پڑھتا ہے انہیں Anthropic API کو بھیجتا ہے، خواہ process کہیں بھی چل رہا ہو۔ VPS آپ کو agent کی isolation دیتا ہے، content کی privacy نہیں۔ اسے dedicated unprivileged user دیں، اسے credentials اور غیر متعلقہ repositories سے دور رکھیں، اور ہر اس چیز کو ایسا content سمجھیں جو server سے باہر بھیجا جاتا ہے۔

کیا یہ مضمون مفید تھا؟