Octop AI assistant को VPS पर self-host कैसे करें
Octop को Docker Compose के जरिए v0.9.19 टैग के साथ इंस्टॉल करना सीखें। हम curl इंस्टॉलर के बजाय मैन्युअल सेटअप की प्रक्रिया, TLS कॉन्फ़िगरेशन और मल्टी-यूजर एक्सेस के लाभ बताएंगे।
Octop क्या है, और आपको इसे self-host क्यों करना चाहिए
Octop एक household या छोटी टीम के लिए एक self-hosted AI assistant है। Octop को केवल एक साधारण chat front end के बजाय self-host करने का कारण यह है कि यह उपयोगकर्ताओं को एक-दूसरे से अलग रखता है। Open WebUI आपको एक model के सामने browser interface देता है और यह कई उपयोगकर्ताओं और access controls का भी समर्थन करता है। Octop खातों को एक admin role, प्रत्येक उपयोगकर्ता के लिए एक private workspace और credential set, और specialist agents की एक library के साथ जोड़ता है, जिन्हें प्रत्येक उपयोगकर्ता कार्य के अनुसार बदल सकता है। यही वह अंतर है जो एक VPS को एक के बजाय पांच लोगों की सेवा करने की अनुमति देता है।
यह project github.com/TencentCloud/Octop पर उपलब्ध है। यह एक ही process है जो एक web dashboard, एक command line interface, chat channels (Feishu, DingTalk, QQ, Discord, WeCom) और scheduled jobs को serve करता है, जो सभी ~/.octop/ के अंतर्गत एक ही SQLite database द्वारा समर्थित हैं। नीचे दी गई हर चीज़ tag v0.9.19 के लिए लिखी गई है, जिसे 5 August 2026 को release किया गया था। यदि आप अभी भी platforms के बीच निर्णय ले रहे हैं, तो VPS पर चलाए जा सकने वाले Open WebUI विकल्पों की तुलना व्यापक क्षेत्र को कवर करती है।
इस पर एक शाम खर्च करने से पहले एक बात स्पष्ट होनी चाहिए। जब यह guide लिखी गई थी, तब Octop एक vendor के GitHub organisation से प्रकाशित pre-1.0 software था। इसने तब से 14 September 2026 को v1.0.0 tag किया है, और 20 November 2026 तक नवीनतम tag v1.0.3b7 है, जिसे 18 November 2026 को प्रकाशित किया गया था, और repository में लगभग 12,300 stars हैं। नवीनतम stable release अभी भी v1.0.2 है, जिसे 18 October 2026 को प्रकाशित किया गया था। नीचे दिए गए चरण v0.9.19 के लिए लिखे गए थे और 1.x पर फिर से test नहीं किए गए हैं। यह तेज़ी से बदल रहा है, version numbers ऐसा ही कहते हैं, और यहाँ कुछ भी एक stable upgrade path का वादा नहीं है। एक tag को pin करें, changelog पढ़ें, और backups रखें।
शुरू करने से पहले आपकी आवश्यकताएं
- Ubuntu 24.04 पर चलने वाला एक VPS, जिसमें Docker Engine और Compose plugin इंस्टॉल हो। यदि आप Compose के लिए नए हैं, तो VPS के लिए Docker Compose की बुनियादी जानकारी से शुरुआत करें।
git, क्योंकि आप image pull करने के बजाय एक release tag को checkout करेंगे।- VPS पर पॉइंट करता हुआ एक domain name, क्योंकि आप इसके सामने TLS (transport layer security) चाहते हैं।
- OpenAI API के अनुरूप एक model backend: एक local Ollama, एक self-hosted gateway, या एक paid key।
Octop स्वयं हल्का है। यह एक Python process और एक SQLite file है। इसका भार model backend के कारण बढ़ता है, इसलिए यदि आप model को उसी box पर चलाने की योजना बना रहे हैं, तो box का आकार model की आवश्यकतानुसार रखें।
हम curl इंस्टॉलर की अनुशंसा क्यों नहीं करते हैं
v0.9.19 README एक वन-लाइन इंस्टॉलेशन के साथ शुरू होता है:
curl -fsSL https://finnie-1258344699.cos.ap-guangzhou.myqcloud.com/octop/install.sh | bashहम इसे सीधे किसी ऐसे सर्वर पर bash में पाइप करने की अनुशंसा नहीं करते हैं जिसकी आप परवाह करते हैं। रिपॉजिटरी में scripts/install.sh शामिल है, इसलिए उस कॉपी में git हिस्ट्री होती है और वह एक टैग द्वारा कवर की जाती है। Tencent Cloud Object Storage बकेट से सर्व की गई कॉपी ऊपर दिए गए कमांड द्वारा पिन नहीं की गई है। बकेट कल अलग बाइट्स सर्व कर सकता है और कमांड फिर भी उन्हें चला देगा। परिणाम को सीधे bash में पाइप करने का मतलब यह भी है कि आपके द्वारा एक भी लाइन पढ़ने से पहले ही मशीन स्क्रिप्ट चला देती है।
इंस्टॉलर कंटेनर के बजाय होस्ट पर लिखता है। यह Python 3.12 को फेच करने के लिए uv का उपयोग करता है और एक ऐसा वातावरण बनाता है जिसके बारे में आपके पैकेज मैनेजर को कोई जानकारी नहीं होती है, इसलिए इसे बाद में हटाना एक मैनुअल काम है।
दो बेहतर विकल्प हैं। स्क्रिप्ट को फेच करें, उसे पढ़ें, फिर उसे चलाएं, जिसमें आपको तीस सेकंड लगेंगे: curl -fsSL <url> -o install.sh, फिर less install.sh, फिर bash install.sh। या Docker का उपयोग करें, जो इस गाइड का बाकी हिस्सा है। PyPI पैकेज (pip install octop) कम से कम एक वर्शन्ड आर्टिफैक्ट है जिसे आप किसी रिलीज़ पर पिन कर सकते हैं।
Docker Compose के साथ Octop को deploy करना, v0.9.19 पर पिन किया गया
v0.9.19 के साथ जो Compose file आती है, वह repository से image build करती है, इसलिए इस guide में version पिन करने का अर्थ git tag को checkout करना है। प्रकाशित images मौजूद हैं। v0.9.19 tree में पहले से ही एक docker-publish.yml workflow है, जिसे 15 July 2026 को v0.9.8 में जोड़ा गया था, जो image build करता है और हर v* tag के लिए उसे Docker Hub पर push करता है। 20 October 2026 तक, project GitHub के container registry (docker pull ghcr.io/tencentcloud/octop:1.0.2) पर भी publish करता है। checked-out tag से build करना अधिक सुरक्षित पिन है, क्योंकि आप registry tag पर भरोसा करने के बजाय ठीक उसी code को compile करते हैं जिसे आप पढ़ रहे हैं। यह अधिकांश self-hosted projects द्वारा मांगे जाने वाले चरणों से एक कदम अधिक है, क्योंकि एक self-hosted AFFiNE workspace जैसा कुछ एक प्रकाशित image tag पर पिन होता है और आपके VPS पर कुछ भी build नहीं करता है। नीचे दी गई clone, checkout और build प्रक्रिया वही है जिससे the openGym deployment guide गुजरती है, इसलिए यदि आपने उसे एक बार set up कर लिया है, तो आप पहले से ही इसके स्वरूप को जानते हैं।
git clone https://github.com/TencentCloud/Octop.git
cd Octop
git checkout v0.9.19यह वह service है जिसे file परिभाषित करती है, केवल महत्वपूर्ण भागों तक सीमित:
services:
octop:
build:
context: ..
dockerfile: docker/Dockerfile
image: octop:latest
container_name: octop
restart: unless-stopped
ports:
- "${OCTOP_PORT:-8088}:${OCTOP_PORT:-8088}"
volumes:
- ${OCTOP_DATA:-~/.octop}:/data/.octop
environment:
- HOME=/data
- OCTOP_BIND_HOST=0.0.0.0
- OCTOP_PORT=${OCTOP_PORT:-8088}
- OCTOP_DEFAULT_PASSWORD=${OCTOP_DEFAULT_PASSWORD:-octop}
- OCTOP_ADMIN_USERNAME=${OCTOP_ADMIN_USERNAME:-admin}
- OPENAI_API_KEY=${OPENAI_API_KEY:-}build: block पर ध्यान दें। image: octop:latest आपके द्वारा build किए गए का नाम है, न कि registry reference, इसलिए यहाँ latest का अर्थ है जो भी आपने सबसे हाल ही में compile किया है। data path को default पर छोड़ने के बजाय किसी स्पष्ट स्थान पर set करें, और पहली बार boot करने से पहले admin account को एक वास्तविक password दें। इसे docker/.env में रखें:
OCTOP_PORT=8088
OCTOP_ADMIN_USERNAME=admin
OCTOP_DEFAULT_PASSWORD=<a long random password>
OCTOP_DATA=/srv/octop-dataयहाँ एक trap बाकी file से अधिक महत्वपूर्ण है। Compose, YAML में ${...} placeholders को interpolate करने के लिए ही docker/.env को पढ़ता है। आपके द्वारा उस file में जो key जोड़ी जाती है, वह container तक तब तक नहीं पहुँचती जब तक कि उसे Compose file में environment: के अंतर्गत सूचीबद्ध न किया गया हो। OCTOP_ACCESS_TOKEN_TTL को केवल .env में जोड़ें और यह चुपचाप कुछ भी नहीं करेगा। विकल्प यह है कि उन्हीं keys को mounted data directory के अंदर ~/.octop/env में लिखें, जिसे Octop startup पर load करता है। Docker Compose में env files और secrets के लिए guide विस्तार से बताती है कि ये दोनों तंत्र एक समान क्यों नहीं हैं।
Build करें और start करें:
docker compose -f docker/docker-compose.yml up -d --build
docker compose -f docker/docker-compose.yml ps
curl http://127.0.0.1:8088/api/healthएक healthy instance health check का उत्तर {"ok":true,"started_at":...,"db":...,"users_loaded":0,"agents_running":0} जैसी JSON object के साथ देती है। कुछ और होने पर, browser को छूने से पहले docker compose -f docker/docker-compose.yml logs -f octop पढ़ें।
अब आपके द्वारा अभी-अभी build की गई image को एक सार्थक नाम दें, क्योंकि अगला --build, octop:latest को overwrite कर देगा और आपके पास दोनों के बीच अंतर करने का कोई तरीका नहीं होगा:
docker image tag octop:latest octop:0.9.19पहला boot octop init चलाता है और शुरुआती credentials को data volume में लिखता है:
docker exec -it octop cat /data/.octop/credential.txtdefaults admin / octop हैं, और वे केवल पहली init पर लागू होते हैं। यह उस प्रश्न के पीछे का तंत्र है जो लोग लगातार पूछते हैं: container के एक बार start होने के बाद OCTOP_DEFAULT_PASSWORD को बदलने से कुछ नहीं बदलता, क्योंकि account पहले से ही मौजूद होता है। इसके बजाय dashboard में password बदलें।
पोर्ट 8088 को पब्लिश न करें
ऊपर दी गई ports: लाइन VPS के हर इंटरफेस को बाइंड करती है। जैसे ही कंटेनर शुरू होता है, डैशबोर्ड क्लियरटेक्स्ट में पब्लिक इंटरनेट पर उपलब्ध हो जाता है। Octop का अपना OCTOP_BIND_HOST डिफॉल्ट 127.0.0.1 है; Compose फाइल इसे ओवरराइड करके 0.0.0.0 कर देती है क्योंकि प्रोसेस को अपने नेटवर्क नेमस्पेस के बाहर से ट्रैफिक स्वीकार करना होता है। वह ओवरराइड सही है। पब्लिश किया गया पोर्ट ही वह हिस्सा है जो आपको एक्सपोज़ करता है।
docker/docker-compose.yml में ports: लाइन को एडिट करें ताकि मैपिंग केवल लूपबैक पर लिसन करे:
ports:
- "127.0.0.1:${OCTOP_PORT:-8088}:${OCTOP_PORT:-8088}"इसे साधारण ओवरराइड फाइल से ठीक करने का प्रयास न करें। Compose कई फाइलों से ports सूचियों को रिप्लेस करने के बजाय उन्हें जोड़ (concatenate) देता है, जिससे अंत में आप दोनों मैपिंग पब्लिश कर देते हैं और दूसरी मैपिंग बाइंड होने में विफल हो जाती है। यदि आप अपस्ट्रीम फाइल को अनटच्ड रखना चाहते हैं, तो सीक्वेंस पर !override टैग का उपयोग करें, जो कि अपेंड करने के बजाय रिप्लेस करने का डॉक्यूमेंटेड तरीका है। Compose द्वारा कई फाइलों को मर्ज करने की व्याख्या उन मर्ज नियमों के बाकी हिस्सों को कवर करती है।
लूपबैक पर बाइंड करना उस समस्या को भी हल करता है जिसका सामना आपको अन्यथा फायरवॉल के साथ करना पड़ता। Docker अपने पब्लिश-पोर्ट नियमों को ufw द्वारा मैनेज की जाने वाली चेन से पहले nat टेबल में लिखता है, इसलिए ufw deny 8088 पब्लिश किए गए कंटेनर पोर्ट को नहीं रोकता है। Docker Engine 28.0.0 या उससे नए वर्ज़न पर, 127.0.0.1 पर बाइंड किया गया पोर्ट बाहर से एक्सेस नहीं किया जा सकता, चाहे ufw कुछ भी सोचे, इसीलिए यह दूसरा सबसे अच्छा विकल्प नहीं बल्कि सही समाधान है। पुराने Engine रिलीज एक ही L2 सेगमेंट पर मौजूद होस्ट्स को, जैसे कि आपके प्रोवाइडर के स्विच पर मौजूद अन्य मशीनें, localhost पर पब्लिश किए गए पोर्ट्स तक पहुँचने देते हैं, इसलिए docker version चलाएं और यदि सर्वर 28 से नीचे का कोई भी वर्ज़न रिपोर्ट करता है तो अपग्रेड करें।
Reverse proxy के साथ TLS का उपयोग करें
Caddy सबसे आसान विकल्प है, क्योंकि यह ACME (automatic certificate management environment) के माध्यम से स्वयं certificate का अनुरोध करता है और बिना किसी अतिरिक्त निर्देश के WebSockets को proxy कर देता है:
octop.example.com {
reverse_proxy 127.0.0.1:8088
}nginx को अधिक सावधानी की आवश्यकता है, क्योंकि Octop एक WebSocket पर चैट स्ट्रीम करता है:
server {
listen 443 ssl;
server_name octop.example.com;
ssl_certificate /etc/letsencrypt/live/octop.example.com/fullchain.pem;
ssl_certificate_key /etc/letsencrypt/live/octop.example.com/privkey.pem;
location / {
proxy_pass http://127.0.0.1:8088;
proxy_http_version 1.1;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection "upgrade";
proxy_set_header Host $host;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_buffering off;
proxy_read_timeout 3600s;
}
}वहाँ मौजूद प्रत्येक पंक्ति का एक विशिष्ट कार्य है। चैट WS /api/agents/{id}/chat/ws पर चलती है, इसलिए nginx को दो upgrade headers को forward करना होगा और HTTP/1.1 upstream का उपयोग करना होगा; proxy_http_version 1.1 इसे स्पष्ट करता है और 1.29.7 से पुराने nginx संस्करणों पर इसकी आवश्यकता होती है। सफल upgrade के बिना, डैशबोर्ड सामान्य रूप से लोड होता है लेकिन चैट कनेक्ट नहीं हो पाती; v0.9.19 एक विफल handshake के बाद streaming state को समाप्त कर देता है, बजाय इसके कि संदेश को हमेशा के लिए लटकाए रखे। proxy_buffering off महत्वपूर्ण है क्योंकि human-in-the-loop resume endpoint text/event-stream लौटाता है, और proxy buffer में रखे गए SSE (server-sent events) स्ट्रीम होने के बजाय अंत में एक साथ प्राप्त होते हैं। proxy_read_timeout बिना upstream डेटा के लंबे अंतराल को कवर करता है: 60 सेकंड का डिफ़ॉल्ट मान WebSocket को डिस्कनेक्ट कर सकता है और upstream timed out (110: Connection timed out) लॉग कर सकता है, लेकिन v0.9.19 डिस्कनेक्ट होने के बाद भी एजेंट के कार्य को चालू रखता है। एक स्पष्ट cancel कमांड कार्य को रोक देता है।
Proxy के पीछे JWT auth कैसे काम करता है
Octop कुकी के बजाय bearer token के साथ authenticate करता है। POST /api/auth/login, {access_token, token_type, expires_in, user} लौटाता है और बाद की कॉल्स Authorization: Bearer <access_token> को साथ लेकर चलती हैं। एक reverse proxy के लिए यह अच्छी खबर है: इसमें कोई cookie domain, Secure flag या SameSite rule गलत होने की संभावना नहीं होती, इसलिए जो session http://127.0.0.1:8088 पर काम करता था, वह https://octop.example.com पर भी वैसा ही व्यवहार करता है।
असली users को इस पर लाने से पहले दो परिणामों के बारे में जानना जरूरी है।
WebSocket URL में टोकन ले जाता है। endpoint WS /api/agents/{id}/chat/ws?token=<jwt> है, क्योंकि browser JavaScript, WebSocket handshake पर Authorization header सेट नहीं कर सकता। TLS transit के दौरान उस टोकन की सुरक्षा करता है। यह इसे आपके अपने logs से सुरक्षित नहीं रखता: nginx डिफ़ॉल्ट रूप से पूरी request line, जिसमें query string भी शामिल है, को access_log में लिखता है, इसलिए एक असली user का काम करने वाला टोकन सर्वर पर एक plaintext फ़ाइल में चला जाता है। arguments के बिना path को log करें। $uri वह normalized path है जिसमें से query string पहले ही हटा दी गई है, इसलिए इसे http block में रखें और server से इसे reference करें:
log_format octop_noargs '$remote_addr [$time_local] '
'"$request_method $uri $server_protocol" '
'$status $body_bytes_sent';
access_log /var/log/nginx/octop.log octop_noargs;v0.9.19 में Logout टोकन को revoke नहीं करता है। OCTOP_ACCESS_TOKEN_TTL डिफ़ॉल्ट रूप से 86400 पर सेट होता है, इसलिए login के बाद टोकन 24 घंटे तक वैध रहता है। इसे अमान्य करने का एकमात्र documented तरीका octop admin rotate-jwt-secret है, जो ~/.octop/secrets/jwt_secret पर संग्रहीत signing key को rotate करता है और सभी के लिए हर सक्रिय टोकन को तुरंत अमान्य कर देता है। इसलिए जब कोई टीम छोड़ता है, तो प्रक्रिया यह है: user को delete करें, secret को rotate करें, और फिर बाकी users को दोबारा login करने के लिए कहें। यदि यह भारी लगता है, तो lifetime को कम कर दें, और variable को environment: list के साथ-साथ .env में भी जोड़ना याद रखें:
OCTOP_ACCESS_TOKEN_TTL=28800Brute force को संभाला गया है: OCTOP_LOGIN_MAX_ATTEMPTS डिफ़ॉल्ट रूप से 5 विफलताओं पर और OCTOP_LOGIN_LOCKOUT_SECONDS 900 पर सेट है, इसलिए locked-out user को टूटे हुए install को देखने के बजाय केवल पंद्रह मिनट प्रतीक्षा करनी पड़ती है। Octop का अपना user store है और v0.9.19 में कोई documented OIDC support नहीं है, इसलिए यदि आपको वास्तविक single sign-on की आवश्यकता है, तो इसके सामने एक authenticating proxy लगाएँ, जिसके लिए a self-hosted Authentik server का उपयोग किया जाता है। Built-in OIDC support 15 अगस्त 2026 को v0.9.24 में आया।
Octop को एक मॉडल बैकएंड पर पॉइंट करना
Providers को डैशबोर्ड में प्रत्येक एजेंट के लिए कॉन्फ़िगर किया जाता है, और octop provider list आपको दिखाता है कि क्या सेट है। Octop में OpenAI-compatible APIs, DashScope (Qwen) और Ollama के लिए प्रीसेट आते हैं, और क्रेडेंशियल्स आपके अपने SQLite डेटाबेस की providers टेबल में स्टोर होते हैं। आपके द्वारा चुना गया विकल्प यह तय करता है कि आप क्या भुगतान करते हैं और क्या डेटा सर्वर से बाहर जाता है।
Ollama के साथ एक लोकल मॉडल। सर्वर से कुछ भी बाहर नहीं जाता है, और आप टोकन के बजाय RAM में भुगतान करते हैं। वायरिंग का वह विवरण जो अक्सर लोगों को उलझाता है: एक कंटेनर 127.0.0.1:11434 पर होस्ट के Ollama तक नहीं पहुँच सकता, क्योंकि वह पता कंटेनर का अपना लूपबैक होता है। सर्विस में एक होस्ट गेटवे एंट्री जोड़ें:
extra_hosts:
- "host.docker.internal:host-gateway"फिर प्रोवाइडर बेस URL को http://host.docker.internal:11434/v1 पर सेट करें, जो Ollama का OpenAI-compatible पाथ है, और API की फील्ड में कोई भी नॉन-एम्प्टी स्ट्रिंग डालें, क्योंकि Ollama इसे इग्नोर करता है लेकिन OpenAI क्लाइंट्स खाली फील्ड भेजने से मना कर देते हैं। इसके काम करने के लिए Ollama को लूपबैक के बाहर भी लिसन करना चाहिए, जिसका अर्थ है इसकी systemd यूनिट में OLLAMA_HOST=0.0.0.0:11434। यह जोखिम भरा हिस्सा है: Ollama के लोकल API को किसी ऑथेंटिकेशन की आवश्यकता नहीं होती, इसलिए पब्लिक IP पर खुला 11434 पोर्ट किसी के लिए भी एक मुफ्त मॉडल सर्वर बन सकता है जो इसे पहले स्कैन करेगा। केवल Docker की प्राइवेट रेंज, sudo ufw allow from 172.16.0.0/12 to any port 11434 proto tcp को अनुमति दें, और बाकी को डिनाई करें। VPS पर Ollama चलाना मॉडल साइजिंग को कवर करता है, और Ollama और vLLM की तुलना यह बताती है कि Ollama कब सही सर्वर नहीं रह जाता।
लोकल-मॉडल के लिए एक और चेतावनी, क्योंकि यह Octop में बग जैसा दिखता है लेकिन है नहीं। एजेंट टूल्स को कॉल करके काम करते हैं, और सिस्टम प्रॉम्प्ट के साथ टूल डेफिनिशन और हिस्ट्री मिलकर एक बड़ा प्रॉम्प्ट बनाते हैं। Ollama की डिफ़ॉल्ट कॉन्टेक्स्ट विंडो अब VRAM पर निर्भर करती है: 24 GiB से कम पर 4k, 24 GiB से 48 GiB से कम तक 32k, और 48 GiB या उससे अधिक पर 256k। इसका वर्तमान मार्गदर्शन एजेंटों और कोडिंग टूल्स के लिए कम से कम 64,000 टोकन की सिफारिश करता है। उस वर्कलोड को मॉडल के समर्थित कॉन्टेक्स्ट और उपलब्ध मेमोरी के भीतर फिट करने के लिए num_ctx सेट करें, और ऐसा मॉडल चुनें जो फंक्शन कॉलिंग में वास्तव में अच्छा हो। वाक्य के बीच में रुक जाने वाला उत्तर एक विपरीत समस्या है और इसके लिए एक अलग सेटिंग, num_predict है, इसलिए यदि उत्तर अधूरे आते हैं तो यह चेक करना कि num_predict कहाँ सेट है और done_reason क्या कहता है एजेंट को दोष देने से पहले उचित है। यदि आप शॉर्टलिस्ट के बजाय किसी विशिष्ट कैंडिडेट से शुरुआत करना चाहते हैं, तो Nemotron 3.5 Lightning आज़माने लायक है, और वह लेख पुल करने के लिए सटीक टैग, आवश्यक RAM, और यह बताता है कि क्या केवल CPU इसे संभाल सकता है।
एक सेल्फ-होस्टेड गेटवे। Octop और बाकी सब के बीच एक सेल्फ-होस्टेड LiteLLM गेटवे रखें और आपको एक बेस URL, प्रति उपयोगकर्ता एक अलग की, खर्च की सीमाएं और एक सिंगल लॉग मिलेगा। आप Octop में कुछ भी एडिट किए बिना इसके पीछे का मॉडल भी बदल सकते हैं।
एक पेड API। सर्वोत्तम गुणवत्ता, एक ईमानदार ट्रेडऑफ़ के साथ: बातचीत की सामग्री आपके सर्वर से बाहर निकलकर प्रोवाइडर तक पहुँचती है, जो कि सेल्फ-होस्टिंग का मुख्य उद्देश्य होता है। की को docker/.env में OPENAI_API_KEY के रूप में डालें, जिसे Compose फ़ाइल पहले से ही पास करती है।
आप जो भी चुनें, Compose फ़ाइल में OCTOP_LANGFUSE_ENABLED, LANGFUSE_PUBLIC_KEY, LANGFUSE_SECRET_KEY और LANGFUSE_BASE_URL भी होते हैं, ताकि आप अपने स्वयं के Langfuse इंस्टेंस पर ट्रेस भेज सकें और यह देख सकें कि एजेंट वास्तव में क्या कर रहे हैं, बजाय इसके कि चैट विंडो से अनुमान लगाएं।
Users, roles, और shared agent library
प्रथम boot के समय बना admin account अन्य accounts को बनाता और प्रबंधित करता है। प्रत्येक user को अपने स्वयं के agents, workspace और credentials मिलते हैं, और यह अलगाव browser में मौजूद token द्वारा सुनिश्चित किया जाता है। इसके साथ ही, इसमें expert templates और instance-level skill packages भी शामिल होते हैं। अन्य users के साथ अपने agents साझा करने की सुविधा v0.9.24 में आई है, जो यहाँ दी गई version से बाद की है।
Tooling का उपयोग करते समय सावधानी बरतें। Octop tool approval और shell command guardrails की सुविधा देता है, और ये दोनों प्रभावी हैं, लेकिन जो agent shell commands चलाता है, वह उन्हें आपके data volume के mount होने के साथ Octop container के भीतर चलाता है। Guardrails एक लापरवाह prompt द्वारा होने वाले नुकसान को कम करते हैं। ये sandbox boundary नहीं हैं, इसलिए यदि आप किसी व्यक्ति को shell का access नहीं देना चाहते हैं, तो उनके लिए tool approval को चालू रखें। यदि आप इसकी तुलना अन्य विकल्पों से कर रहे हैं, तो self-hosted AI agents का सारांश यह तुलना करता है कि प्रत्येक विकल्प इसे कैसे संभालता है।
इतनी तेजी से अपडेट होने वाले प्रोजेक्ट को अपग्रेड करना
इस चार्ट के पीछे का डेटा
[
{
"version": "v0.9.16",
"days_since_previous_release": 2
},
{
"version": "v0.9.17",
"days_since_previous_release": 3
},
{
"version": "v0.9.18",
"days_since_previous_release": 1
},
{
"version": "v0.9.19",
"days_since_previous_release": 3
}
]ये repository से ली गई tag तिथियाँ हैं, जिनकी गणना 7 August 2026 तक की गई है। नौ दिनों में 4 tagged releases आए हैं, जिसमें दो releases के बीच का अंतर 1 दिन जितना कम रहा है, और v0.9.19 अपने पिछले tag के 3 दिन बाद आया है। यह गति प्रोजेक्ट के लिए एक अच्छा संकेत है, लेकिन latest चलाने के लिए एक बुरा कारण है। बदलावों को लागू करने से पहले उन्हें पढ़ें:
cd Octop
git fetch --tags
git tag --sort=-creatordate | head
NEW_TAG=$(git tag --sort=-creatordate | head -1)
git log --oneline "v0.9.19..$NEW_TAG"चेकआउट करने से पहले यह देखें कि $NEW_TAG में वास्तव में क्या है, क्योंकि प्रोजेक्ट stable releases के साथ-साथ v1.0.2b9 जैसे betas को भी tag करता है। 20 November 2026 तक, सबसे नया tag v1.0.3b7 है, जिसे 18 November 2026 को प्रकाशित किया गया था; नवीनतम stable release अभी भी v1.0.2 है, जिसे 18 October 2026 को प्रकाशित किया गया था। v0.9.19 से छलांग 14 September 2026 के v1.0.0 release को पार करती है, इसलिए वह log लंबा है और उसे ध्यान से पढ़ना आवश्यक है।
हर बार, सबसे पहले बैकअप लें, क्योंकि database migrations स्टार्टअप पर चलते हैं और इतनी तेजी से अपडेट होने वाले प्रोजेक्ट पर एक विफल migration को ठीक करना आपकी जिम्मेदारी है:
docker compose -f docker/docker-compose.yml stop
sudo tar czf octop-backup-$(date +%F).tgz -C /srv octop-data
docker compose -f docker/docker-compose.yml startइसके बाद नए tag को चेकआउट करें और docker compose -f docker/docker-compose.yml up -d --build के साथ rebuild करें। यदि कुछ गलत हो जाता है, तो पुराने tag को चेकआउट करके rebuild करने से कोड वापस आ जाता है, लेकिन केवल tarball ही database को वापस ला सकता है।
उस tarball में octop.db, config.json, JWT signing secret और credential.txt होते हैं, इसलिए यह सर्वर जितना ही संवेदनशील है। इसे mode 600 पर रखें और इसकी एक प्रति सर्वर से बाहर सुरक्षित रखें। बड़े इंस्टॉलेशन के लिए प्रोजेक्ट docker/docker-compose.postgres.yml भी प्रदान करता है, जो SQLite के बजाय pgvector के साथ PostgreSQL चलाता है।
विफलता के प्रकार और उनसे संबंधित त्रुटि संदेश
हेल्थ चेक का कोई उत्तर नहीं मिलता। curl http://127.0.0.1:8088/api/health हैंग हो जाता है या कनेक्शन अस्वीकार कर देता है। docker compose -f docker/docker-compose.yml logs -f octop पढ़ें। जो कंटेनर शुरुआती इनिशियलाइजेशन के दौरान बंद हो जाता है, वह आमतौर पर डेटा डायरेक्टरी में लिख नहीं पाता है, इसलिए उस पाथ की ओनरशिप जाँचें जिसे आपने OCTOP_DATA में सेट किया है।
डैशबोर्ड लोड होता है लेकिन चैट कनेक्ट नहीं हो पाती। v0.9.19 में विफल WebSocket हैंडशेक स्ट्रीमिंग स्थिति को समाप्त कर देता है। ब्राउज़र कंसोल खोलें और wss://octop.example.com/api/agents/.../chat/ws पर विफल कनेक्शन देखें। सुनिश्चित करें कि प्रॉक्सी अपग्रेड रिक्वेस्ट को फॉरवर्ड कर रहा है। proxy_http_version 1.1 जोड़ें और Upgrade तथा Connection हेडर कॉन्फ़िगर करें।
पूरा उत्तर एक साथ, कई सेकंड की देरी से आता है। स्ट्रीमिंग काम कर रही है, लेकिन बफरिंग चालू है। proxy_buffering off सेट करें।
bind: address already in use। कोई अन्य प्रक्रिया पहले से ही 8088 पोर्ट का उपयोग कर रही है। sudo ss -tlnp | grep 8088 उस प्रक्रिया का नाम बताता है। यदि आपने मूल फाइल को एडिट करने के बजाय ओवरराइड फाइल में दूसरी ports एंट्री जोड़ दी है, तो भी यही त्रुटि मिलती है।
सही पासवर्ड अस्वीकार कर दिया जाता है। पांच गलत प्रयासों के बाद 900 सेकंड का लॉकआउट लग जाता है। रीइंस्टॉल करने के बजाय प्रतीक्षा करें।
.env में नया पासवर्ड डालने का कोई प्रभाव नहीं पड़ा। वे क्रेडेंशियल्स केवल पहली बार इनिशियलाइजेशन के समय लागू होते हैं। इसे डैशबोर्ड के भीतर बदलें।
एजेंट उत्तर देता है लेकिन कोई टूल नहीं चलाता। लोकल मॉडल का कॉन्टेक्स्ट एलोकेशन और फंक्शन कॉलिंग के लिए उसका सपोर्ट जाँचें। Ollama अब एजेंट वर्कलोड के लिए कम से कम 64,000 टोकन की सिफारिश करता है; ऐसा मॉडल और मेमोरी बजट चुनें जो इसका समर्थन करता हो।
FAQ
क्या Octop, Open WebUI का विकल्प है?
केवल तभी, यदि आपको उन सुविधाओं की आवश्यकता है जो यह जोड़ता है। Open WebUI कई उपयोगकर्ताओं, भूमिकाओं और एक्सेस कंट्रोल का समर्थन करता है। Octop खातों को एडमिन भूमिका, प्रति-उपयोगकर्ता वर्कस्पेस और क्रेडेंशियल्स, और विशेषज्ञ एजेंटों की एक स्विच करने योग्य लाइब्रेरी के साथ जोड़ता है, ताकि कई लोग एक ही इतिहास साझा किए बिना एक सर्वर का उपयोग कर सकें। यदि आपके लिए एक ही खाता पर्याप्त है, तो Open WebUI एक सरल और कहीं अधिक परिपक्व विकल्प है।
मुझे Octop के curl इंस्टॉल स्क्रिप्ट का उपयोग क्यों नहीं करना चाहिए?
v0.9.19 का वन-लाइन कमांड Tencent Cloud Object Storage बकेट से एक स्क्रिप्ट लाता है, बिना उसकी सामग्री को किसी git टैग या कमिट से पिन किए। रिपॉजिटरी में scripts/install.sh पर एक वर्शन्ड कॉपी मौजूद है, लेकिन रिमोट कॉपी को सीधे bash में पाइप करने से वह आपके पढ़ने से पहले ही रन हो जाती है। यह आपके पैकेज मैनेजर के बाहर, अपने स्वयं के Python 3.12 वातावरण के साथ होस्ट पर इंस्टॉल हो जाता है। इसे पहले डाउनलोड करके पढ़ें, या चेक-आउट किए गए टैग से Docker Compose के साथ डिप्लॉय करें।
क्या Octop भुगतान किए गए API के बजाय स्थानीय मॉडल का उपयोग कर सकता है?
हाँ। Octop OpenAI-संगत API का उपयोग करता है और एक Ollama प्रीसेट के साथ आता है, इसलिए इसे http://host.docker.internal:11434/v1 पर पॉइंट करना काम करता है, बशर्ते आप कंटेनर में extra_hosts: ["host.docker.internal:host-gateway"] जोड़ें और होस्ट पर OLLAMA_HOST=0.0.0.0:11434 सेट करें। फायरवॉल पोर्ट 11434 को Docker के एड्रेस रेंज के लिए खोलें, क्योंकि Ollama के स्थानीय API को किसी प्रमाणीकरण की आवश्यकता नहीं होती है। आवंटित कॉन्टेक्स्ट विंडो की जाँच करें: Ollama के डिफॉल्ट अब VRAM के अनुसार बदलते हैं, और इसका वर्तमान मार्गदर्शन एजेंट वर्कलोड के लिए कम से कम 64,000 टोकन की सिफारिश करता है, जो मॉडल के समर्थित कॉन्टेक्स्ट और उपलब्ध मेमोरी के भीतर हो।
क्या मुझे reverse proxy की आवश्यकता है, या मैं पोर्ट 8088 खोल सकता हूँ?
आपको प्रॉक्सी की आवश्यकता है। Octop की दी गई Compose फाइल बिना TLS के हर इंटरफेस पर 8088 पब्लिश करती है, इसलिए पासवर्ड और बेयरर टोकन इंटरनेट पर प्लेनटेक्स्ट में चले जाएंगे। पब्लिश किए गए पोर्ट को 127.0.0.1:8088:8088 में बदलें और सामने Caddy या nginx को सर्टिफिकेट के साथ रखें। nginx के साथ, WebSocket अपग्रेड हेडर को फॉरवर्ड करें और proxy_buffering off सेट करें: एक विफल अपग्रेड चैट को कनेक्ट होने से रोकता है, जबकि बफरिंग HITL रिज्यूम स्ट्रीम में देरी करती है। v0.9.19 में एक विफल हैंडशेक स्ट्रीमिंग स्थिति को समाप्त कर देता है, और डिस्कनेक्ट होने पर सक्रिय एजेंट टास्क रद्द नहीं होता है।
क्या Octop प्रोडक्शन के लिए तैयार है?
अगस्त 2026 तक यह 1.0 से पहले का संस्करण था और प्रति सप्ताह कई टैग किए गए रिलीज जारी कर रहा था। इसने 14 सितंबर 2026 को v1.0.0 टैग किया, फिर 18 अक्टूबर 2026 को स्थिर v1.0.2 से पहले 1.0.2 बीटा टैग की एक श्रृंखला जारी की। 20 नवंबर 2026 तक, सबसे नया टैग v1.0.3b7 है, जिसे 18 नवंबर 2026 को प्रकाशित किया गया था, जबकि v1.0.2 नवीनतम स्थिर रिलीज बना हुआ है। यह गति अभी भी तेज है, इसलिए इसे स्थापित के बजाय आशाजनक मानें। यदि आप एक सटीक टैग पिन करते हैं, प्रत्येक अपग्रेड से पहले कमिट लॉग पढ़ते हैं, और हर रीबिल्ड से पहले डेटा वॉल्यूम का बैकअप लेते हैं, तो यह एक परिवार या छोटी आंतरिक टीम के लिए काम करने योग्य है। इसे latest पर न चलाएं, और अभी इसमें ग्राहकों का डेटा न रखें।