VPSలో Difyని Docker Composeతో సెల్ఫ్-హోస్ట్ చేయడం

Dify అంటే ఏమిటి, మరియు మీరు నడపడానికి ఏంటో సంతకం చేస్తున్నారు

Dify అనేది పెద్ద భాషా మోడల్‌ల ఆధారంగా అప్లికేషన్‌లను రూపొందించడానికి ఉపయోగించే స్వయం-హోస్టింగ్ ప్లాట్‌ఫారమ్. చాట్ యాప్‌లు, ఏజెంట్‌లు మరియు డేటా రిట్రీవల్ పైప్‌లైన్‌లను రూపొందించడానికి మీకు ఒక వెబ్ ఇంటర్‌ఫేస్ లభిస్తుంది. మీ స్వంత కోడ్ నుండి వాటిని పిలవడానికి ఒక API ఉంటుంది. ప్రాంప్ట్‌లు, డేటాసెట్‌లు మరియు మోడల్ కీలను నిర్వహించడానికి ఒకే స్థలం ఉంటుంది. ఇది ఒక చిన్న బృందం ఉపయోగించే రకం సాధనం. అందరూ ఒకే భాగస్వామ్య ప్రైవేట్ బేస్‌పై పనిచేస్తారు. స్క్రిప్ట్‌లలో API కీలను చెదరగొట్టరు.

దీనిని మీరే నడపడం అంటే అనేక భాగాలను నడపడం అని అర్థం. Dify అనేది Docker కంటైనర్‌ల సమితిగా వస్తుంది: ఒక API సర్వర్, ఒక బ్యాక్‌గ్రౌండ్ వర్కర్, ఒక వెబ్ ఫ్రంటెండ్, ఒక Postgres డేటాబేస్, ఒక Redis క్యాష్, మరియు ఒక వెక్టర్ డేటాబేస్. ఇవన్నీ Docker Composeతో అనుసంధానించబడి ఉంటాయి. ఇది ఒకే బైనరీ కంటే ఎక్కువ. అయితే, అనుసంధానాన్ని Compose నిర్వహిస్తుంది. కొన్ని గిగాబైట్‌ల RAM ఖాళీ ఉన్న VPS దీనిని సులభంగా నడుపుతుంది.

Dify మీ మోడల్ API కీలను కలిగి ఉంటుంది. తరచుగా, రిట్రీవల్ కోసం మీరు లోడ్ చేసిన ప్రైవేట్ పత్రాలను కూడా కలిగి ఉంటుంది. కాబట్టి, దీని అమలు మొదలైన మొదటి నిమిషం నుండి దాని సర్వర్‌ను సున్నితమైనదిగా పరిగణించండి. ఈ గైడ్ దానిని ఇన్‌స్టాల్ చేస్తుంది. తర్వాత రహస్యాలను కలిగి ఉన్న ఏ సర్వీస్‌నైనా మీరు సురక్షితం చేసే విధంగా దీనిని కూడా సురక్షితం చేస్తుంది.

ముందస్తు అవసరాలు

మీకు Ubuntu 24.04తో నడుస్తున్న ఒక VPS కావాలి. దానిలో Docker మరియు Docker Compose ప్లగిన్ ఇన్‌స్టాల్ అయి ఉండాలి. sudo హక్కులు లేదా docker గ్రూప్ సభ్యత్వం ఉన్న ఒక యూజర్ కావాలి. Docker మీకు కొత్త అయితే, VPSలో Docker Compose ప్రాథమికాలు అనేది ఇన్‌స్టాలేషన్ మరియు ప్రధాన కమాండ్‌లను వివరిస్తుంది. ఈ గైడ్ వాటిని పూర్తిగా తెలుసుకున్నారని భావిస్తుంది. సర్వర్‌ను సూచిస్తున్న ఒక డొమైన్ పేరు ఉండటం మంచిది. ఎందుకంటే బేర్ IP చిరునామా కంటే Dify ముందు TLS కావాలి.

దశ 1: Dify మరియు దాని Compose ఫైళ్లను పొందండి

Dify దాని Docker సెటప్‌ను ప్రధాన రిపోజిటరీలో ఉంచుతుంది. దానిని క్లోన్ చేసి docker డైరెక్టరీలోకి వెళ్లండి:

git clone https://github.com/langgenius/dify.git
cd dify/docker
cp .env.example .env

.env ఫైల్ మొత్తం కాన్ఫిగరేషన్. ఏదైనా ప్రారంభించడానికి ముందు దీన్ని చదవండి. మొదట ముఖ్యమైన విలువలు పాస్‌వర్డ్‌లు మరియు రహస్యాలను సెట్ చేసేవి: SECRET_KEY, Postgres పాస్‌వర్డ్, మరియు Redis పాస్‌వర్డ్. ఉదాహరణ ఫైలు ప్లేస్‌హోల్డర్ విలువలతో వస్తుంది. వాటిని అలాగే వదిలేయడం అనేది స్వయం-హోస్ట్ చేసిన Dify దెబ్బతినడం అత్యంత సాధారణ మార్గం. నిజమైన రహస్య కీని ఉత్పత్తి చేయండి:

openssl rand -base64 42

దానిని SECRET_KEYలో అతికించండి. ఫైల్‌లోని ప్రతి పాస్‌వర్డ్ ఫీల్డ్‌కు బలమైన, ప్రత్యేకమైన విలువను సెట్ చేయండి.

దశ 2: దానిని ప్రారంభించండి

స్టాక్‌ను ప్రారంభించండి:

docker compose up -d

మొదటి రన్ అనేక ఇమేజ్‌లను పుల్ చేస్తుంది మరియు డేటాబేస్‌ను ప్రారంభిస్తుంది. కాబట్టి దానికి ఒక నిమిషం సమయం ఇవ్వండి. కంటైనర్‌లు ఆరోగ్యంగా ఉన్నాయో లేదో తనిఖీ చేయండి:

docker compose ps

ప్రతి సర్వీస్ running అని చూపించాలి. Dify అనేది పోర్ట్ 80పై డిఫాల్ట్‌గా బండిల్డ్ nginx కంటైనర్ ద్వారా తన వెబ్ ఇంటర్‌ఫేస్‌ను అందిస్తుంది. మీ మొదటి సందర్శనలో http://YOUR_SERVER/install వద్ద మీరు అడ్మిన్ ఖాతాను సృష్టిస్తారు. మరేదైనా పోర్ట్‌ను చేరుకునే ముందు దానిని వెంటనే చేయండి. ఎందుకంటే ఆ ఖాతా ఉనికిలో ఉండే వరకు పేజీని లోడ్ చేసే ఎవరైనా దానిని స్వంతం చేసుకోవచ్చు మరియు మీ ఇన్‌స్టాన్స్‌ను నియంత్రించవచ్చు.

దశ 3: దానిని ముడిగా బహిర్గతం చేయవద్దు. ముందు TLS మరియు ఫైర్‌వాల్ ఉంచండి

చాలా త్వరిత ఇన్‌స్టాలేషన్‌లు ఇక్కడే ఆగిపోతాయి. చాలా ఘటనలు ఇక్కడే మొదలవుతాయి. Dify యొక్క స్వంత nginx పోర్ట్ 80పై వింటూ ఉంటుంది. అది స్పష్టమైన HTTPలో, ప్రతి ఇంటర్‌ఫేస్‌పై ఉంటుంది. మీ అడ్మిన్ లాగిన్ మరియు మీ మోడల్ కీలు సాధారణ HTTP ద్వారా ప్రయాణించాలని మీరు కోరరు. అంతర్గత సర్వీస్‌లు బయట నుండి చేరుకోగలగాలని కూడా మీరు కోరరు.

బాక్స్‌ను డిఫాల్ట్-డినై ఫైర్‌వాల్‌తో లాక్ చేయండి. అది SSH మరియు వెబ్ ట్రాఫిక్‌ను మాత్రమే అనుమతిస్తుంది:

sudo ufw default deny incoming
sudo ufw allow 22/tcp
sudo ufw allow 80/tcp
sudo ufw allow 443/tcp
sudo ufw enable

IPv4 మాత్రమే కవర్ చేసే ఫైర్‌వాల్ అదే పోర్ట్‌లను IPv6పై తెరిచే ఉండవచ్చని గుర్తుంచుకోండి. ఇది చాలా మంది స్వయం-హోస్టర్‌లను బాధించే IPv6 ఫైర్‌వాల్ గ్యాప్. రెండు స్టాక్‌లు ఫిల్టర్ చేయబడ్డాయో నిర్ధారించుకోండి.

TLS కోసం, స్వచ్ఛమైన మార్గం Dify యొక్క వెబ్ పోర్ట్‌ను లూప్‌బ్యాక్‌కు బైండ్ చేయడం. ముందు భాగంలో Let's Encrypt సర్టిఫికేట్‌తో ఒక రివర్స్ ప్రాక్సీని నడపడం. దీనివల్ల పబ్లిక్ ఇంటర్నెట్‌లో ఉన్న ఏకైక విషయం HTTPS మాట్లాడే ప్రాక్సీ. Dify యొక్క .env మీరు బహిర్గతమైన పోర్ట్‌ను మార్చడానికి అనుమతిస్తుంది. దానిని 127.0.0.1కి బైండ్ చేయడానికి సెట్ చేయండి మరియు మీ ప్రాక్సీని దాని వైపు సూచించండి. VPSలో AI ఏజెంట్‌ను సురక్షితంగా నడపడంలోని ఏజెంట్-హార్డెనింగ్ ఆలోచనలు ఇక్కడ కూడా వర్తిస్తాయి: కదిలే భాగాలను లూప్‌బ్యాక్‌పై ఉంచండి, పబ్లిక్‌గా ఉండాల్సిన వాటిని మాత్రమే బహిర్గతం చేయండి, మరియు ఒక హార్డెన్డ్ ఫ్రంట్ డోర్ TLS మాట్లాడనివ్వండి.

దశ 4: దానిని ప్యాచ్ చేసి ఉంచండి

Dify వేగంగా అభివృద్ధి చెందుతుంది. అప్‌డేట్‌లలో భద్రతా పరిష్కారాలు ఉంటాయి. అప్‌డేట్ చేయడం అనేది docker డైరెక్టరీ నుండి ఒక పుల్ మరియు రీస్టార్ట్:

git pull
docker compose pull
docker compose up -d

పెద్ద వెర్షన్ జంప్‌కు ముందు రిలీజ్ నోట్స్ చదవండి. ఎందుకంటే Dify అప్పుడప్పుడు రిలీజ్‌ల మధ్య .env స్కీమాను మారుస్తుంది. మీరు సెట్ చేయని కొత్త వేరియబుల్ ఒక కంటైనర్ ప్రారంభం కాకుండా ఆపవచ్చు.

దశ 5: మీరు తిరిగి ఉత్పత్తి చేయలేని వాటిని బ్యాకప్ చేయండి

Dify బాక్స్‌లో రెండు విషయాలు భర్తీ చేయలేనివి: Postgres డేటాబేస్, ఇది మీ యాప్‌లు, యూజర్‌లు మరియు సెట్టింగ్‌లను కలిగి ఉంటుంది. మరియు అప్‌లోడ్ చేసిన పత్రాలు మరియు వెక్టర్ ఇండెక్స్‌ను నిల్వ చేసే వాల్యూమ్. రెండూ docker డైరెక్టరీలో Docker వాల్యూమ్‌ల కింద ఉంటాయి. వాటిని ఒక షెడ్యూల్‌పై స్నాప్‌షాట్ చేయండి. స్నాప్‌షాట్‌లను సర్వర్ నుండి బయటకు కాపీ చేయండి. ఒక మోడల్ API కీని తిరిగి జారీ చేయవచ్చు. మీరు ఒక వారం పాటు కష్టపడి రూపొందించిన యాప్‌ను కాదు.

మరింత స్వయంప్రతిపత్తి కలిగిన, కోడ్-రన్నింగ్ ఏజెంట్ కోసం, Agent Zero స్వయం-హోస్టింగ్ చూడండి. మరియు VPSలో మీ స్వంత AI ఏజెంట్‌ను రూపొందించడం అనేది వాటన్నింటి కింద ఉన్న పునాదులను కవర్ చేస్తుంది.

FAQ

Dify స్వయం-హోస్ట్ చేయడానికి సిస్టమ్ అవసరాలు ఏమిటి?

Dify అనేది దాదాపు ఆరు కంటైనర్‌ల Docker Compose స్టాక్‌గా నడుస్తుంది. కాబట్టి కనీసం 2 GB RAM ఖాళీ ఉన్న VPS కోసం ప్రణాళిక చేయండి. ఆదర్శవంతంగా 4 GB. అంతేకాకుండా కొన్ని CPU కోర్‌లు మరియు మీ అప్‌లోడ్ చేసిన పత్రాలు మరియు వెక్టర్ ఇండెక్స్‌కు సరిపోయేంత డిస్క్ కావాలి. మెమరీ ఒత్తిడి డేటాబేస్ మరియు వెక్టర్ స్టోర్ నుండి వస్తుంది. Dify నుండి కాదు.

Dify ను నేరుగా పోర్ట్ 80పై బహిర్గతం చేయడం సురక్షితమేనా?

లేదు. Dify యొక్క బండిల్డ్ వెబ్ సర్వర్ సాధారణ HTTPపై వింటూ ఉంటుంది. అది మీ అడ్మిన్ లాగిన్ మరియు మీ మోడల్ API కీల ముందు భాగంలో ఉంటుంది. ముందు భాగంలో Let's Encrypt సర్టిఫికేట్‌తో ఒక రివర్స్ ప్రాక్సీని ఉంచండి. Dify యొక్క స్వంత పోర్ట్‌ను లూప్‌బ్యాక్‌కు బైండ్ చేయండి. HTTPS ప్రాక్సీ మాత్రమే ఇంటర్నెట్‌ను ఎదుర్కోనివ్వండి. దానితో పాటు IPv4 మరియు IPv6 రెండింటినీ కవర్ చేసే డిఫాల్ట్-డినై ఫైర్‌వాల్‌ను జతపరచండి.

స్వయం-హోస్ట్ చేసిన Dify ను నేను ఎలా అప్‌డేట్ చేస్తాను?

docker డైరెక్టరీ నుండి, git pull రన్ చేయండి. తర్వాత కొత్త ఇమేజ్‌లను పొందడానికి మరియు రీస్టార్ట్ చేయడానికి docker compose pull మరియు docker compose up -d రన్ చేయండి. ముందుగా రిలీజ్ నోట్స్ చదవండి. ఎందుకంటే Dify కొన్నిసార్లు వెర్షన్‌ల మధ్య కొత్త .env వేరియబుల్‌లను జోడిస్తుంది. లేని ఒక వేరియబుల్ ఒక కంటైనర్ ప్రారంభం కాకుండా ఆపవచ్చు.

Dify ఇన్‌స్టాల్ చేసిన తర్వాత చేయాల్సిన మొదటి పని ఏమిటి?

/install సందర్శించండి మరియు అడ్మిన్ ఖాతాను వెంటనే సృష్టించండి. ఆ ఖాతా ఉనికిలో ఉండే వరకు, పేజీని చేరుకోగల ఎవరైనా దానిని స్వంతం చేసుకోవచ్చు. కంటైనర్‌లు ఆరోగ్యంగా ఉన్న క్షణంలోనే దానిని సెటప్ చేయండి. మరియు మీరు ఫైర్‌వాల్‌ను ప్రపంచానికి తెరిచే ముందు చేయండి.