SSD Nodes Learn Hosting plans →
คู่มือ Matt Connorโดย Matt Connor · อัปเดตเมื่อ 2026-10-23

Self-host Claude ได้หรือไม่? สรุปคำตอบและทางเลือกแทน

Anthropic ไม่เปิดเผย model weights ทำให้ไม่สามารถ self-host Claude ได้โดยตรง บทความนี้อธิบายเหตุผลและแนะนำวิธีรัน Open Models, การใช้ API Gateway และ Claude Code บนเซิร์ฟเวอร์ของคุณเอง

คุณสามารถ self-host Claude ได้หรือไม่? คำตอบคือไม่ได้ และนี่คือเหตุผล

คุณไม่สามารถ self-host Claude ได้ เนื่องจาก Anthropic ไม่ได้เผยแพร่ model weights จึงไม่มีไฟล์ให้ดาวน์โหลด ไม่มี container ให้รัน และไม่มีใบอนุญาตใดที่อนุญาตให้คุณให้บริการโมเดลนี้จากฮาร์ดแวร์ของคุณเอง คำขอใช้งาน Claude ทุกรายการจะถูกส่งไปยัง API ของ Anthropic หรือผ่านพันธมิตรที่ให้บริการอย่าง Amazon Bedrock, Google Vertex AI หรือ Microsoft Foundry การรันโมเดลบนเครื่องของคุณเองไม่ใช่ปัญหาด้านการตั้งค่า แต่เป็นเพราะตัวโมเดลไม่มีอยู่จริงนอกเหนือจากระบบของ Anthropic

นั่นคือคำตอบโดยสรุป ส่วนคำตอบที่ละเอียดกว่าคือ คนส่วนใหญ่ที่ถามคำถามนี้ไม่ได้ต้องการ model weights จริงๆ แต่ต้องการสิ่งใดสิ่งหนึ่งใน 3 อย่างต่อไปนี้ ซึ่งทั้งหมดสามารถทำได้บนเซิร์ฟเวอร์ที่คุณควบคุม: การรันโมเดลที่มีประสิทธิภาพในเครื่อง, เกตเวย์สำหรับจัดการ API keys และจำกัดค่าใช้จ่าย หรือ coding agent ที่ทำงานบนเซิร์ฟเวอร์ของคุณแทนที่จะเป็นบนแล็ปท็อป คู่มือนี้จะครอบคลุมทั้ง 3 หัวข้อพร้อมคำสั่งที่เกี่ยวข้อง

ความหมายของ "self-hosted Claude" โดยทั่วไป

ปริมาณการค้นหาคำว่า "self hosted Claude" แบ่งออกเป็นความต้องการที่แตกต่างกันหลายประการ ซึ่งจำเป็นต้องได้รับคำตอบที่แตกต่างกันออกไป

บางคนต้องการความเป็นส่วนตัว โดยไม่ต้องการให้ prompt หลุดออกไปนอกเครือข่ายของตนเอง มีเพียงการใช้โมเดลแบบ open weight ที่รันภายในเครื่องเท่านั้นที่แก้ปัญหานี้ได้ เพราะคำขอใดๆ ที่ส่งไปยัง Claude ย่อมหมายถึงการส่งข้อมูลไปยัง Anthropic โดยนิยาม

บางคนต้องการควบคุมค่าใช้จ่าย เนื่องจากกังวลว่า agent ที่ทำงานผิดพลาดจะใช้เครดิตจนหมดสิ้น การใช้ gateway สามารถแก้ปัญหานี้ได้และยังใช้งานร่วมกับ Claude ได้ ทำให้คุณยังคงได้รับคุณภาพของโมเดลในระดับเดิม

บางคนต้องการความเป็นอิสระจากแล็ปท็อป โดยต้องการให้ agent ทำงานต่อไปได้แม้จะปิดฝาพับหน้าจอแล้ว การใช้ VPS สามารถแก้ปัญหานี้ได้และ Claude Code ก็สามารถรันบน VPS ได้อย่างไม่มีปัญหา

บางคนต้องการคำว่า "self hosted OpenRouter" ซึ่งนั่นก็คือ gateway เช่นกัน และคำตอบที่ใช้กันทั่วไปคือ LiteLLM

คุณควรพิจารณาว่าความต้องการของคุณคือข้อใด เพราะแนวทางการสร้างระบบที่เหมาะสมจะแตกต่างกันไปในแต่ละกรณี

การโฮสต์ Open Model ด้วยตัวเองโดยใช้ Ollama

หากข้อกำหนดคือห้ามไม่ให้ prompt ใดๆ ออกจากเซิร์ฟเวอร์ของคุณ ให้รัน open weight model ตระกูลโมเดลที่ใช้งานได้จริงบนเซิร์ฟเวอร์เช่าในปัจจุบัน ได้แก่ Llama, Qwen, Mistral, Gemma และ DeepSeek ซึ่งทั้งหมดมีการเผยแพร่ weight ให้คุณดาวน์โหลดและนำไปรันได้

Ollama เป็นวิธีที่รวดเร็วที่สุดในการเริ่มต้น สคริปต์ติดตั้งมีเพียงบรรทัดเดียวและจะตั้งค่า systemd service บน Ubuntu ให้โดยอัตโนมัติ

curl -fsSL https://ollama.com/install.sh | sh
systemctl status ollama

systemctl status ollama ควรแสดงผลลัพธ์เป็น active (running) จากนั้นให้ดึงโมเดลมาและเริ่มสนทนาได้เลย

ollama pull qwen3:8b
ollama run qwen3:8b "Summarise what a reverse proxy does in two sentences."

คำสั่ง pull ครั้งแรกจะดาวน์โหลดข้อมูลขนาดหลายกิกะไบต์ ดังนั้นโมเดลต้องมีพื้นที่เพียงพอใน RAM หรือหน่วยความจำ GPU ก่อนที่จะตอบคำถามใดๆ ได้ กฎคร่าวๆ สำหรับโมเดลที่ทำ quantization คือ โมเดลขนาด 8 พันล้านพารามิเตอร์ต้องการพื้นที่ว่างประมาณ 6 GB, โมเดลขนาด 14 พันล้านพารามิเตอร์ต้องการประมาณ 10 GB และโมเดลขนาด 70 พันล้านพารามิเตอร์ต้องการหน่วยความจำมากกว่าที่ VPS ทั่วไปส่วนใหญ่จะมีให้ หากเซิร์ฟเวอร์มีหน่วยความจำไม่เพียงพอ กระบวนการจะถูก kernel สั่งยุติการทำงานและคุณจะพบ Error: llama runner process has terminated พร้อมข้อความ out of memory ใน dmesg ให้ตรวจสอบ free -h ก่อนที่จะสรุปว่าปัญหาเกิดจากตัวโมเดล งบประมาณหน่วยความจำเดียวกันนี้ยังเป็นตัวกำหนดว่าโมเดลจะอ่าน prompt ที่ยาวได้มากน้อยเพียงใด เนื่องจาก Ollama จะตัดข้อความส่วนที่เกินจากหน้าต่างบริบทเริ่มต้น (default window) ทิ้งไปโดยอัตโนมัติ ดังนั้น การเพิ่ม num_ctx และปรับขนาด KV cache จึงเป็นสิ่งแรกที่ต้องตรวจสอบเมื่อเอกสารยาวๆ ถูกสรุปมาเพียงครึ่งเดียว

นอกจากนี้ Ollama ยังให้บริการ HTTP API บนพอร์ต 127.0.0.1:11434 ซึ่งเป็นสิ่งที่ทำให้มันมีประโยชน์ต่อซอฟต์แวร์อื่นมากกว่าการเป็นเพียงเครื่องมือแชททั่วไป

curl http://127.0.0.1:11434/api/generate -d '{"model":"qwen3:8b","prompt":"ping","stream":false}'

หากคำขอแรกหลังจากช่วงที่ไม่มีการใช้งานใช้เวลาสามสิบวินาที ในขณะที่คำขอถัดมาตอบสนองทันที แสดงว่าไม่มีอะไรเสียหาย: Ollama จะยกเลิกการโหลดโมเดลหลังจากไม่มีการใช้งานครบห้านาที และ การคงโมเดลไว้ในหน่วยความจำด้วย keep_alive จะช่วยขจัดความล่าช้าในการโหลดซ้ำนั้น

ควรปล่อยให้พอร์ตนั้นผูกอยู่กับ localhost เท่านั้น การเปิดพอร์ต Ollama บน public IP เท่ากับเป็นการเปิด GPU ให้ใครก็ตามที่พบใช้งานได้ฟรี การตั้งค่าแบบเต็มรูปแบบ รวมถึงการใช้ systemd unit, การตรวจจับ GPU และการวาง reverse proxy ไว้ด้านหน้า ได้อธิบายไว้ใน คู่มือการรัน Ollama บน VPS หากคุณกำลังให้บริการผู้ใช้มากกว่าหนึ่งคนในเวลาเดียวกัน โปรดอ่าน การเปรียบเทียบระหว่าง Ollama และ vLLM ก่อน เนื่องจากโครงสร้างแบบ single stream ของ Ollama จะกลายเป็นคอขวดก่อนที่ฮาร์ดแวร์จะถึงขีดจำกัด

จงยอมรับความแตกต่างตามความเป็นจริง Open model ที่มีคุณภาพบน VPS ขนาดกลางนั้นมีประโยชน์อย่างแท้จริงสำหรับการสรุปข้อมูล, การจัดหมวดหมู่, การร่างเอกสาร และการสกัดข้อมูลอย่างง่าย แต่สำหรับการใช้เหตุผลหลายขั้นตอนที่ซับซ้อน, การทำงานกับ codebase ขนาดใหญ่ และการใช้เครื่องมือแบบ agentic นั้น โมเดลเหล่านี้ยังห่างไกลจากโมเดลระดับแนวหน้าที่โฮสต์โดยผู้ให้บริการ และไม่มีการปรับแต่ง prompt ใดที่จะลดช่องว่างนั้นได้ ให้เลือกใช้ local model สำหรับงานที่เหมาะสม และจ่ายเงินใช้บริการโมเดลที่โฮสต์ไว้สำหรับงานที่มีความยากระดับสูงจริงเท่านั้น

ใช้งานเกตเวย์ของคุณเองด้วย LiteLLM

นี่คือสิ่งที่ผู้คนมักค้นหาในชื่อ "OpenRouter แบบ self-hosted" เกตเวย์จะทำหน้าที่เป็นตัวกลางระหว่างแอปพลิเคชันของคุณกับผู้ให้บริการโมเดลทุกราย แอปพลิเคชันของคุณจะถือคีย์เพียงชุดเดียวที่ชี้มายังเซิร์ฟเวอร์ของคุณ ส่วนคีย์จริงของผู้ให้บริการจะถูกเก็บไว้ที่เซิร์ฟเวอร์นั้นเท่านั้น คุณสามารถกำหนดเพดานค่าใช้จ่ายต่อคีย์ กำหนดเส้นทางให้แอปพลิเคชันต่าง ๆ ไปยังโมเดลที่แตกต่างกัน และบันทึกทุกคำขอไว้ในที่เดียว

LiteLLM เป็นตัวเลือกที่นิยมเนื่องจากรองรับ API ที่เข้ากันได้กับ OpenAI และทำหน้าที่เป็นพร็อกซีไปยัง Anthropic, Ollama และผู้ให้บริการส่วนใหญ่ผ่าน endpoint เดียวกัน คุณสามารถรันผ่าน Docker โดยใช้ไฟล์คอนฟิกูเรชัน

model_list:
  - model_name: claude
    litellm_params:
      model: anthropic/claude-sonnet-5
      api_key: os.environ/ANTHROPIC_API_KEY
  - model_name: local
    litellm_params:
      model: ollama/qwen3:8b
      api_base: http://127.0.0.1:11434

บันทึกไฟล์ดังกล่าวเป็น litellm_config.yaml แล้วเริ่มการทำงานของพร็อกซี โดยจะเปิดฟังที่พอร์ต 4000

docker run -v $(pwd)/litellm_config.yaml:/app/config.yaml \
  -e ANTHROPIC_API_KEY=$ANTHROPIC_API_KEY \
  -e LITELLM_MASTER_KEY=sk-1234 \
  -p 4000:4000 docker.litellm.ai/berriai/litellm:latest \
  --config /app/config.yaml

LITELLM_MASTER_KEY คือข้อมูลประจำตัวของผู้ดูแลระบบ ดังนั้นให้ปฏิบัติเหมือนเป็นรหัสผ่าน root และห้ามนำค่าตัวอย่างไปใช้งานจริง ให้เรียกใช้พร็อกซีในลักษณะเดียวกับที่คุณเรียกใช้ API แบบ hosted

curl http://localhost:4000/v1/chat/completions \
  -H 'Authorization: Bearer sk-1234' \
  -H 'Content-Type: application/json' \
  -d '{"model": "claude","messages": [{"role": "user","content": "Say hello in five words."}]}'

การตอบสนองที่ปกติจะเป็น JSON พร้อมด้วยอาร์เรย์ choices หากเกิด 401 แสดงว่าการยืนยันตัวตนล้มเหลว ในการตั้งค่านี้ สาเหตุทั่วไปคือส่วนหัว Authorization ไม่ตรงกับมาสเตอร์คีย์ของคุณ นอกจากนี้ LiteLLM ยังส่งข้อผิดพลาดนี้หากใช้คีย์เสมือนที่ไม่ถูกต้อง หรือคีย์ของผู้ให้บริการที่ถูกปฏิเสธ (เช่น ANTHROPIC_API_KEY ที่ไม่ถูกต้อง) ซึ่งจะทำให้การยืนยันตัวตนล้มเหลวเช่นกัน โดยจะมีชื่อผู้ให้บริการระบุอยู่ในข้อผิดพลาดในรูปแบบ <Provider>Exception หากพบ 400 ที่ระบุชื่อโมเดล มักหมายความว่า model ในคำขอของคุณไม่ตรงกับ model_name ใดๆ ในไฟล์คอนฟิกูเรชัน LiteLLM ยังส่งคืน 400 เมื่อคำขอยาวเกินกว่า context window ของโมเดล ดังนั้นโปรดอ่านข้อความแสดงข้อผิดพลาดก่อนแก้ไขคอนฟิกูเรชัน

เหตุผลที่ควรสร้างระบบนี้แทนการเรียกใช้ Anthropic โดยตรงคือการควบคุมเพดานค่าใช้จ่าย คุณสามารถออกคีย์เสมือนแยกต่างหากสำหรับแต่ละแอปพลิเคชัน โดยแต่ละคีย์จะมีงบประมาณของตัวเอง

curl 'http://0.0.0.0:4000/key/generate' \
--header 'Authorization: Bearer sk-1234' \
--header 'Content-Type: application/json' \
--data-raw '{"models": ["claude"], "max_budget": 100}'

คีย์เสมือนและงบประมาณจำเป็นต้องใช้ฐานข้อมูล Postgres อยู่เบื้องหลังพร็อกซี คำสั่ง docker run ด้านบนไม่มีฐานข้อมูล ดังนั้นให้เพิ่ม -e DATABASE_URL=postgresql://user:password@host:5432/litellm เข้าไปก่อน หากไม่มีฐานข้อมูล คำสั่งนี้จะล้มเหลวพร้อมกับ No connected db.

คีย์นั้นสามารถกำหนดให้ใช้จ่ายได้สูงสุดหนึ่งร้อยดอลลาร์และเข้าถึงได้เพียงโมเดลเดียวเท่านั้น เมื่อเอเจนต์ทำงานผิดพลาดในช่วงตีสาม ขอบเขตความเสียหายจะจำกัดอยู่เพียงคีย์เดียว ไม่ใช่ทั้งบัญชีของคุณ รูปแบบดังกล่าวรวมถึงการตรวจสอบที่เกี่ยวข้อง เป็นหัวข้อของ การควบคุมค่าใช้จ่ายของเอเจนต์บน VPS หากคุณยังตัดสินใจไม่ได้ว่าจะจ่ายเงินแบบต่อโทเค็นหรือไม่ การเปรียบเทียบค่าใช้จ่ายระหว่าง API กับการสมัครสมาชิก จะช่วยให้คุณคำนวณตัวเลขได้ชัดเจนขึ้น

โปรดทราบว่าเกตเวย์นี้ไม่ได้ทำอะไรบ้าง มันไม่ได้ทำให้ Claude ทำงานแบบ local และไม่ได้ซ่อนพรอมต์ของคุณจาก Anthropic คำขอยังคงถูกส่งออกจากเซิร์ฟเวอร์ของคุณไปยังผู้ให้บริการ สิ่งที่คุณได้รับคือการควบคุมคีย์ ค่าใช้จ่าย การกำหนดเส้นทาง และบันทึกการใช้งาน

การรัน Claude Code บน VPS ของคุณเอง

ความต้องการที่สามเป็นสิ่งที่ทำได้ง่ายที่สุด Claude Code เป็นไคลเอนต์ที่ติดตั้งเป็นไฟล์ binary แบบ native เพียงไฟล์เดียว และสื่อสารกับ API ผ่าน HTTPS การติดตั้งไว้บนเซิร์ฟเวอร์ที่คุณเป็นเจ้าของหมายความว่าเอเจนต์จะยังคงทำงานต่อไปแม้คุณจะปิดแล็ปท็อปไปแล้ว และหมายความว่าขอบเขตความเสียหาย (blast radius) ของเอเจนต์จะจำกัดอยู่แค่ในกล่องที่คุณสามารถสร้างใหม่ได้ แทนที่จะเป็นเครื่องหลักของคุณ

npm install -g @anthropic-ai/claude-code
claude --version

แพ็กเกจ npm ต้องการ Node.js 22 หรือใหม่กว่า แม้ว่าหากใช้ Node.js เวอร์ชันเก่า การติดตั้งจะเพียงแค่แสดงคำเตือน EBADENGINE ออกมาและยังคงดำเนินการจนเสร็จสิ้น ตัวติดตั้งแบบ native ที่ Anthropic แนะนำคือ curl -fsSL https://claude.ai/install.sh | bash นั้นไม่จำเป็นต้องใช้ Node.js เลย ไม่ว่าจะด้วยวิธีใด ไฟล์ binary claude ที่ติดตั้งแล้วจะไม่รันบน Node โดย Anthropic ระบุว่าต้องการ RAM ขั้นต่ำ 4 GB ดังนั้นควรเลือกขนาด VPS ให้เหมาะสม

ให้รันภายใน tmux เพื่อป้องกันไม่ให้งานที่ใช้เวลานานถูกตัดการเชื่อมต่อหากการเชื่อมต่อ SSH หลุด การตั้งค่าดังกล่าวรวมถึงการจัดการเซสชันได้อธิบายไว้ใน การรัน Claude Code บน VPS ด้วย tmux ควรสร้างผู้ใช้ที่ไม่มีสิทธิ์พิเศษ (unprivileged user) ให้กับเอเจนต์ และอ่าน กฎความปลอดภัยสำหรับการรัน Claude Code บนเซิร์ฟเวอร์ ก่อนที่คุณจะให้สิทธิ์การเขียนแก่เอเจนต์ในสิ่งที่คุณให้ความสำคัญ

นี่คือการโฮสต์ตัวเอเจนต์ด้วยตนเอง ไม่ใช่ตัวโมเดล ควรระบุให้ชัดเจนในประเด็นนี้เนื่องจากเป็นสิ่งที่ผู้คนมักเข้าใจสับสนกัน คุณเป็นเจ้าของกระบวนการ, ระบบไฟล์, การส่งออกข้อมูลเครือข่าย และบันทึกการทำงาน ส่วน Anthropic ยังคงเป็นเจ้าของกระบวนการ inference อยู่เช่นเดิม

ต้นทุนที่แท้จริงของแต่ละตัวเลือก

ราคาอาจมีการเปลี่ยนแปลง ดังนั้นให้มองว่าตัวเลขเหล่านี้เป็นเพียงแนวทางไม่ใช่ใบเสนอราคา ณ วันที่ 17 ตุลาคม 2026 ราคาของ Claude Sonnet 5.5 อยู่ที่ 2 ดอลลาร์ต่อ 1 ล้าน input tokens และ 10 ดอลลาร์ต่อ 1 ล้าน output tokens ส่วน Claude Opus 5.5 อยู่ที่ 4 ดอลลาร์ และ 20 ดอลลาร์ ตามลำดับ สำหรับ Sonnet 5 ซึ่งเป็นโมเดลที่ใช้ในการตั้งค่า gateway ด้านบนนั้น ถูกแทนที่ด้วย Sonnet 5.5 แล้ว แต่ยังไม่ถือว่าเลิกสนับสนุน โดยหน้าเพจการเลิกใช้งานโมเดลของ Anthropic ระบุสถานะว่าเป็น Active และจะไม่มีการยกเลิกใช้งานก่อนวันที่ 30 มิถุนายน 2027 โดยยังมีราคาอยู่ที่ 2 ดอลลาร์ และ 10 ดอลลาร์เท่าเดิม ส่วน Opus 5 ยังคงมีราคาอยู่ที่ 5 ดอลลาร์ และ 25 ดอลลาร์ สำหรับโมเดลที่รันในเครื่อง (local model) จะไม่มีค่าใช้จ่ายต่อ token แต่จะมีต้นทุนเป็นค่าเช่าเซิร์ฟเวอร์รายเดือน ซึ่งต้องจ่ายไม่ว่าคุณจะใช้งานหรือไม่ก็ตาม

จุดคุ้มทุนนั้นต่ำกว่าที่หลายคนคาดไว้ VPS ที่มีหน่วยความจำเพียงพอสำหรับรันโมเดลแบบเปิด (open model) ที่ใช้งานได้จริงนั้นมีค่าใช้จ่ายรายเดือน และมักจะไม่ได้ถูกใช้งานตลอดเวลา หากการใช้งานของคุณเป็นแบบเป็นช่วงๆ (bursty) การใช้ hosted API มักจะมีราคาถูกกว่า แต่หากการใช้งานของคุณมีความต่อเนื่อง หรือข้อมูลของคุณไม่สามารถนำออกนอกเครือข่ายได้ โมเดลที่รันในเครื่องจะเป็นตัวเลือกที่ดีกว่าในทั้งสองกรณี

คำตอบแบบผสมผสานที่ตรงไปตรงมาคือสิ่งที่ทีมส่วนใหญ่เลือกใช้ นั่นคือการรันโมเดลแบบเปิดในเครื่องสำหรับงานที่มีปริมาณมากแต่มีความซับซ้อนต่ำ แล้วส่งคำขอที่ยากไปยัง frontier model ที่โฮสต์ไว้ โดยติดตั้ง gateway ไว้หน้าทั้งสองระบบเพื่อให้แอปพลิเคชันไม่ต้องรับรู้ว่ากำลังใช้งานโมเดลใดอยู่ และเพื่อให้คุณสามารถปรับเปลี่ยนสัดส่วนการใช้งานระหว่างโมเดลได้โดยไม่ต้องแก้ไขโค้ดของแอปพลิเคชัน สถาปัตยกรรมนี้คือรูปแบบที่ใช้งานได้จริงของ "Claude ที่โฮสต์เอง" และต่างจากแนวคิดแบบตรงตัวตรงที่สถาปัตยกรรมนี้มีอยู่จริง หากคุณต้องการรัน stack ของ agent ทั้งหมดด้วยตนเอง บทสรุปของ AI agents ที่โฮสต์เองได้ จะครอบคลุมถึงสิ่งที่สามารถใช้งานได้ในปัจจุบัน

FAQ

ฉันสามารถดาวน์โหลด model weights ของ Claude มาใช้งานบนเครื่องตัวเองได้หรือไม่?

ไม่ได้ Anthropic ไม่เคยเผยแพร่ weights สำหรับโมเดล Claude ใดๆ และไม่มีใบอนุญาตใดที่อนุญาตให้ทำ self-hosting ได้ สิ่งใดก็ตามที่โฆษณาบนอินเทอร์เน็ตว่าเป็น "Claude model" ที่ดาวน์โหลดได้นั้น เป็นเพียงโมเดลอื่นที่ใช้ชื่อชวนให้เข้าใจผิด หรือเป็น wrapper ที่เรียกใช้งานผ่าน API เท่านั้น หากจำเป็นต้องใช้ API key แสดงว่านั่นไม่ใช่การทำงานแบบ local

โมเดลแบบเปิดตัวใดที่ใกล้เคียงกับ Claude มากที่สุด?

ไม่มีโมเดลใดที่เทียบเคียงได้โดยตรง และผู้นำในตลาดมีการเปลี่ยนแปลงทุกสองสามเดือน ตระกูลโมเดลแบบเปิดที่ควรทดสอบ ได้แก่ Llama, Qwen, Mistral, Gemma และ DeepSeek ในงานด้านการสรุปความ การจัดหมวดหมู่ และการแก้ไขโค้ดอย่างง่าย โมเดลแบบเปิดที่มีขนาด 8 ถึง 14 พันล้านพารามิเตอร์ถือว่าใช้งานได้จริง แต่ในงานด้านการใช้เหตุผลหลายขั้นตอนที่ซับซ้อนและการใช้เครื่องมือแบบ agent ช่องว่างระหว่างโมเดลเหล่านี้กับโมเดลระดับแนวหน้าที่ให้บริการผ่าน API ยังคงมีอยู่มาก ควรทดสอบด้วย prompt ของคุณเองแทนการเชื่อถือตารางจัดอันดับเพียงอย่างเดียว

LiteLLM คือ OpenRouter ที่ทำ self-hosted ใช่หรือไม่?

ในเชิงฟังก์ชันการทำงานถือว่าใช่ สำหรับส่วนของการทำ routing และการจัดการ key โดย LiteLLM จะทำงานบนเซิร์ฟเวอร์ของคุณ นำเสนอ endpoint ที่รองรับมาตรฐาน OpenAI และทำหน้าที่เป็น proxy ไปยัง Anthropic, Ollama และผู้ให้บริการรายอื่นๆ คุณสามารถกำหนดเพดานการใช้จ่ายต่อ key ได้เมื่อเชื่อมต่อกับฐานข้อมูล Postgres รวมถึงสามารถทำ model routing และดู log ได้จากที่เดียว สิ่งที่ LiteLLM ไม่ได้มอบให้คือการประมวลผลแบบ local เพราะคำขอที่ส่งไปยัง Claude ยังคงต้องเดินทางไปยัง Anthropic อยู่ดี

การรัน Claude Code บนเซิร์ฟเวอร์ของตัวเองช่วยรักษาความเป็นส่วนตัวของโค้ดหรือไม่?

ไม่ Claude Code จะส่งเนื้อหาของไฟล์ที่มันอ่านไปยัง Anthropic API ไม่ว่ากระบวนการนั้นจะรันอยู่ที่ใดก็ตาม สิ่งที่ VPS มอบให้คุณคือการแยกส่วนการทำงานของ agent ไม่ใช่ความเป็นส่วนตัวของเนื้อหา ควรให้สิทธิ์การใช้งานแก่ user ที่ไม่มีสิทธิ์พิเศษ (unprivileged user) แยกต่างหาก เก็บให้ห่างจากข้อมูลรับรอง (credentials) และ repository อื่นที่ไม่เกี่ยวข้อง และให้ถือว่าทุกสิ่งที่ agent สามารถอ่านได้คือเนื้อหาที่ถูกส่งออกไปนอกเครื่องของคุณ

บทความนี้มีประโยชน์หรือไม่