Zanus AI 私有伺服器值得買，還是自己建置？

截至 2026 年 10 月，Zanus AI 的銷售內容

Zanus AI 為企業銷售私有 AI 伺服器，而大多數搜尋此產品的使用者，其實際需求是了解自行建置同類私有 AI 伺服器的成本。簡而言之，該設備是一台「無程式碼」（no-code）的盒裝產品，採報價制，出貨時已完成設定，且可在完全無網際網路連線的環境下運作。若要自行建置，則需租用具備 GPU（圖形處理器）的伺服器，並在推論伺服器、聊天介面、向量資料庫與代理框架（agent framework）後端執行開放權重（open-weight）的 LLM（大型語言模型），且需要一名具備 Linux 操作能力的技術人員。選擇哪種路徑取決於四個因素：誰負責工程實作、資料允許存放的位置、您是否能供應 6 kW 的電力，以及您每日實際使用的 token 數量。

本文關於 Zanus 的所有資訊均來自 zanusai.com 以及 zanus.ai/pricing 背後的即時定價資料，分別於 2026 年 10 月 17 日讀取；關於伺服器頁面與價格的資訊，則於 2026 年 10 月 20 日再次確認。該公司自述為「一家總部位於佛羅里達州龐帕諾灘（Pompano Beach）的美國私人 C-Corp 公司，專精於高科技 AI 解決方案與工程」，其官網將該地歸類於大勞德代爾堡（Fort Lauderdale）地區。公司聲稱其硬體與軟體皆為「在美國設計與組裝」。

該產品分為三個層級。Front Office AI 是與客戶互動的介面：包含電話、網頁聊天、報價與預約。Back Office AI 則被官網稱為「公司 AI 作業系統」，Airtight AI 頁面列出其具備「15 個以上模組」。網站提及的功能包括 AI 聊天、客戶記錄、工作項目、文件、排程、自動化與 AI API（應用程式介面）。針對「我們需要自備開發人員嗎？」的問題，Back Office 頁面回答：「不需要。您只需要熟悉業務流程的人員即可。」第三層級為 Private On-Premises AI，即在您公司內部 Zanus 硬體上執行的相同系統。網站選單現將其歸類於 Airtight AI，稱為「地端 AI 伺服器」，並將其定義為與託管方案不同的獨立產品。它執行「Zanus OS」，以「永久授權、完全所有權」形式銷售，並具備「氣隙（air-gap）能力」，可在不連網的情況下透過離線套件進行更新。伺服器頁面還列出了第二款機器：On-Prem Tokens Server。它使用相同的硬體與 Zanus OS，定位為「純生成式端點」，提供與 OpenAI 相容的 API，但不包含任何業務模組，這也是 Zanus 所銷售產品中最接近自行建置方案的選擇。

在模型方面，伺服器頁面指出該設備執行「領先的開放權重系列」，「在設定時與您共同選擇並調整規模」，且「可隨時更換或新增模型：新權重僅需下載即可」。頁面未說明具體的模型系列、GPU 型號、RAM 容量或儲存空間，僅提到「RAID 10 NVMe」。在電力方面，描述地端產品線的 Airtight AI 頁面指出，伺服器可在「標準 AC 電路」下運作，即「您建築物內既有的插座」，支援 90 至 240 V、50 或 60 Hz 自動切換，安裝僅需「四個標準電源插座」。伺服器頁面標示「最大 6 kW」滿載功耗，並描述該設備運作安靜且適合辦公環境，無需專用機房。在價格方面，該設備採「RFQ」（報價請求）制，依據「GPU 記憶體（模型）、RAM/上下文長度與每日 token 量」計算規模。硬體無公開價格。託管式的 Front Office 確實列出了價格，截至 2026 年 10 月 20 日的即時資料顯示，其五種組合方案從每月 329 美元的 AI ANSWER 到每月 2,495 美元的 AI PRIVATE 不等，或每年 3,290 至 24,950 美元。年繳費用比十二個月月繳總額節省約 16.7%，且 AI PRIVATE 僅提供年繳方案，實際費用為每年 24,950 美元。這些組件亦可單獨購買，每項每月 49 美元起，組合方案比單獨購買便宜約 25% 至 30%。上述方案皆非該硬體設備。即使是描述為「在您獨立環境中完整執行」的 AI PRIVATE，仍屬於託管租戶。截至 2026 年 10 月 17 日，Front Office 定價頁面將所有希望在自有地端執行 AI 的客戶導向 AI 伺服器頁面，並註明這是「獨立產品，採報價制」。伺服器交付週期約為三週，包含設定時間。

以上為公開規格。以下內容不包含任何補充或推測。

建置相同的私有 AI 伺服器後會是什麼樣子

這個設備整合了 4 項你可以自行租用和組裝的元件：GPU、載入開放權重模型的推論伺服器、供使用者操作的聊天介面，以及搭配自動化層的向量儲存庫，能將文件轉換成答案。Linux 部分只需一個下午。業務模組則需要數週，這段差距才是兩種方案的真正差異。

先選擇主機。只有 CPU 的 VPS（virtual private server）搭配 16 GB 至 32 GB RAM，可以讓 1 或 2 名使用者同時執行 7B 和 8B 模型，但實際速度應先以每秒 token 數量測量，再讓任何人依賴這項服務。租用的 GPU 若有 24 GB VRAM（顯示卡上的記憶體），執行 8B 模型的速度足以供小型團隊使用，並可在 4-bit 量化下容納約 30B 的模型；48 GB 至 80 GB 則屬於 70B 級別。哪些模型適合哪些顯示卡，請參閱各種記憶體容量可自行託管的 AI 模型。

安裝推論伺服器。Ollama 的 Linux 安裝只需一行指令，完整操作流程請參閱在 VPS 上執行 Ollama 以自行託管 LLM：

curl -fsSL https://ollama.com/install.sh | sh
sudo systemctl status ollama
ollama -v

systemctl status ollama 應顯示 active (running)。在沒有 GPU 的主機上，安裝程式會輸出 WARNING: No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode. 並繼續執行。這適合測試，但對使用者而言速度較慢。

拉取模型並呼叫 API。服務只在 loopback 位址的 11434 埠監聽：

ollama pull qwen3:8b
curl http://127.0.0.1:11434/api/generate \
  -d '{"model":"qwen3:8b","prompt":"Reply with one word: ready","stream":false}'

正常回應是 JSON 物件，包含 response 欄位和 "done":true。如果回應為 {"error":"model requires more system memory (6.4 GiB) than is available (3.8 GiB)"}，並顯示你自己的 2 個數值，表示模型權重無法放入 RAM。請改用較小的模型或較低的量化設定。

加入聊天介面。Open WebUI 通常是標準選擇，其 README 提供了 Ollama 在同一台主機執行時所需的一行指令：

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

在瀏覽器前往伺服器位址的 3000 埠，建立第一個帳戶（該帳戶會成為管理員），然後開啟模型清單。如果清單是空的，原因就是前述的 loopback 綁定：在容器內，host.docker.internal 會解析為主機的 Docker bridge 位址，而 Ollama 只在 127.0.0.1 監聽，因此連線遭到拒絕。docker logs open-webui 會顯示 Cannot connect to host host.docker.internal:11434。請使用 systemd override 修正：

sudo systemctl edit ollama

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

sudo systemctl daemon-reload
sudo systemctl restart ollama

0.0.0.0 代表所有介面，包括公開介面。從這時起，除非防火牆封鎖 11434 埠，否則網路上的使用者即可連線至 API；而且 API 本身沒有密碼，因此在載入任何公司文件前，請先保護 Ollama API endpoint。如果 Open WebUI 比你希望的更耗用資源，也有較輕量的 Open WebUI 替代方案可連線至相同埠號。

加入向量儲存庫。Qdrant 可作為單一容器執行。請將它綁定至 loopback，因為只有這台主機上的應用程式需要存取它：

docker run -d --name qdrant --restart always \
  -p 127.0.0.1:6333:6333 -p 127.0.0.1:6334:6334 \
  -v qdrant_storage:/qdrant/storage \
  qdrant/qdrant
curl http://127.0.0.1:6333/collections

在全新安裝中，檢查會回傳 {"result":{"collections":[]},"status":"ok"}，以及一個計時欄位。Open WebUI 內建的文件儲存庫已足以支援小型文件庫；當 agent framework 需要直接查詢 embeddings 時，才需要使用 Qdrant。

如果同時使用的人數超過少數幾人，請將 Ollama 替換為 vLLM。vLLM 能在 GPU 上跨使用者批次處理請求。官方映像檔就是完整的安裝內容：

docker run -d --runtime nvidia --gpus all \
  -v ~/.cache/huggingface:/root/.cache/huggingface \
  -p 127.0.0.1:8000:8000 --ipc=host \
  vllm/vllm-openai:latest --model Qwen/Qwen3-8B

如果 Docker 回應表示 could not select device driver 具備 GPU capabilities，表示尚未安裝 NVIDIA Container Toolkit，因此 Docker 無法將顯示卡交給容器。請安裝該 toolkit 並重新啟動 Docker，然後再次執行指令。各伺服器的適用時機請參閱Ollama 與 vLLM 的比較。

最後一層就是該設備所稱的模組。在租用方案中，這是一個 agent framework。它會從向量儲存庫讀取資料、呼叫模型、對其他系統執行動作，並記錄執行內容。候選方案及其適用情境整理於最佳的自行託管 AI agents；如果 agent 需要記住跨工作階段的使用者資訊，自行託管的 Mem0 memory server可以提供這項功能。在你完成設定前，這些功能都不存在，而這正是你實際支付費用的設備部分。

成本：報價與每月帳單的比較

這裡沒有可填寫的 Zanus 數字，捏造數字不但沒有幫助，反而會造成誤導。該網站說明的是報價如何估算：模型所需的 GPU 記憶體、上下文所需的 RAM，以及每日 tokens 數量。這些變數同樣會決定租用方案的價格，因此至少可以據此建立可信的成本比較。

租用方案的成本包括 GPU 的固定月租，以及負責執行該 GPU 的人力成本。無論 GPU 閒置或全速運作，租金都不會改變。因此，與按 tokens 計費的 API 比較時，問題在於計算損益平衡點：以每月租金除以原本會使用之 API 的每百萬 tokens 混合單價，所得結果就是每月實際必須處理的百萬 tokens 數量（乘以 1,000,000 即為 tokens 數量），達到這個數量後，自有 GPU 的成本才會低於購買 tokens。低於此用量時，API 的成本較低。計算方式，以及閒置時間和批次大小造成的陷阱，請參閱 GPU VPS 與 API tokens：損益平衡點的位置。

設備方案的成本結構不同：包括資本支出、永久軟體授權、電力，以及在報價時替你完成的每日 tokens 用量估算。依目前用量估算的報價同時也是容量上限。用量超過該上限後，就必須重新取得報價；租用 GPU 則只需變更方案。

誰負責工程工作

這類設備的訴求是：不需要任何人負責工程工作。供應商被問到「我們這邊需要開發人員嗎？」時，回答是「不需要。您需要的是了解流程的人員。」這正是重點。您仍然需要進行業務流程變更，因為員工必須學習新工具，也必須有人上傳知識並撰寫電話選單；但不需要任何人知道 systemd unit 是什麼。

租用方案需要一名能在無人協助下執行上述所有命令，並持續負責這些工作的人员。具體而言，該人員負責作業系統更新、Docker 映像、Firewall 與 TLS（傳輸層安全性）憑證、向量儲存與聊天記錄的備份、模型更新，以及監控系統。監控系統必須能在 kernel 更新後 GPU 驅動程式故障時發出通知。首次安裝預留 1 天，之後每月預留幾小時。接著還要納入真正的工作量：租用方案本身不會提供客戶資料表、供應商清單、行事曆或預約流程。每一項都需要針對現有系統撰寫整合程式，或設定 agent framework，並在它出現異常行為時負責處理。如果沒有員工願意承擔這項工作，「不需要開發人員」這個答案的價值，就高於任何硬體規格。

資料存放位置

這台設備最強的主張在於實體層面。「資料永遠不會離開你的建築物：沒有雲端、沒有分享、沒有第三方存取」指的是一台即使拔除網路仍可使用的機器。對於診所或律師事務所而言，如果合約規定資料必須留在現場，這就是決定性的條件，沒有任何 VPS 能符合。

對租用方案，應明確說明：VPS 是位於他人資料中心的電腦。你的提示、文件、模型回答與向量索引，會在供應商擁有的主機記憶體中處理，也會儲存在供應商能實際接觸的磁碟上。VPS 上的「私有 AI」只表示資料不會提供給模型供應商，也不會暴露在公開網際網路上，僅此而已。你的代管供應商仍可存取該資料；客戶或稽核人員若詢問資料所在位置，得到的會是城市名稱，而不是你辦公室中的房間名稱。靜態加密能在磁碟被取出時保護磁碟內容，但無法保護模型回答時仍位於記憶體中的資料。

即使是這種程度的隱私，也需要設定，並非預設提供。上方的 Open WebUI 指令會在所有介面發布 port 3000，因此在將其置於私有網路或反向代理後、關閉註冊並設定群組權限之前，其登入頁面都會位於公開網際網路上。TLS 會加密連線，但不會阻止陌生人存取。Open WebUI 的分享指南也指出：「分享對話框也可以將聊天上傳至 Open WebUI Community 網站。」因此，如果任何資料都不得離開伺服器，請在管理員設定中關閉 Community Sharing，或在首次啟動前設定 ENABLE_COMMUNITY_SHARING=false。

中間方案是將自有硬體放在租用的機櫃中，或使用沒有與他人共用的 dedicated server。這能保留租用方案的模型選擇自由與每月費用，同時縮小大部分實體層面的差距。這也會帶回設備方案省略的工作：必須有人組裝這台機器。

電力與空間

6 kW 的機器並非辦公室 PC，但根據廠商說法，它也不需要重新佈線。Zanus 的 Airtight AI 頁面在介紹地端產品線時指出，其伺服器可在「標準交流電路」上運作，使用「您建築物內既有的插座」，插入「四個標準電源插座」，並支援 90 至 240 V 自動變壓。針對「需要專業電工？需要三相電？」的問題，其回答為否，並補充「無需重新佈線，無需許可」。伺服器概覽頁面在 6 kW 數據旁仍標示「標準 50A 電路 @ 115/220V」。算術結果印證了兩者：在 115 V 下，6 kW 總功率約為 52 A，即四個插座各約 13 A，因此 50 A 是機器的總負載，而非單一電路的安裝需求。美國的標準牆上插座位於 15 A 或 20 A 電路上，若四個插座共用同一電路，滿載時會導致跳電，因此請務必確認放置機器的四個插座位於不同電路上，並詢問您所獲報價的配置適用何種安排。該網站稱機器運作安靜且適合辦公室環境，僅在工作時達到峰值功耗。閒置功耗則未公開。

電力是唯一能精確計算的營運成本，因為這只是算術問題。以 6 kW 計算，滿載運作一小時即消耗 6 kWh：

[
  {
    "label": "1 h/day at full load",
    "kwh_per_month": 180,
    "cost_usd_month": 27
  },
  {
    "label": "4 h/day at full load",
    "kwh_per_month": 720,
    "cost_usd_month": 108
  },
  {
    "label": "8 h/day at full load",
    "kwh_per_month": 1440,
    "cost_usd_month": 216
  },
  {
    "label": "24 h/day at full load",
    "kwh_per_month": "4,320",
    "cost_usd_month": 648
  }
]

若機器每天運作一小時，以每 kWh 0.15 USD 計算，每月成本約為 27 USD。若機器全天候滿載運作，則消耗 4,320 kWh，成本約為 648 USD。廠商自身的數據為滿載時「約每小時 1 美元」，這暗示其採用的電費費率高於本圖表假設，請務必使用您當地的費率計算。所有這些能量最終都會以熱能形式排出，峰值時約為每小時 20,000 BTU (英國熱量單位)，這部分熱量必須由室內空調移除。

若選擇租用方案，電力與冷卻費用已包含在租金內，且由供應商的資料中心承擔電路需求。其代價是您無法監控電表：無論 GPU 方案每天運作一小時還是 24 小時，費用皆相同。

模型選擇

此設備出廠時搭載的型號是您在配置階段所選定的，來自「領先的開放權重系列」。頁面說明新權重可透過下載取得。供應商頁面指出，這些模型皆由 Zanus 工程師「安裝、測試並優化」，並由「Zanus 工程師進行更新」。關於具體包含哪些系列、如何在 Zanus OS 內部進行替換，以及是否能載入供應商清單以外的模型，目前並無公開文件說明，因此請在簽約前先行確認。

租用方案只要您的推論伺服器支援，即可執行任何具備公開權重且記憶體容量足夠的模型。一旦新的開放權重模型進入 Ollama library，或是當 vLLM 透過原生架構或 Transformers 模型後端支援該模型時，它便成為 ollama pull。對於大型模型系列，這通常在發布當日即可達成，但並無絕對保證，因此若您計畫使用本週剛發布的模型，請務必先行確認。若您需要特定的量化版本或自行微調的模型，請自行 將 GGUF 檔案匯入 Ollama。此方案的代價在於評估工作由您自行承擔。由於沒有人會針對您的文件量或每日 Token 需求來評估模型規模，因此首個月通常需用於測試哪些模型在速度與效能上符合需求，以及您的記憶體能負擔 哪種量化等級。

私有 AI 應答服務：針對專案的模組

許多針對「私有 AI 伺服器」的流量，其實是在尋找電話接待員，因此應將此類需求獨立處理。

在 Zanus 方面，電話代理程式為 AI Phone，屬於 Front Office AI 的一部分。根據 2026 年 10 月 20 日讀取的即時定價資料，該服務標榜「24/7、全年無休，第一聲響鈴即接聽」，「來電者可用 40 種語言自由對話」，且「可針對不同功能選擇語音與角色」，並提供您自行設定的電話號碼與 IVR（互動式語音應答）選單。參閱廠商 FAQ 旁的語言說明，內容指出「包含英文；40 種語言需以專業建置的一次性套件形式提供」，並按套件計價，因此除英文外，每種語言皆需額外購買。此電話代理程式僅以託管服務形式販售。截至 2026 年 10 月 17 日，AI Phone 單獨售價為每月 99 美元（每年 990 美元），包含一名操作員；最便宜的組合 AI ANSWER 每月 329 美元，增加了聊天、電子郵件、網頁表單、預約與虛擬化身功能；上述價格均為 2026 年 10 月 20 日之數據。廠商表示 Front Office「運行於專屬於貴公司的私有 Cloudflare 環境中」，且「無需伺服器」。所有 Front Office 方案均不提供地端部署選項：即使是最高階的 AI PRIVATE 方案，也僅是隔離的託管環境；若客戶希望在自有建築內使用 AI，廠商會引導其使用「獨立產品」——地端 AI 伺服器。該服務使用何種語音模型以及回覆延遲為何，並未公開。

在自建路徑上，語音代理程式與上述聊天堆疊是不同的專案，且難度更高。它需要四個額外組件：電話接入點（SIP trunk，SIP 為 session initiation protocol，或提供音訊的電話 API）、語音轉文字 (STT)、LLM 以及文字轉語音 (TTS)。所有組件必須串聯，確保來電者在結束句子後約一秒內聽到回覆。每個環節都會增加延遲，因此模型必須輕量化，且 GPU 必須位於近端。關於 STT 與 TTS 的部分，包括本地運行的引擎及其速度，請參閱 VPS 上的自架語音轉文字與文字轉語音。預期電話代理程式的建置時間將比上述整個聊天堆疊更長，且第一版可能會發生中斷來電者的情況。若您的唯一需求是接待員，選擇託管語音產品（包含 Zanus 自家的 Front Office 方案）是較快的途徑，而聊天伺服器在此情境下則會造成干擾。

決策規則

當以下四項條件皆成立時，請購買硬體設備：合約或監管規定要求資料必須留在本地、員工無人具備維護 Linux 的能力、設備放置處具備四個獨立迴路的標準插座，且頁面上的模組符合您的實際工作需求。報價即為省下工程師人力成本的代價。簽約前，請務必取得書面形式的型號清單與更換程序說明。

當符合以下條件時，請採取租用並自行建置的方案：有一位專責人員負責管理伺服器、資料可存放於您已審核過的託管服務供應商、您希望自行選擇硬體型號，且使用量穩定，使得每月支付 GPU 租金的成本低於上述損益平衡點的 Token 費用。您可以取得推論伺服器所支援的任何開放權重模型（通常在模型發布後不久即可使用），且帳單金額可於下個月調整。但請注意，所有整合工作皆需自行完成。

當使用量呈現間歇性或規模較小、資料不敏感、無人願意維護系統，且您需要本週內即刻上線時，請使用 API。在損益平衡點的用量之下，此方案成本較低且啟動速度最快。若日後因 Token 費用或資料政策限制而有需求，再考慮增加自架層。

FAQ

Zanus AI 實際販售什麼產品？

截至 2026 年 10 月，zanusai.com 將其產品分為三個層級。Front Office AI 作為託管方案，處理電話、網頁聊天、報價與預約。Back Office AI 是該公司的 AI 作業系統，包含「15 個以上模組」，且供應商宣稱無需開發人員即可使用。Private On-Premises AI 現以 Airtight AI 為名作為獨立產品銷售，是在您公司內部運行「Zanus OS」的 Zanus 硬體，軟體相同，主打完全所有權與支援離線（air-gap）運作。硬體價格需透過 RFQ 詢價。供應商表示該設備僅需四個標準電源插座，無需電工、重新佈線或申請許可，其伺服器頁面標示最大功耗為 6 kW。該公司總部位於佛羅里達州龐帕諾比奇（Pompano Beach）。

Zanus AI 私有伺服器價格為何？

硬體沒有公開價格。伺服器頁面標示「價格需透過 RFQ 詢價」，並根據 GPU 記憶體、RAM 以及您每日的 token 使用量來評估規模。截至 2026 年 10 月 20 日，託管式的 Front Office 套裝價格為每月 329 美元至 2,495 美元，或每年 3,290 美元至 24,950 美元；單一組件可單獨購買，每月 49 美元起，AI Phone 則為每月 99 美元。這些均為託管訂閱方案，不提供地端部署選項，因此不包含硬體報價。若要進行比較，請使用相同的變數計算租用方案的成本，並算出與 API token 使用量相比的損益平衡點。

我可以在沒有 GPU 的 VPS 上建立私有 AI 伺服器嗎？

可以，適用於少量使用者與小型模型。一台具備 16 GB 至 32 GB RAM 的純 CPU VPS，透過 Ollama 運行 7B 與 8B 模型，速度約為每秒幾個 token，足以測試文件助理功能。但這不足以應付團隊同時使用，或對回應時間敏感的語音代理。在正式依賴該方案前，請先測量您方案的每秒 token 處理速度。

在 VPS 上自架 LLM 真的是私有的嗎？

它可以對模型供應商與公眾網路保持私有，但前提是您必須正確設定：防火牆需封鎖 11434 埠，聊天介面僅能透過私有網路或 TLS 反向代理存取，並關閉註冊功能與設定權限，同時關閉 Open WebUI 的 Community Sharing 功能，以防止任何人將聊天內容上傳至 Open WebUI 社群網站。TLS 僅加密連線，無法阻止陌生人存取登入頁面。託管服務提供商是例外：其員工可以存取磁碟，且其主機在記憶體中運行模型。若合約要求資料必須留在您的建築物內，VPS 即不符合要求。您必須使用位於辦公室或租用機櫃中的自有硬體。

自架方案包含電話接待功能嗎？

預設不包含。語音代理是一個獨立的專案：包含電話接入點、語音轉文字（STT）、LLM 以及文字轉語音（TTS），這些組件必須緊密串聯，才能讓通話者在約一秒內聽到回應。這是租用方案中最困難的部分，也是託管語音產品（包含 Zanus 的 Front Office 方案）最能節省時間的地方。