SSD Nodes Learn Hosting plans →
指南 Matt Connor作者: Matt Connor · 更新于 2026-10-22

Zanus AI私有服务器多少钱,还是自己搭建更划算?

Zanus AI私有服务器仅接受报价。本文对比租用GPU自建同类私有技术栈的成本、运维要求与6 kW供电条件,并说明何时购买API更合适。

截至 2026 年 10 月,Zanus AI 的销售内容

Zanus AI 向企业销售私有 AI 服务器。大多数搜索该产品的用户,其核心诉求是了解自行构建同类私有 AI 服务器的成本。简而言之,该设备是一个无需代码的“开箱即用”方案,价格需询价获取,交付时已完成配置,且完全可以在断网环境下运行。自行构建的版本则需要租用 GPU(图形处理器)服务器,在推理服务器、聊天界面、向量数据库和代理框架之上运行开源权重 LLM(大语言模型),且需要一名具备 Linux 操作能力的人员进行维护。选择哪种路径取决于四个因素:由谁负责工程实施、数据允许存放的位置、机房能否支持 6 kW 的电力负载,以及每天实际消耗的 Token 数量。

本文关于 Zanus 的所有信息均来自 zanusai.com 以及 zanus.ai/pricing 后台的实时定价数据,数据采集时间为 2026 年 10 月 17 日;服务器页面及价格信息于 2026 年 10 月 20 日再次核实。该公司自述为“一家专注于高科技 AI 解决方案与工程的美国私营 C 型公司,总部位于佛罗里达州庞帕诺比奇”,其官网将其归类为大劳德代尔堡地区。公司称其硬件和软件均为“在美国设计和组装”。

该产品分为三个层级。Front Office AI 是面向客户的交互端:处理电话、网页聊天、报价和预约。Back Office AI 被其官网称为“公司 AI 操作系统”,Airtight AI 页面显示其包含“15 个以上模块”。网站列出的功能包括 AI 聊天、客户记录、任务、文档、日程安排、自动化流程以及 AI API(应用程序接口)。针对“我们是否需要配备开发人员?”这一问题,Back Office 页面回答:“不需要。你只需要了解业务流程的人员即可。”第三层是 Private On-Premises AI,即部署在企业内部 Zanus 硬件上的同一套系统。网站菜单现将其归类为 Airtight AI,即“本地部署 AI 服务器”,并称其为独立于托管计划之外的产品。它运行“Zanus OS”,以“永久许可,完全所有”的形式销售,并支持“物理隔离(air-gap)”,在断网环境下可通过离线更新包进行升级。服务器页面还列出了第二款设备,即 On-Prem Tokens Server:采用相同的硬件和 Zanus OS,作为“纯生成式端点”,提供兼容 OpenAI 的 API,但不包含任何业务模块,这是 Zanus 所售产品中最接近下文所述“自行构建方案”的设备。

关于模型,服务器页面称该设备运行“领先的开源权重系列”,在配置时“与您共同选择和调整规模”,并且“可以随时更换或添加模型:新权重通过下载获取”。页面未提及具体的模型系列、GPU 型号、RAM 或存储容量,仅提到“RAID 10 NVMe”。关于电力,描述本地部署系列的 Airtight AI 页面称,服务器使用“标准交流电路”、“您建筑物内现有的插座”,支持 90 至 240 V、50 或 60 Hz 的自动电压调节,安装仅需“四个标准电源插座”。服务器页面给出“最大 6 kW”的满载功耗,并描述该设备静音且适合办公环境,无需专用机房。关于价格,该设备采用“RFQ”(询价)模式,根据“GPU 显存(模型)、RAM/上下文以及每日 Token 量”进行规模定价。硬件没有公开价格。托管版的 Front Office 在 2026 年 10 月 20 日的实时定价数据中列出了价格。其五个捆绑计划从每月 329 美元的 AI ANSWER 到每月 2,495 美元的 AI PRIVATE 不等,年费分别为 3,290 美元至 24,950 美元。按年支付比分十二个月支付节省约 16.7%,且 AI PRIVATE 仅提供年度订阅,其实际账单为每年 24,950 美元。相同组件也提供单项购买,每项每月 49 美元起,捆绑购买比单项购买节省约 25% 至 30%。这些计划均不包含上述硬件设备。即使是描述为“在您自己的隔离环境中完整运行”的 AI PRIVATE,也属于托管租户。根据 2026 年 10 月 17 日读取的 Front Office 定价页面,任何希望在本地部署 AI 的用户都会被引导至 AI 服务器页面,这被视为“独立产品,需询价”。服务器交付周期约为三周,包含配置服务。

以上为公开规格。下文内容均未对其进行补充或推测。

自行搭建时,同一台私有 AI 服务器的组成

该设备将 4 项可自行租用和组装的组件打包在一起:GPU、用于加载开放权重模型的推理服务器、供用户使用的聊天界面,以及配合自动化层将文档转换为答案的向量存储。Linux 部分一个下午即可完成。业务模块需要数周,这段差距才是两条路径的真正区别。

先选择服务器。仅使用 CPU、配备 16 GB 到 32 GB RAM 的 VPS(虚拟专用服务器)可以运行 7B 和 8B 模型,但一次只能供 1 或 2 人使用,实际速度应在依赖它之前以每秒生成的 token 数进行测量。配备 24 GB VRAM(显卡上的内存)的租用 GPU 可以足够快地运行 8B 模型,适合小型团队;在 4-bit 量化下,它还可以容纳约 30B 的模型。48 GB 到 80 GB 对应 70B 级别。不同显卡可容纳哪些模型,请参阅不同内存容量下可自行托管的 AI 模型。

安装推理服务器。Ollama 的 Linux 安装只需一行命令,完整步骤请参阅在 VPS 上运行 Ollama 以自行托管 LLM:

curl -fsSL https://ollama.com/install.sh | sh
sudo systemctl status ollama
ollama -v

systemctl status ollama 应为 active (running)。在没有 GPU 的机器上,安装程序会输出 WARNING: No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode. 并继续执行。这适合测试,但对用户来说速度较慢。

拉取模型并访问 API。该服务只在回环地址的 11434 端口上监听:

ollama pull qwen3:8b
curl http://127.0.0.1:11434/api/generate \
  -d '{"model":"qwen3:8b","prompt":"Reply with one word: ready","stream":false}'

正常响应是一个包含 response 字段和 "done":true 的 JSON 对象。若响应为 {"error":"model requires more system memory (6.4 GiB) than is available (3.8 GiB)"},并显示你自己的两个数值,表示权重无法装入 RAM。此时应选择更小的模型或更低的量化级别。

添加聊天界面。Open WebUI 通常是首选。其 README 为 Ollama 与 Open WebUI 运行在同一主机上的情况提供了一条命令:

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

访问服务器地址的 3000 端口,创建第一个账户(该账户会成为管理员),然后打开模型列表。如果列表为空,原因是上面的回环绑定:在容器内,host.docker.internal 解析为主机的 Docker 网桥地址,而 Ollama 只监听 127.0.0.1,因此连接被拒绝。docker logs open-webui 会显示 Cannot connect to host host.docker.internal:11434。通过 systemd 覆盖配置修复:

sudo systemctl edit ollama
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
sudo systemctl daemon-reload
sudo systemctl restart ollama

0.0.0.0 表示所有网络接口,包括公网接口。从此以后,除非防火墙阻止 11434 端口,否则该 API 可从互联网访问;同时,API 本身没有密码保护。因此,在加载任何公司文档之前,请先保护 Ollama API 端点。如果 Open WebUI 过于占用资源,也有更轻量的 Open WebUI 替代方案可连接同一端口。

添加向量存储。Qdrant 以一个容器运行。将其绑定到回环地址,因为只有服务器上的应用应能访问它:

docker run -d --name qdrant --restart always \
  -p 127.0.0.1:6333:6333 -p 127.0.0.1:6334:6334 \
  -v qdrant_storage:/qdrant/storage \
  qdrant/qdrant
curl http://127.0.0.1:6333/collections

在全新安装中,检查会返回 {"result":{"collections":[]},"status":"ok"},并附带一个耗时字段。Open WebUI 内置的文档存储足以应对小型文档库;当智能体框架需要直接查询嵌入向量时,再使用 Qdrant。

如果同时使用的人数超过少数几人,请将 Ollama 替换为 vLLM。vLLM 可以在 GPU 上批处理多个用户的请求。官方镜像包含完整安装内容:

docker run -d --runtime nvidia --gpus all \
  -v ~/.cache/huggingface:/root/.cache/huggingface \
  -p 127.0.0.1:8000:8000 --ipc=host \
  vllm/vllm-openai:latest --model Qwen/Qwen3-8B

如果 Docker 报告 could not select device driver,并提到 GPU capabilities,说明尚未安装 NVIDIA Container Toolkit,因此 Docker 无法将显卡提供给容器。安装该工具包并重启 Docker,然后再次运行命令。每种服务器适用的场景请参阅Ollama 与 vLLM 的比较。

最后一层就是该设备所称的模块。在租用方案中,它是一个智能体框架:从向量存储读取数据、调用模型、对其他系统执行操作,并记录执行内容。不同候选方案及其适用场景请参阅最佳的自托管 AI 智能体。如果智能体需要跨会话记住用户,自托管的 Mem0 记忆服务器可以提供该功能。在完成配置之前,这些功能都不存在;而这正是你实际为该设备支付的部分。

成本:将报价与月度账单进行对比

这里没有可供填写的 Zanus 数字,编造一个数字不仅无益,反而会造成误导。该网站明确说明了报价的计算依据:模型所需的 GPU 显存、上下文所需的 RAM,以及您每天处理的 token 数量。这些变量同样决定租用方案的价格,因此您至少可以据此客观构建对比。

租用方案的成本包括 GPU 的固定月租,以及运行它所需的人员工时。无论显卡处于空闲状态还是满负载运行,月租都不会变化。因此,与按 token 计费的 API 对比时,应计算盈亏平衡点:用月租除以您原本会使用的 API 每百万 token 的综合价格,所得结果就是每月必须实际处理的百万 token 数量(乘以 1,000,000 即为 token 数量),达到这一数量后,购买 GPU 的成本才会低于购买 token。在低于该处理量时,API 的成本更低。相关计算,以及空闲时间和批处理大小带来的问题,见 GPU VPS 与 API token:盈亏平衡点在哪里。

设备方案的成本结构不同:包括一次性资本支出、永久软件许可证、电费,以及在报价时根据每天的 token 处理量完成的容量规划。根据当前处理量制定的报价同时也是容量上限。超过该容量后需要重新获取报价,而租用 GPU 只需调整方案。

谁负责工程工作

这类设备的宣传点是:不需要任何人负责工程开发。当被问到“我们这边需要开发人员吗?”时,供应商会回答:“不需要。您需要的是了解业务流程的人。”这正是关键所在。您仍然需要推动业务流程变更,因为员工必须学习新工具,还需要有人上传知识库内容并编写电话菜单,但不要求任何人了解 systemd unit 是什么。

租用方案需要安排一名人员。此人必须能够独立完成上述所有命令,并持续负责这些工作。具体来说,此人负责操作系统更新、Docker 镜像、防火墙和 TLS(传输层安全)证书、向量存储和聊天记录的备份、模型更新,以及监控工作;当内核更新导致 GPU 驱动损坏时,监控还必须能够发出提醒。首次安装应安排 1 天,之后每月安排数小时。然后还要为实际业务工作安排时间:租用方案不会自带客户表、供应商列表、日历或预约流程。这些都需要针对现有系统编写集成,或者配置 agent framework,并在其行为异常时负责处理。如果没有员工愿意承担这项工作,那么“无需开发人员”这个答案的价值就超过任何硬件规格。

数据存储在哪里

这台设备最有力的优势在于物理隔离。“您的数据永远不会离开办公场所:不使用云服务、不共享、不允许第三方访问”意味着,即使断开网络,您仍可继续使用这台设备。对于诊所或律师事务所,如果合同规定数据必须留在本地,这就是决定性因素,任何 VPS 都无法做到这一点。

对于租用方案,应明确说明:VPS 是位于他人数据中心的一台计算机。您的提示词、文档、模型回答和向量索引都将在服务提供商拥有的主机内存中处理,并存储在服务提供商可以物理接触的磁盘上。VPS 上的“私有 AI”只表示数据不提供给模型供应商,也不直接暴露在公网中,仅此而已。您的托管服务提供商仍可访问这些数据。客户或审计人员询问数据存放位置时,您得到的将是某个城市的名称,而不是您所在建筑内某个房间的名称。静态加密可以在磁盘被取走时保护磁盘上的数据,但无法保护模型生成回答时仍位于内存中的数据。

即使只是这种程度的隐私,也需要进行配置,并非默认提供。上面的 Open WebUI 命令会在所有网络接口上发布端口 3000,因此在将其置于私有网络或反向代理之后、关闭注册并设置组权限之前,其登录页面都位于公网。TLS 可以加密连接,但无法阻止陌生人访问。Open WebUI 的共享指南还指出:“共享对话框也可以将聊天上传到 Open WebUI Community 网站”。因此,如果任何数据都不得离开服务器,请在管理设置中关闭 Community Sharing,或在首次启动前设置 ENABLE_COMMUNITY_SHARING=false。

折中方案是使用您自己的硬件,将其放在租用的机架中,或使用没有其他租户共享的专用服务器。这样既保留了租用方案的模型选择自由和月度费用模式,又消除了大部分物理隔离差距。但这也会带回设备方案所省去的工作:必须有人组装这台机器。

电力与空间

6 kW 的机器并非办公 PC,但根据供应商的说法,它也不需要重新布线。Zanus 的 Airtight AI 页面在介绍其本地部署产品线时称,服务器运行在“标准交流电路”上,即“您大楼内现有的插座”,只需插入“四个标准电源插座”,并支持 90 至 240 V 的自动电压调节。针对“需要专业电工?需要三相电?”的问题,其回答为否,并补充道“无需重新布线,无需申请许可”。服务器概览页面在 6 kW 数值旁仍显示“标准 50A 电路 @ 115/220V”的标识。算术逻辑印证了这一点:在 115 V 电压下,6 kW 的总功率约为 52 A,即四个插座每个分担约 13 A,因此 50 A 是机器的总负载,而非需要安装的单条电路。美国标准墙壁插座通常位于 15 A 或 20 A 的电路上,如果四个插座共用一个电路,满载时会导致跳闸。因此,请务必确认放置设备的四个插座是否位于独立的电路上,并询问您所获报价的配置具体要求哪种布置方式。该网站称设备运行安静且适合办公环境,仅在工作时达到峰值功耗。空载功耗未公布。

电力是唯一可以量化的运营成本,因为它是算术问题。在 6 kW 功率下,满载运行每小时消耗 6 kWh 电量:

图表Electricity for a 6 kW appliance by daily full-load hours, at 0.15 USD per kWh
此图表背后的数据
[
  {
    "label": "1 h/day at full load",
    "kwh_per_month": 180,
    "cost_usd_month": 27
  },
  {
    "label": "4 h/day at full load",
    "kwh_per_month": 720,
    "cost_usd_month": 108
  },
  {
    "label": "8 h/day at full load",
    "kwh_per_month": 1440,
    "cost_usd_month": 216
  },
  {
    "label": "24 h/day at full load",
    "kwh_per_month": "4,320",
    "cost_usd_month": 648
  }
]

一台每天工作一小时的设备,按每 kWh 0.15 美元计算,每月成本约为 27 美元。一台全天候满载运行的设备则消耗 4,320 kWh 电量,成本约为 648 美元。供应商给出的数据是满载时“约 1 美元/小时”,这意味着其电价标准比图表假设的要高,因此请使用您当地的实际电价。所有这些能量最终都会以热量形式从机器中散发,峰值时约为每小时 20,000 BTU(英制热量单位),这部分热量必须由机房的空调系统移除。

选择租赁模式时,电力和冷却费用已包含在租金内,由数据中心提供商承担电路负载。其代价是您无法查看电表:无论 GPU 方案每天工作一小时还是 24 小时,费用都是一样的。

模型选择

该设备附带的模型由您在配置时选定,均来自“领先的开源权重系列”。页面说明新权重可通过下载获取。供应商页面称这些模型由 Zanus 工程师“安装、测试并优化”,并由“Zanus 工程师进行更新”。由于公开文档未说明具体包含哪些系列、如何在 Zanus OS 内部进行替换,以及是否可以加载供应商列表之外的模型,请在签约前咨询清楚。

租赁路径下,只要您的推理服务器支持,即可运行任何具有公开权重且内存足以容纳的模型。一旦新发布的开源权重模型进入 Ollama 库,即可通过 ollama pull 获取;或者在 vLLM 支持其架构(无论是原生支持还是通过 Transformers 建模后端支持)后,将其 Hugging Face 仓库名称传递给 vLLM 即可使用。对于大型模型系列,这种情况通常在发布当天就会发生,但无法保证,因此若您计划使用本周发布的新模型,请务必提前确认。如果您需要特定的量化版本或自行微调的模型,可以 将 GGUF 文件导入 Ollama。此方案同样存在局限:您需要自行负责评估工作。由于无人为您预估模型与文档的匹配度或每日 Token 处理量,第一个月通常用于测试哪些模型在速度上达标,以及 您的内存能够支持哪种量化级别。

私有 AI 应答服务:项目中的一个模块

许多针对“私有 AI 服务器”的流量实际上是在寻找电话接待员,因此需将该场景单独处理。

在 Zanus 方面,电话代理是 Front Office AI 的一部分,名为 AI Phone。根据 2026 年 10 月 20 日读取的实时定价数据,该服务“24/7 全天候在第一声铃响时应答”,“呼叫者可用 40 种语言中的任意一种自由交谈”,且“可按功能选择语音和角色”,并支持自定义电话号码和 IVR(交互式语音应答)菜单。查看供应商 FAQ 旁边的语言说明,其中提到“包含英语;40 种语言作为专业构建的一次性包提供”,按包收费,因此除英语外,每种语言均需额外购买。该电话代理仅作为托管服务出售。截至 2026 年 10 月 17 日,AI Phone 单独售价为每月 99 美元(每年 990 美元),包含一名操作员;最便宜的套餐 AI ANSWER 每月 329 美元,增加了聊天、电子邮件、网页表单、预约和虚拟形象功能;以上价格均截至 2026 年 10 月 20 日。供应商称 Front Office “在专为您公司提供的私有 Cloudflare 环境中运行”,“无需服务器”。Front Office 的任何计划均不提供本地部署选项:即使是最高级的 AI PRIVATE 计划,也只是一个隔离的托管环境;若用户希望在自有建筑内使用 AI,供应商会引导其使用其本地 AI 服务器,这属于“独立产品”。该服务使用的语音模型及其回复延迟均未公开。

在自建路径上,语音代理与上述聊天栈是不同的项目,且难度更高。它需要四个额外组件:电话接入点(SIP 中继,SIP 即会话发起协议,或提供音频的电话 API)、语音转文字(STT)、LLM 以及文字转语音(TTS)。所有组件必须串联,以确保呼叫者在说完一句话后约一秒内听到回复。每个环节都会增加延迟,因此模型必须轻量化,且 GPU 必须靠近处理端。关于 STT 和 TTS 部分、本地运行的引擎及其速度,请参考 在 VPS 上自托管语音转文字和文字转语音。预计电话代理的开发周期将比上述整个聊天栈更长,且第一个版本可能会出现打断呼叫者的情况。如果接待员是您的唯一需求,托管语音产品(包括 Zanus 自己的 Front Office 计划)是更快捷的路径,而聊天服务器只会分散精力。

决策准则

当以下四个条件全部满足时,请购买硬件设备:合同或监管要求数据必须保留在本地;员工中无人具备运行 Linux 的能力;设备放置处拥有四个独立的标准电源插座;且页面上的模块与您的实际工作内容相符。报价即为节省工程师人力成本的费用。在签署合同前,请务必以书面形式获取型号列表及更换流程。

当满足以下条件时,请选择租赁并自行构建:有一名专职人员负责管理服务器;数据可以存放在您已审核过的托管服务商处;您希望自行选择硬件型号;且您的使用量稳定,使得按月支付 GPU 费用比上述盈亏平衡点处的 Token 计费更划算。您可以获得推理服务器支持的任何开源权重模型(通常在模型发布后很快即可使用),且账单金额下个月即可调整。同时,您需要自行完成所有的集成工作。

当使用量具有突发性或规模较小时,请使用 API:数据不敏感,无人愿意维护基础设施,且您需要本周内投入使用。在低于盈亏平衡点的情况下,API 成本更低,且启动速度最快。如果后续 Token 账单或数据策略要求,您可以再增加一层自托管服务。

FAQ

Zanus AI 实际上销售什么产品?

截至 2026 年 10 月,zanusai.com 描述了三个层级的产品。Front Office AI 作为托管方案,处理电话、网页聊天、报价和预订。Back Office AI 是该公司的 AI 操作系统,包含“15 个以上模块”,且供应商称无需开发人员参与。Private On-Premises AI 现以 Airtight AI 的名义作为独立产品列出,它是运行在 Zanus 硬件上的相同软件,在您的办公场所内运行“Zanus OS”,以完全所有权和支持物理隔离(air-gap)的方式销售。硬件价格需通过询价(RFQ)获取。供应商称其仅需四个标准电源插座即可运行,无需电工、重新布线或申请许可,其服务器页面显示最大功耗为 6 kW。该公司总部位于佛罗里达州庞帕诺比奇。

Zanus AI 私有服务器的价格是多少?

硬件没有公开价格。服务器页面显示“价格需询价”,具体取决于 GPU 显存、内存以及您每天的 Token 使用量。截至 2026 年 10 月 20 日,托管的 Front Office 套餐价格从每月 329 美元到 2,495 美元不等,或每年 3,290 美元到 24,950 美元不等;单个组件可按需购买,每月 49 美元起,AI Phone 为 99 美元。这些均为托管订阅服务,不提供本地部署选项,因此它们不对硬件设备定价。若要进行比较,请使用相同的变量计算租赁路径的成本,并算出其与 API Token 成本的盈亏平衡点。

我可以在没有 GPU 的 VPS 上构建私有 AI 服务器吗?

可以,适用于少量用户和小型模型。一台配备 16 GB 到 32 GB 内存的纯 CPU VPS 可以通过 Ollama 运行 7B 和 8B 模型,速度为每秒几个 Token,这足以测试文档助手。但对于团队同时使用或对响应时间有要求的语音代理来说,这并不足够。在投入生产使用前,请先在您的方案上测量每秒 Token 数。

在 VPS 上自托管 LLM 真的私密吗?

它可以对模型供应商和公网保持私密,但前提是您必须进行相应配置:防火墙需拦截 11434 端口,聊天界面仅可通过私有网络或配置了关闭注册及权限限制的 TLS 反向代理访问,且必须关闭 Open WebUI 的社区共享(Community Sharing)功能,以防止任何人将聊天记录上传到 Open WebUI 社区网站。TLS 仅加密连接,无法阻止陌生人访问登录页面。托管服务商是一个例外:其员工可以访问磁盘,且其宿主机在内存中运行模型。如果合同规定数据必须保留在您的办公场所内,VPS 则不符合要求。您自己的硬件(位于办公室或租用的机架中)才符合要求。

自建路径包含电话接待功能吗?

开箱即用版本不包含。语音代理是一个独立项目:它涉及电话接入点、语音转文字(STT)、LLM 以及文字转语音(TTS),这些组件必须紧密串联,以确保呼叫者能在约一秒内听到回复。这是租赁路径中最困难的部分,也是托管语音产品(包括 Zanus 的 Front Office 套餐)最能节省时间的地方。

这篇文章对您有帮助吗?

#zanus#private-ai#self-hosted-llm#ollama#gpu#ai-appliance