SSD Nodes Learn Hosting plans →
가이드 Matt Connor작성자 Matt Connor · 업데이트됨 2026-10-23

Zanus AI 도입 vs 프라이빗 AI 서버 직접 구축 비교

Zanus AI의 노코드 어플라이언스 도입과 직접 GPU 서버를 구축하는 방식의 비용 및 운영 효율을 분석합니다. 엔지니어링 인력 유무와 데이터 보안 요구사항에 따라 어떤 선택이 유리한지 실질적인 기준을 제시합니다.

2026년 10월 기준 Zanus AI의 판매 제품

Zanus AI는 기업용 프라이빗 AI 서버를 판매하며, 이 제품에 대한 대부분의 검색은 동일한 성능의 프라이빗 AI 서버를 직접 구축할 때 드는 비용에 관한 것입니다. 요약하자면, 이 장비는 노코드(no-code) 박스 형태이며 견적을 통해 가격이 책정됩니다. 설정이 완료된 상태로 배송되며 인터넷 연결 없이도 완전히 독립적으로 운영할 수 있습니다. 직접 구축하는 버전은 오픈 웨이트 LLM(large language models)을 구동하는 GPU(graphics processing unit) 서버를 대여하여, 추론 서버, 채팅 인터페이스, 벡터 저장소, 에이전트 프레임워크를 구성하는 방식입니다. 이를 위해서는 Linux를 다룰 수 있는 인력이 한 명 필요합니다. 어떤 경로를 선택할지는 엔지니어링을 누가 수행할지, 데이터를 어디에 저장할 수 있는지, 6 kW 전력을 공급할 수 있는지, 그리고 하루에 실제로 몇 개의 토큰을 사용하는지에 따라 결정됩니다.

Zanus에 관한 모든 정보는 zanusai.com과 zanus.ai/pricing에 명시된 실시간 가격 데이터를 기반으로 합니다. 해당 데이터는 2026년 10월 17일에 확인했으며, 서버 페이지와 가격 정보는 2026년 10월 20일에 재확인했습니다. 이 회사는 스스로를 "첨단 AI 솔루션 및 엔지니어링을 전문으로 하는 미국 비상장 C-Corp"로 정의하며, 본사는 플로리다주 폼파노 비치에 위치하고 있습니다. 자사 웹사이트에 따르면 본사는 포트로더데일 광역권에 속합니다. 또한 하드웨어와 소프트웨어는 "미국에서 설계 및 조립"된다고 명시되어 있습니다.

제품은 세 가지 계층으로 구성됩니다. Front Office AI는 고객이 직접 대면하는 부분으로, 전화, 웹 채팅, 견적 및 예약 기능을 제공합니다. Back Office AI는 웹사이트에서 "기업용 AI 운영 체제"로 소개하며, Airtight AI 페이지에서는 "15개 이상의 모듈"을 포함한다고 설명합니다. 사이트 전반에 걸쳐 언급된 기능으로는 AI 채팅, 고객 기록, 업무 관리, 문서 관리, 일정 관리, 자동화 및 AI API(application programming interface)가 있습니다. "우리 측에 개발자가 필요한가요?"라는 질문에 대해 Back Office 페이지는 "아니요. 프로세스를 잘 아는 담당자만 있으면 됩니다"라고 답변합니다. 세 번째 계층인 Private On-Premises AI는 동일한 시스템을 귀사의 건물 내 Zanus 하드웨어에서 구동하는 제품입니다. 사이트 메뉴에서는 이를 Airtight AI라는 이름으로 분류하며 "온프레미스 AI 서버"라고 부릅니다. 이는 호스팅 플랜과는 별개의 제품입니다. 이 제품은 "Zanus OS"를 구동하며, "영구 라이선스, 완전 소유" 방식으로 판매됩니다. 또한 "에어갭(air-gap) 환경을 지원"하여 인터넷 연결 없이도 오프라인 업데이트 패키지를 통해 운영할 수 있습니다. 서버 페이지에는 두 번째 장비인 On-Prem Tokens Server도 나열되어 있습니다. 이는 동일한 하드웨어와 Zanus OS를 사용하지만, 비즈니스 모듈 없이 OpenAI 호환 API를 제공하는 "순수 생성형 엔드포인트"입니다. 이는 아래에서 설명할 직접 구축 방식의 박스와 가장 유사한 제품입니다.

모델과 관련하여 서버 페이지는 이 장비가 "업계를 선도하는 오픈 웨이트 제품군"을 구동하며, "구성 단계에서 고객과 함께 선택 및 규모를 조정"하고, "새로운 가중치(weights)를 다운로드하여 언제든지 모델을 교체하거나 추가"할 수 있다고 설명합니다. 제품군, GPU, RAM 또는 "RAID 10 NVMe" 이외의 저장 용량에 대해서는 구체적으로 명시하지 않습니다. 전력과 관련하여 온프레미스 라인을 설명하는 Airtight AI 페이지는 서버가 "표준 AC 회로"와 "건물 내 기존 콘센트"에서 작동하며, 50 또는 60 Hz에서 90~240 V 범위를 자동으로 감지한다고 설명합니다. 설치에는 "4개의 표준 전원 콘센트"가 필요합니다. 서버 페이지는 최대 부하 시 "6 kW"를 소모한다고 명시하며, 서버실이 필요 없는 조용하고 사무실 친화적인 장비라고 설명합니다. 가격은 "RFQ(견적 요청)" 방식이며, "GPU 메모리(모델), RAM/컨텍스트, 일일 토큰 사용량"에 따라 규모가 결정됩니다. 하드웨어에 대한 공개된 가격은 없습니다. 호스팅되는 Front Office 제품은 2026년 10월 20일 기준 실시간 가격 데이터에 가격이 명시되어 있습니다. 5개의 번들 플랜은 월 329달러인 AI ANSWER부터 월 2,495달러(연간 3,290달러~24,950달러)인 AI PRIVATE까지 다양합니다. 연간 결제 시 12개월 월납 대비 약 16.7% 저렴하며, AI PRIVATE는 연간 결제로만 판매되므로 실제 비용은 연간 24,950달러입니다. 동일한 구성 요소들을 개별적으로 구매할 수도 있으며, 개별 구매 시 월 49달러부터 시작합니다. 번들 상품은 개별 구매 대비 약 25%~30% 저렴합니다. 이 중 어떤 것도 위에서 언급한 장비(appliance)는 아닙니다. "완전히 독립된 환경에서 완성된(COMPLETE)" 제품으로 설명되는 AI PRIVATE조차도 호스팅되는 테넌트 방식입니다. 2026년 10월 17일 기준 Front Office 가격 페이지는 자체 온프레미스 환경에서 AI를 사용하려는 고객에게 "별도의 제품이며 견적을 통해 가격이 책정되는" AI 서버 제품군으로 안내합니다. 서버 배송은 설정 완료까지 약 3주가 소요되는 것으로 견적됩니다.

이상이 공개된 사양입니다. 아래 내용은 이 사양에 추가되거나 추측된 내용이 없습니다.

직접 구축하는 동일한 사설 AI 서버의 모습

이 어플라이언스는 직접 임대하고 조립할 수 있는 네 가지 요소로 구성됩니다. GPU, 오픈 웨이트 모델을 로드하는 추론 서버, 사용자를 위한 채팅 인터페이스, 그리고 문서를 답변으로 변환하는 자동화 계층을 갖춘 벡터 저장소입니다. Linux 환경 구성은 반나절이면 충분합니다. 비즈니스 모듈을 구축하는 데는 몇 주가 소요되며, 이 차이가 두 경로 사이의 실질적인 간극입니다.

먼저 장비를 선택하십시오. 16GB에서 32GB RAM을 갖춘 CPU 전용 VPS(가상 사설 서버)는 한두 명의 사용자가 7B 및 8B 모델을 동시에 실행하기에 적합하며, 누군가 의존하기 전에 초당 토큰 수로 측정해야 하는 속도를 제공합니다. 24GB VRAM(그래픽 카드 메모리)을 갖춘 임대 GPU는 소규모 팀이 8B 모델을 충분히 빠르게 실행할 수 있게 하며, 4비트 양자화 시 약 30B 크기의 모델까지 수용합니다. 48GB에서 80GB는 70B급 모델을 위한 사양입니다. 어떤 모델이 어떤 카드에 적합한지는 각 메모리 크기별로 직접 호스팅 가능한 AI 모델에서 확인할 수 있습니다.

추론 서버를 설치하십시오. Ollama의 Linux 설치는 한 줄의 명령어로 가능하며, 전체 과정은 LLM을 직접 호스팅하기 위해 VPS에서 Ollama 실행하기에 설명되어 있습니다.

curl -fsSL https://ollama.com/install.sh | sh
sudo systemctl status ollama
ollama -v

systemctl status ollama는 active (running)으로 읽어야 합니다. GPU가 없는 장비에서 설치 프로그램은 WARNING: No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode.을 출력하고 계속 진행하는데, 이는 테스트용으로는 괜찮지만 사용자에게는 느리게 느껴질 것입니다.

모델을 가져와 API와 통신하십시오. 서비스는 루프백 주소의 11434 포트에서만 대기합니다.

ollama pull qwen3:8b
curl http://127.0.0.1:11434/api/generate \
  -d '{"model":"qwen3:8b","prompt":"Reply with one word: ready","stream":false}'

정상적인 응답은 response 필드와 "done":true을 포함하는 JSON 객체입니다. 두 개의 수치가 포함된 {"error":"model requires more system memory (6.4 GiB) than is available (3.8 GiB)"}라는 응답은 가중치가 RAM에 맞지 않는다는 의미이므로, 더 작은 모델이나 더 낮은 양자화 버전을 선택하십시오.

채팅 인터페이스를 추가하십시오. Open WebUI가 일반적인 선택이며, Ollama가 동일한 호스트에서 실행되는 경우 README에서 한 줄의 명령어를 제공합니다.

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

서버 주소의 3000 포트로 접속하여 첫 번째 계정을 생성(관리자 계정이 됩니다)하고 모델 목록을 여십시오. 목록이 비어 있다면 원인은 위에서 언급한 루프백 바인딩 때문입니다. 컨테이너 내부에서 host.docker.internal는 호스트의 Docker 브리지 주소로 해석되는데, Ollama는 127.0.0.1에서만 대기하고 있으므로 연결이 거부됩니다. docker logs open-webui은 Cannot connect to host host.docker.internal:11434을 보여줍니다. systemd 오버라이드를 사용하여 이를 수정하십시오.

sudo systemctl edit ollama
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
sudo systemctl daemon-reload
sudo systemctl restart ollama

0.0.0.0는 공용 인터페이스를 포함한 모든 인터페이스를 의미합니다. 이 시점부터 방화벽이 11434 포트를 차단하지 않는 한 인터넷에서 API에 접근할 수 있습니다. API 자체에는 비밀번호가 없으므로, 회사 문서를 로드하기 전에 Ollama API 엔드포인트를 보호하십시오. Open WebUI가 너무 무겁게 느껴진다면 동일한 포트와 통신하는 더 가벼운 Open WebUI 대안을 사용할 수 있습니다.

벡터 저장소를 추가하십시오. Qdrant는 하나의 컨테이너로 실행됩니다. 서버 내부의 애플리케이션만 접근할 수 있도록 루프백에 바인딩하십시오.

docker run -d --name qdrant --restart always \
  -p 127.0.0.1:6333:6333 -p 127.0.0.1:6334:6334 \
  -v qdrant_storage:/qdrant/storage \
  qdrant/qdrant
curl http://127.0.0.1:6333/collections

설치가 완료된 후 확인을 수행하면 {"result":{"collections":[]},"status":"ok"}과 타이밍 필드가 반환됩니다. Open WebUI에는 소규모 라이브러리에 충분한 내장 문서 저장소가 있으며, Qdrant는 에이전트 프레임워크가 임베딩을 직접 쿼리해야 할 때 사용합니다.

한 번에 여러 명의 사용자가 사용할 예정이라면 Ollama를 vLLM으로 교체하십시오. vLLM은 GPU에서 사용자 간 요청을 배치 처리합니다. 공식 이미지는 전체 설치를 포함합니다.

docker run -d --runtime nvidia --gpus all \
  -v ~/.cache/huggingface:/root/.cache/huggingface \
  -p 127.0.0.1:8000:8000 --ipc=host \
  vllm/vllm-openai:latest --model Qwen/Qwen3-8B

Docker가 GPU 기능을 사용할 수 없다는 의미의 could not select device driver을 반환한다면, NVIDIA Container Toolkit이 설치되지 않은 것입니다. 따라서 Docker는 컨테이너에 카드를 전달할 방법이 없습니다. 툴킷을 설치하고 Docker를 재시작한 뒤 명령어를 다시 실행하십시오. 각 서버를 언제 선택해야 하는지는 Ollama 대 vLLM에서 다룹니다.

마지막 계층은 어플라이언스에서 모듈이라고 부르는 부분입니다. 직접 임대하는 방식에서는 벡터 저장소에서 읽고, 모델을 호출하며, 다른 시스템에 대해 작업을 수행하고, 수행한 내용을 기록하는 에이전트 프레임워크가 이 역할을 합니다. 후보군과 각 장점은 최고의 직접 호스팅 AI 에이전트에서 비교하며, 에이전트가 세션 간에 사용자를 기억해야 한다면 직접 호스팅하는 Mem0 메모리 서버를 통해 기능을 구현할 수 있습니다. 이 모든 것은 직접 구성하기 전까지는 존재하지 않으며, 바로 그 부분이 여러분이 어플라이언스에 대해 비용을 지불하는 이유입니다.

비용: 견적과 월별 청구서 비교

여기에 기입할 Zanus 수치는 없으며, 임의로 생성하는 것은 무의미합니다. 사이트에서 명시하는 견적 산정 방식은 모델을 위한 GPU 메모리, 컨텍스트를 위한 RAM, 그리고 일일 토큰 사용량에 기반합니다. 이 변수들은 대여 경로의 가격을 결정하는 요소와 동일하므로, 최소한 비교의 한 축은 정직하게 구성할 수 있습니다.

대여 측면에서의 비용은 GPU에 대한 고정 월 임대료와 이를 운영하는 인력의 비용으로 구성됩니다. 임대료는 카드가 유휴 상태인지 최대 부하로 작동하는지에 관계없이 변하지 않습니다. 따라서 토큰당 과금되는 API와의 비교는 손익분기점 문제로 귀결됩니다. 월 임대료를 대안으로 고려 중인 API의 백만 토큰당 혼합 가격으로 나누면, GPU를 소유하는 것이 토큰을 대여하는 것보다 저렴해지기 위해 처리해야 하는 월간 토큰 수(1,000,000을 곱하여 토큰 단위로 환산)가 산출됩니다. 이 물량 미만에서는 API가 비용 면에서 유리합니다. 유휴 시간과 배치 크기에 관한 함정을 포함한 계산 방식은 GPU VPS 대 API 토큰: 손익분기점 분석에서 확인할 수 있습니다.

어플라이언스 측면에서의 비용 구조는 다릅니다. 자본 지출, 영구 소프트웨어 라이선스, 전기 요금, 그리고 견적 시점에 미리 산정된 일일 토큰 사용량이 포함됩니다. 현재 물량에 맞춰진 견적은 상한선이기도 합니다. 이를 초과하여 성장하려면 새로운 견적이 필요하지만, 대여 GPU는 요금제 변경만으로 대응이 가능합니다.

엔지니어링은 누가 담당하는가

이 어플라이언스의 핵심은 아무도 담당할 필요가 없다는 점입니다. "우리 측에 개발자가 필요한가요?"라는 질문에 공급업체는 "아니요. 프로세스를 아는 사람만 있으면 됩니다."라고 답합니다. 이것이 바로 핵심입니다. 직원들이 새로운 도구를 배워야 하고 누군가 지식을 업로드하고 전화 메뉴를 작성해야 하므로 여전히 비즈니스 프로세스 변경은 수행해야 하지만, systemd unit이 무엇인지 알 필요는 없습니다.

임대형 경로를 선택하면 위에서 언급한 모든 명령을 도움 없이 수행하고 이를 지속적으로 유지할 수 있는 사람이 한 명 필요합니다. 구체적으로 그 담당자는 운영 체제 업데이트, Docker 이미지, 방화벽 및 TLS(transport layer security) 인증서, 벡터 저장소와 대화 기록의 백업, 모델 업데이트, 그리고 커널 업데이트 후 GPU 드라이버가 손상되었음을 알려주는 모니터링을 관리해야 합니다. 초기 설치에 하루, 그 이후에는 매달 몇 시간을 할애하십시오. 그런 다음 실제 업무를 위한 예산을 책정하십시오. 임대형 경로에서 제공되는 어떤 솔루션도 고객 테이블, 공급업체 목록, 캘린더 또는 예약 흐름을 포함하고 있지 않습니다. 이러한 각각의 요소는 기존 시스템에 맞춰 직접 작성해야 하는 통합 작업이거나, 구성한 뒤 예상치 못한 동작을 할 때마다 대응해야 하는 에이전트 프레임워크입니다. 만약 직원 중 누구도 그 역할을 맡고 싶어 하지 않는다면, "개발자 불필요"라는 답변은 그 어떤 하드웨어 사양보다 더 큰 가치를 지닙니다.

데이터가 저장되는 위치

이 어플라이언스의 가장 강력한 장점은 물리적 보안입니다. "데이터가 건물 밖으로 나가지 않으며, 클라우드나 공유, 제3자 접근이 없다"는 설명은 네트워크에서 플러그를 뽑아도 계속 사용할 수 있는 장비를 의미합니다. 데이터가 사내에 머물러야 한다는 계약을 맺은 병원이나 법률 사무소에게는 이 점이 결정적인 기준이 되며, 어떤 VPS도 이를 대체할 수 없습니다.

임대 경로에 대해 명확히 말씀드리자면, VPS는 타인의 데이터센터에 있는 컴퓨터입니다. 사용자의 프롬프트, 문서, 모델의 답변, 벡터 인덱스는 공급자가 소유한 호스트의 RAM에서 처리되며, 공급자가 물리적으로 접근할 수 있는 디스크에 저장됩니다. VPS에서의 "Private AI"는 모델 공급자와 공용 인터넷으로부터의 비공개를 의미할 뿐 그 이상은 아닙니다. 호스팅 공급자는 여전히 데이터에 접근할 수 있으며, 데이터가 어디에 있는지 묻는 고객이나 감사인에게는 귀하의 건물 내 특정 방이 아닌 도시 이름이 답변으로 제공될 것입니다. 저장 데이터 암호화(Encryption at rest)는 디스크가 탈취될 경우 이를 보호하지만, 모델이 답변하는 동안 메모리에 있는 내용은 보호하지 못합니다.

그 정도의 개인정보 보호조차 기본값이 아닌 설정의 영역입니다. 위에서 언급한 Open WebUI 명령은 모든 인터페이스에서 3000번 포트를 공개하므로, 사설 네트워크나 리버스 프록시 뒤에 배치하고 가입을 차단하며 그룹 권한을 설정하기 전까지는 로그인 페이지가 공용 인터넷에 노출됩니다. TLS는 연결을 암호화할 뿐, 외부인의 접근을 막지는 못합니다. Open WebUI의 공유 가이드에서도 "공유 대화 상자를 통해 대화를 Open WebUI 커뮤니티 사이트에 업로드할 수 있다"고 명시하고 있으므로, 서버 밖으로 데이터가 유출되어서는 안 된다면 관리자 설정에서 커뮤니티 공유를 끄거나 첫 실행 전에 ENABLE_COMMUNITY_SHARING=false을 설정하십시오.

중간 지점은 직접 임대한 랙에 설치한 자체 하드웨어나, 타인과 공유하지 않는 전용 서버를 사용하는 것입니다. 이는 임대 경로의 모델 자유도와 월 비용을 유지하면서 물리적 격차의 대부분을 해소합니다. 또한 어플라이언스가 제거했던 부분, 즉 누군가는 장비를 구축해야 한다는 점이 다시 돌아옵니다.

전력 및 공간

6 kW급 장비는 일반 사무용 PC가 아니지만, 제조사 설명에 따르면 별도의 배선 공사는 필요하지 않습니다. 온프레미스 제품군을 설명하는 Zanus의 Airtight AI 페이지에 따르면, 해당 서버는 "표준 AC 회로"와 "건물에 이미 설치된 콘센트"를 사용하며, "4개의 표준 전원 콘센트"에 연결하고 90~240 V 범위에서 자동 전압 조절(auto-ranging) 기능을 지원합니다. "전문 전기 기술자가 필요한가요? 3상 배선이 필요한가요?"라는 질문에 제조사는 아니라고 답하며, "배선 변경이나 허가는 필요 없습니다"라고 덧붙입니다. 서버 개요에는 6 kW 수치 옆에 "표준 50A 회로 @ 115/220V"라는 표시가 여전히 나타납니다. 산술적으로 계산하면 115 V에서 6 kW는 총 52 A이며, 4개의 콘센트 각각에 약 13 A가 할당되므로 50 A는 장비의 총 소비 전력이지 단일 회로에 설치해야 하는 용량이 아닙니다. 미국 표준 벽면 콘센트는 15 A 또는 20 A 회로에 연결되어 있으므로, 4개의 콘센트가 하나의 회로를 공유하면 최대 부하 시 차단기가 내려갈 수 있습니다. 따라서 장비가 설치될 위치의 콘센트 4개가 각각 별도의 회로에 연결되어 있는지 확인하고, 견적 받은 구성에 어떤 배선 방식이 적용되는지 문의하십시오. 제조사 사이트에서는 장비가 소음이 적고 사무실 환경에 적합하며, 작업 중에만 최대 전력을 소비한다고 설명합니다. 유휴 상태의 소비 전력은 공개되지 않았습니다.

전기 요금은 산술적으로 계산할 수 있는 유일한 운영 비용입니다. 6 kW 장비가 최대 부하로 1시간 작동하면 6 kWh를 소비합니다.

차트Electricity for a 6 kW appliance by daily full-load hours, at 0.15 USD per kWh
이 차트의 데이터
[
  {
    "label": "1 h/day at full load",
    "kwh_per_month": 180,
    "cost_usd_month": 27
  },
  {
    "label": "4 h/day at full load",
    "kwh_per_month": 720,
    "cost_usd_month": 108
  },
  {
    "label": "8 h/day at full load",
    "kwh_per_month": 1440,
    "cost_usd_month": 216
  },
  {
    "label": "24 h/day at full load",
    "kwh_per_month": "4,320",
    "cost_usd_month": 648
  }
]

하루에 1시간 작동하는 장비는 1 kWh당 0.15 USD 기준으로 한 달에 약 27 USD의 비용이 발생합니다. 24시간 내내 최대 부하로 작동하는 장비는 4,320 kWh를 소비하며 약 648 USD가 소요됩니다. 제조사 측은 최대 부하 시 "대략 시간당 1달러"라고 밝히고 있는데, 이는 위 차트보다 다소 높은 요금을 가정한 것이므로 실제 요금제를 적용하여 계산하십시오. 소비된 모든 에너지는 열로 방출되며, 최대 부하 시 시간당 약 20,000 BTU(영국 열량 단위)의 열이 발생하므로 이를 제거하기 위한 실내 냉방 장치가 필요합니다.

임대 방식을 선택하면 전력 및 냉방 비용이 임대료에 포함되며, 데이터센터 제공업체가 회로를 관리합니다. 이 방식의 단점은 전력 사용량을 직접 확인할 수 없다는 점입니다. GPU 플랜은 하루 1시간을 사용하든 24시간을 사용하든 동일한 비용이 청구됩니다.

모델 선택

이 어플라이언스는 구성 단계에서 사용자와 함께 선택한 "주요 오픈 웨이트 제품군" 모델을 탑재하여 출고되며, 새로운 웨이트는 다운로드를 통해 제공된다고 명시되어 있습니다. 공급업체 페이지에 따르면 모델은 "Zanus 엔지니어가 설치, 테스트 및 최적화"하며 "Zanus 엔지니어가 업데이트"합니다. 어떤 제품군이 포함되는지, Zanus OS 내부에서 모델 교체는 어떻게 이루어지는지, 공급업체 목록에 없는 모델을 로드할 수 있는지에 대한 정보는 공개되어 있지 않으므로 계약 전에 반드시 문의하십시오.

임대 경로를 선택하면 추론 서버가 지원하는 한, 공개된 웨이트와 이를 수용할 충분한 메모리가 있는 모든 모델을 실행할 수 있습니다. 새로운 오픈 웨이트 모델이 출시되면 ollama pull Ollama 라이브러리에 등록될 때 ollama pull 명령을 사용하거나, vLLM이 해당 아키텍처를 기본적으로 또는 Transformers 모델링 백엔드를 통해 지원하게 된 시점에 Hugging Face 저장소 이름을 vLLM에 전달하여 사용할 수 있습니다. 주요 제품군의 경우 출시 당일에 지원되는 경우가 많지만 보장되지는 않으므로, 이번 주에 출시된 모델을 기반으로 계획을 세우기 전에 확인이 필요합니다. 특정 양자화 모델이나 직접 파인튜닝한 모델을 사용하려면 GGUF 파일을 Ollama로 가져오기를 직접 수행해야 합니다. 이 방식에는 책임도 따릅니다. 모델 평가 역시 사용자의 몫입니다. 문서 규모나 일일 토큰 처리량에 맞춰 모델 크기를 조정해 주는 곳은 없으므로, 첫 달은 어떤 모델이 적절한 속도와 성능을 내는지, 그리고 어떤 양자화를 메모리 환경에서 감당할 수 있는지 파악하는 데 시간을 할애해야 합니다.

개인형 AI 응답 서비스: 프로젝트별 모듈

"개인형 AI 서버"를 찾는 많은 수요는 사실 전화 응대 서비스를 원하므로, 이 사례는 별도로 다루어야 합니다.

Zanus 측의 전화 상담 에이전트는 Front Office AI의 일부인 AI Phone입니다. 2026년 10월 20일 기준 실시간 가격 데이터에 따르면, 이 서비스는 "연중무휴 24시간 첫 신호음에 응답"하며, "발신자는 40개 언어 중 자유롭게 선택하여 대화"할 수 있고, "기능별로 음성과 페르소나를 선택"할 수 있으며, 사용자가 설정한 전화번호와 IVR(대화형 음성 응답) 메뉴를 제공합니다. 공급업체의 FAQ와 함께 언어 관련 항목을 읽어보면 "영어는 기본 포함이며, 40개 언어는 전문적으로 구축된 일회성 팩으로 제공"된다고 명시되어 있으므로, 영어를 제외한 모든 언어는 추가 구매가 필요합니다. 전화 상담 에이전트는 호스팅 서비스로만 판매됩니다. 2026년 10월 17일 기준 상담원 1명이 포함된 AI Phone 단독 상품은 월 99달러(연 990달러)이며, 채팅, 이메일, 웹 폼, 예약 및 아바타 기능이 추가된 가장 저렴한 번들인 AI ANSWER는 월 329달러입니다. 두 가격 모두 2026년 10월 20일 기준입니다. 공급업체는 Front Office가 "귀사를 위해 전용된 프라이빗 Cloudflare 환경에서 실행"되며 "별도의 서버가 필요 없다"고 설명합니다. Front Office 플랜 중 온프레미스 옵션을 제공하는 것은 없으며, 최상위 플랜인 AI PRIVATE조차 격리된 호스팅 환경입니다. 공급업체는 자체 건물 내에 AI를 구축하려는 고객에게는 "별도의 제품"인 온프레미스 AI 서버를 안내합니다. 어떤 음성 모델을 사용하는지, 응답 지연 시간은 어느 정도인지는 공개되어 있지 않습니다.

임대 경로에서 음성 에이전트는 앞서 언급한 채팅 스택과는 별개의 프로젝트이며, 구현 난이도가 더 높습니다. 여기에는 네 가지 추가 요소가 필요합니다. 전화 통신 진입점(SIP 트렁크 또는 오디오를 전달하는 전화 통신 API), 음성 인식(STT), LLM, 그리고 음성 합성(TTS)이 필요하며, 이 모든 요소가 연결되어 발신자가 문장을 끝낸 후 약 1초 이내에 응답을 들어야 합니다. 연결 단계마다 지연 시간이 추가되므로 모델은 가벼워야 하고 GPU는 물리적으로 가까워야 합니다. 로컬에서 실행되는 엔진과 각 엔진의 속도를 포함한 STT 및 TTS 절반의 구성은 VPS에서 직접 호스팅하는 음성 인식 및 음성 합성을 참조하십시오. 전화 상담 에이전트는 앞서 언급한 전체 채팅 스택보다 더 많은 시간이 소요될 것이며, 초기 버전에서는 발신자의 말을 끊는 현상이 발생할 수 있음을 예상해야 합니다. 만약 상담원 기능만이 유일한 목적이라면 Zanus의 Front Office 플랜을 포함한 호스팅 음성 제품을 선택하는 것이 더 빠른 길이며, 채팅 서버 구축은 오히려 불필요한 과정이 될 수 있습니다.

의사결정 규칙

다음 네 가지 조건이 모두 충족될 때 장비를 구매하십시오: 계약이나 규제 기관이 데이터의 사내 보관을 요구하는 경우, 운영 인력 중 Linux를 다룰 수 있는 사람이 없는 경우, 장비를 설치할 위치에 독립된 회로로 구성된 4개의 표준 콘센트가 있는 경우, 그리고 해당 페이지의 모듈이 실제 수행하는 작업과 일치하는 경우입니다. 견적가는 엔지니어를 고용하지 않는 대가입니다. 계약서에 서명하기 전에 모델 목록과 교체 절차를 서면으로 확보하십시오.

한 사람이 서버를 전담할 수 있고, 검증된 호스팅 제공업체에 데이터를 저장해도 되며, 직접 모델을 선택하고 싶고, 사용량이 일정하여 월별 GPU 비용이 위에서 언급한 손익분기점의 토큰 비용보다 저렴할 때는 임대 후 구축 방식을 선택하십시오. 추론 서버가 지원하는 모든 오픈 웨이트 모델을 사용할 수 있으며, 보통 모델이 출시된 직후에 이용 가능합니다. 또한 다음 달에 비용을 조정할 수 있는 청구서를 받게 됩니다. 단, 모든 통합 작업은 직접 수행해야 합니다.

사용량이 불규칙하거나 적고, 데이터가 민감하지 않으며, 아무도 운영을 원치 않고, 이번 주 내로 작동해야 한다면 API를 사용하십시오. 손익분기점 미만의 사용량에서는 API가 더 저렴하며, 시작하기에도 항상 더 빠릅니다. 토큰 비용이나 데이터 정책으로 인해 필요성이 생기면 나중에 자체 호스팅 계층을 추가하십시오.

FAQ

Zanus AI는 실제로 무엇을 판매합니까?

2026년 10월 기준, zanusai.com은 세 가지 계층을 설명합니다. Front Office AI는 전화, 웹 채팅, 견적 및 예약을 처리하는 호스팅 플랜입니다. Back Office AI는 "15개 이상의 모듈"을 갖춘 기업용 AI 운영 체제이며, 공급업체는 개발자가 필요 없다고 명시합니다. 현재 Airtight AI라는 별도 제품명으로 등록된 Private On-Premises AI는 동일한 소프트웨어를 Zanus 하드웨어에서 실행하며, 귀사의 건물 내부에 설치되어 완전한 소유권과 에어갭(air-gap) 기능을 제공합니다. 하드웨어 가격은 RFQ(견적 요청)를 통해 책정됩니다. 공급업체는 전기 기술자, 배선 변경 또는 허가 없이 4개의 표준 전원 콘센트에서 작동하며, 서버 페이지에는 최대 6 kW의 전력을 소비한다고 명시되어 있습니다. 본사는 플로리다주 폼파노비치에 있습니다.

Zanus AI 프라이빗 서버의 가격은 얼마입니까?

하드웨어에 대한 공개 가격은 없습니다. 서버 페이지에는 GPU 메모리, RAM, 일일 토큰 사용량에 따라 "RFQ를 통한 가격 책정"이라고 명시되어 있습니다. 2026년 10월 20일 기준, 호스팅되는 Front Office 번들은 월 329달러에서 2,495달러, 또는 연 3,290달러에서 24,950달러이며, 개별 구성 요소는 월 49달러부터, AI Phone은 99달러부터 선택적으로 구매할 수 있습니다. 이는 온프레미스 옵션이 없는 호스팅 구독 서비스이므로 해당 장비에 대한 가격은 책정되지 않습니다. 비교를 위해 동일한 변수를 사용하여 임대 경로의 가격을 산정하고 API 토큰 대비 손익분기점을 계산하십시오.

GPU 없이 VPS에서 프라이빗 AI 서버를 구축할 수 있습니까?

네, 소수의 사용자와 작은 모델의 경우 가능합니다. 16 GB에서 32 GB RAM을 갖춘 CPU 전용 VPS는 Ollama를 통해 7B 및 8B 모델을 초당 몇 토큰의 속도로 실행할 수 있으며, 이는 문서 보조 도구를 테스트하기에 충분합니다. 하지만 팀이 동시에 사용하거나 응답 시간이 중요한 음성 에이전트용으로는 충분하지 않습니다. 누군가 의존하기 전에 해당 플랜에서 초당 토큰 수를 측정하십시오.

VPS에서 직접 호스팅하는 LLM은 정말로 프라이빗합니까?

모델 공급업체와 공용 인터넷으로부터 프라이빗하게 유지될 수 있지만, 이는 사용자가 직접 설정했을 때만 가능합니다. 방화벽이 11434 포트를 차단하고, 채팅 인터페이스는 프라이빗 네트워크나 TLS 리버스 프록시를 통해서만 접근 가능하며, 가입이 차단되고 권한이 설정되어 있어야 합니다. 또한 Open WebUI의 Community Sharing 기능을 꺼서 누구도 Open WebUI 커뮤니티 사이트에 채팅 내용을 업로드할 수 없도록 해야 합니다. TLS는 연결을 암호화하지만, 로그인 페이지에 외부인이 접근하는 것을 막지는 못합니다. 호스팅 제공업체는 예외입니다. 제공업체 직원은 디스크에 접근할 수 있고, 호스트는 메모리에서 모델을 실행하기 때문입니다. 계약상 데이터가 귀사의 건물 내에 머물러야 한다면, VPS는 이를 충족하지 못합니다. 귀사의 사무실이나 임대 랙에 있는 자체 하드웨어만이 이를 충족합니다.

직접 구축하는 방식에 전화 안내원 기능이 포함되어 있습니까?

기본적으로는 포함되어 있지 않습니다. 음성 에이전트는 전화 통신 진입점, 음성 인식(speech-to-text), LLM, 음성 합성(text-to-speech)이 긴밀하게 연결되어 발신자가 약 1초 내에 응답을 들을 수 있어야 하는 별도의 프로젝트입니다. 이는 임대 방식에서 가장 어려운 부분이며, Zanus의 Front Office 플랜과 같은 호스팅 음성 제품이 가장 많은 시간을 절약해 주는 지점이기도 합니다.

이 글이 도움이 되었나요?

#zanus#private-ai#self-hosted-llm#ollama#gpu#ai-appliance