VPS 上的 Open WebUI 替代方案比較
比較 Open WebUI、LibreChat、Hollama 與 OrionChat 在公開 IP VPS 上的 RAM、登入、遠端 Ollama 與維護需求,並說明 4 GB VPS 的限制。
適合 VPS 的 Open WebUI 替代方案
Open WebUI 替代方案幾乎總是在筆記型電腦上比較。此時 RAM 取得容易,也沒有服務監聽公開位址。VPS 會同時改變這兩項條件,因此排名也會改變。只要有第二位使用者登入,Open WebUI 仍是正確的預設選擇,因為它提供完整的使用者帳號與管理員面板。當介面需要與模型競用最後 1 GB RAM 時,較輕量的專案會勝出。但代價是缺乏驗證機制:這些專案都沒有驗證功能。
以下內容均取自各專案自己的文件。文件內容於 August 2026 閱讀,並於 20 October 2026 再次檢查;Open WebUI、LibreChat、Hollama 與 OrionChat 則於 25 October 2026 再次檢查。Ollama 的文件與瀏覽器安全規則又於 29 October 2026 重新檢查。這 4 個面向只有在伺服器可從網際網路連線時才會出現。
只有在公開 IP 上才重要的 4 個面向
- 與模型並用的記憶體。模型伺服器是主機上最耗用資源的程序。介面每占用 1 MB,模型就少 1 MB 可用。
- 驗證。部分專案具備使用者帳戶與角色。其他專案則假設自己是筆記型電腦上唯一執行的程式,完全沒有登入功能。
- 遠端推論。只會指向
127.0.0.1:11434的 UI,預期模型與介面位於同一台主機。若將模型放在其他位置,就需要使用 tunnel 或 local proxy,將本機連接埠轉送至模型主機。 - 維護。使用 SQLite 檔案的單一 container,與背後有 MongoDB 和 vector database 的 6 個 container,是不同程度的工作。
模型會為介面保留多少 RAM
介面不是這台主機上最占資源的部分,模型才是。已發布的下載大小只能視為最低值,因為模型回答時必須將權重常駐在記憶體中;配置 context cache 後,實際記憶體用量會高於下載大小。
此圖表背後的資料
[
{
"label": "llama3.2:3b",
"download_gb": "2.0"
},
{
"label": "qwen3:4b",
"download_gb": "2.5"
},
{
"label": "gemma3:4b",
"download_gb": "3.4"
},
{
"label": "qwen3:8b",
"download_gb": "5.2"
}
]這些數字是 Ollama library 頁面在 25 October 2026 顯示的數值。它們是發布大小,不是實測結果。在 4 GB VPS 上,qwen3:4b 佔用 2.5 GB 後,留給作業系統及其他元件的空間不到 1.5 GB;隨著對話增長,context cache 也會持續占用記憶體。因此,你設定的 num_ctx 不只是品質設定,也會影響記憶體需求。qwen3:8b 佔用 5.2 GB,完全無法放入這台主機。這是筆記型電腦比較文章通常不會涵蓋的情況;聊天介面若占用數百 MB,就可能決定模型是否能夠執行。若你要為遠高於這些標示的模型規劃主機,在僅使用 CPU 的 VPS 上執行 27B 模型的計算會顯示介面很快就不再是決定性因素。
請實際測量,不要直接相信任何比較文章中的數字,包括本文的數字。執行 docker stats --no-stream,並在實際使用 1 小時後測量,而不是在容器啟動 1 分鐘後測量,因為真正重要的記憶體會在首次使用時配置。Ollama 也會在閒置 5 分鐘後釋放權重,因此在兩次對話之間讀取的數值會低估峰值;除非使用 keep_alive 讓模型保持常駐,否則下一則訊息會再次承擔完整的載入用量。
Open WebUI:仍是多位使用者的預設選擇
Open WebUI 由單一映像檔執行,並將資料保存於單一 volume。
docker run -d -p 127.0.0.1:3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main專案 README 中的指令會發布 -p 3000:8080,讓服務監聽所有介面。127.0.0.1: 前綴會將服務限制在 loopback。Docker 警告,在早於 28.0.0 的版本中,位於同一 L2 網段的主機仍可連入發布至 localhost 的埠。因此,在依賴此繫結方式進行隔離前,請使用 Docker Engine 28.0.0 或更新版本。在 VPS 上,這個前綴比該行中的任何其他設定都更重要,因為 Docker 會自行寫入 iptables 規則,而已發布的埠會忽略你的 ufw deny 規則。
透過下方說明的 tunnel 或 proxy 存取頁面,然後建立第一個帳戶。該帳戶會成為管理員。接著,註冊功能會自動關閉,直到管理員重新開啟 New Sign Ups;之後註冊的帳戶會使用角色 pending,這是文件記載的預設值 DEFAULT_USER_ROLE。因此,即使陌生人存取頁面,也無法在管理員核准前使用你的模型。
Open WebUI 比下方的專案需要更多記憶體,因為它提供更多功能,其效能頁面也列出了造成記憶體消耗的元件。預設的 embedding engine 會在容器內載入 sentence-transformers 模型。設定 RAG_EMBEDDING_ENGINE=ollama 後,這項工作會交給你已在執行的 model server。AUDIO_STT_ENGINE=web 可避免載入本機 speech-to-text 模型。使用 SQLite 且未設定 DATABASE_POOL_SIZE 時,連線池會退回較大的內部大小,每個連線都會建立自己的 page cache 與 memory map,因此在小型主機上請設定 DATABASE_POOL_SIZE=8 與 DATABASE_SQLITE_PRAGMA_MMAP_SIZE=0。Autocomplete 會在使用者仍在輸入時向模型要求 completion,目前預設為關閉(ENABLE_AUTOCOMPLETE_GENERATION 的預設值為 False),因此在小型主機上請維持關閉。
LibreChat:多使用者,後方搭配服務堆疊
git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat
cp .env.example .env
docker compose up -d介面會在連接埠 3080 上提供服務。若需要的是身分識別系統,而不是單純的登入表單,應選用 LibreChat:其文件說明了 LDAP 與 OAuth2 登入方式,預設的 compose 檔案也定義了管理使用者、群組與角色的管理面板。該面板不會直接啟動。除非在 .env 中設定 ADMIN_PANEL_SESSION_SECRET,否則面板會拒絕啟動。這是必填值,至少需要 32 個字元,且沒有預設值;如有需要,可使用 openssl rand -hex 32 產生。該面板是獨立服務,不在 LibreChat 程序內執行,並且需要 LibreChat v0.8.5 或更新版本。此功能會隨服務堆疊一併提供。
此圖表背後的資料
[
{
"label": "OrionChat",
"containers": 0,
"notes": "static files, served by a web server you already run"
},
{
"label": "Hollama",
"containers": 1,
"notes": "one container serving a browser app"
},
{
"label": "Open WebUI",
"containers": 1,
"notes": "application and SQLite in one image"
},
{
"label": "LibreChat",
"containers": 5,
"notes": "api, MongoDB, Meilisearch, pgvector, RAG API"
}
]預設的 compose 檔案會啟動 5 個服務:api, MongoDB, Meilisearch, pgvector, RAG API。管理面板是第 6 個服務,位於同一個檔案中;設定 secret 後就會加入這些服務。這些服務都不是模型。MongoDB 與 pgvector 各自需要記憶體,而在 4 GB 的主機上,這些記憶體原本是模型所需的。
檔案中的 2 個服務會發布連接埠,而且 2 個對映都沒有指定繫結位址:API 使用 3080,管理面板則使用主機連接埠 3000,這是 ADMIN_PANEL_PORT 的預設值。因此,2 個服務啟動後都會在所有網路介面上監聽。上文的 Open WebUI 也使用連接埠 3000,因此在共用主機上啟用管理面板後,2 個服務會立即發生衝突。在讓服務堆疊連上網際網路之前,先在 docker-compose.override.yml 中將 2 個服務重新繫結至 127.0.0.1。
升級需要執行 git 操作,這也是最容易出錯的部分。
docker compose down
git pull
docker compose pull
docker compose up -d如果你修改了受追蹤的 docker-compose.yml,git pull 會因衝突而停止,升級也會處於半完成狀態。請將變更放入專案為此提供的 docker-compose.override.yml,並將 secret 存放在 .env 中。這 2 個檔案都未受追蹤,因此 git pull 不會修改它們。
在 librechat.yaml 中設定自訂端點,讓 LibreChat 連線至你自己的模型伺服器。
endpoints:
custom:
- name: "Ollama"
apiKey: "ollama"
baseURL: "http://model-host:11434/v1/"
models:
default: ["llama3.2"]
fetch: true
titleConvo: true
titleModel: "current_model"
modelDisplayLabel: "Ollama"將 model-host 替換為執行 Ollama 的主機位址。即使 Ollama 會忽略 apiKey 欄位的值,該欄位仍必須存在,因此使用預留值即可。如果 LibreChat 在 Docker 中執行,而 Ollama 在同一台主機上執行,容器內的 localhost 代表容器本身,因此請改用 host.docker.internal。
Hollama 與 OrionChat:由瀏覽器執行工作
Hollama 會從一個小型容器提供瀏覽器應用程式。聊天內容儲存在瀏覽器的儲存空間,而不是伺服器上。
docker run -d --restart unless-stopped -p 127.0.0.1:4173:4173 --name hollama ghcr.io/fmaclen/hollama:latest自架指南中的這個指令使用 --rm;容器停止時會將其刪除,因此重新開機後介面不會恢復。
OrionChat 更進一步,完全沒有伺服器元件。複製儲存庫後,使用現有的網頁伺服器提供該資料夾,或直接從磁碟開啟 index.html。API 金鑰儲存在瀏覽器的 localStorage,聊天記錄留在瀏覽器中;聊天數量超過 512 後,應用程式會刪除最舊的聊天。OrionChat 的 Ollama 位址固定在原始碼中的 js/script.js,值為 http://localhost:11434;其設定沒有可變更該位址的欄位。
這兩個專案都沒有登入功能。在筆記型電腦上沒有問題。在 VPS 上,這表示絕不能將頁面公開在 0.0.0.0,也表示另一個容易忽略的事項:由瀏覽器呼叫模型,而不是由伺服器呼叫。
這項事實決定了這兩者可在哪些情況下使用。瀏覽器必須能直接連線到 Ollama。對 OrionChat 而言,這始終表示執行瀏覽器的機器上的 localhost:11434,因此遠端模型需要在該處建立通道,或讓本機 TCP proxy 在該處監聽。以 Windows netsh interface portproxy 為例,它可以將本機連接埠轉送到可連線的遠端 Ollama,無須修改 OrionChat。Hollama 會將你輸入的任何位址視為連線的基底 URL,其自架指南也涵蓋位於其他裝置上的 Ollama 伺服器:在 Ollama 端將 Hollama 的來源加入 OLLAMA_ORIGINS。因此,除非透過通道或 proxy 連線到 Ollama,否則 Ollama 必須監聽 loopback 以外的位址,而 Ollama API 不要求登入或金鑰。由此可得兩項瀏覽器規則。透過 HTTPS 提供的頁面無法呼叫公用 IP 位址上的純 HTTP endpoint,主控台會印出 Mixed Content: The page at 'https://chat.example.com/' was loaded over HTTPS, but requested an insecure resource 'http://203.0.113.10:11434/api/tags'. This request has been blocked.。Loopback 有獨立的例外:Mixed Content 規格只會封鎖不具潛在可信性的 URL,而 Secure Contexts 規格將 localhost、127.0.0.0/8 與 ::1 視為具潛在可信性,因此同一個 HTTPS 頁面可以呼叫 http://localhost:11434 或 http://127.0.0.1:11434。以下的 SSH tunnel 正是依賴這項例外。自版本 142 起,當頁面來自 https://chat.example.com 等公用網站時,Chrome 會增加一個步驟:頁面對 loopback 或本機網路位址發出的請求,必須等到使用者在權限提示中允許本機網路存取。當主機名稱是 192.168.0.1 這類私有 IP literal、.local 名稱,或 fetch 指定 targetAddressSpace: "local" 時,Chrome 也會將需要權限的 HTTP 請求豁免於對本機網路 endpoint 的 mixed-content 檢查。透過通道在 http://localhost 開啟的頁面本身已位於 loopback,因此不會套用該提示。對任何其他來源的呼叫都會遭到拒絕,並顯示 has been blocked by CORS policy: No 'Access-Control-Allow-Origin' header is present on the requested resource,直到你允許該來源為止。
Ollama 文件所述的變更這兩項設定方式,是使用 systemd override。
sudo systemctl edit ollama.service[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=https://chat.example.com"sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo ss -lntp | grep 11434現在,ss 應會在原本顯示 127.0.0.1:11434 的位置印出 0.0.0.0:11434。只有在防火牆或具驗證功能的 proxy 已控制可連線到該連接埠的使用者時,才應進行這項變更,因為開放的 11434 就是開放的模型伺服器,大量掃描器很快便會找到新的公開連接埠。以下的 SSH tunnel 可完全避開這個問題:頁面會在 localhost 來源上執行,而 Ollama 預設允許該來源,且連接埠不會離開該主機。
每個都能使用遠端 Ollama 或 vLLM 端點嗎
Open WebUI 可以,而且連線是在伺服器端建立。OLLAMA_BASE_URL=http://model-host:11434 會將它指向 Ollama。對於 vLLM,請設定 OPENAI_API_BASE_URL=http://model-host:8000/v1,並保留 vLLM 提供 API 的 /v1。只有在伺服器啟動時設定了金鑰,才需要設定 OPENAI_API_KEY,因為 Open WebUI 的 vLLM 指南在其他情況下不使用驗證。其他相容於 OpenAI 的伺服器,則應使用其文件指定的基底路徑,不一定是 /v1。OPENAI_API_BASE_URLS 可接受以分號分隔的多個後端。
LibreChat 可以,方法是使用上方所示自訂端點的 baseURL。該請求同樣會離開伺服器,因此不受瀏覽器規則限制。在聊天視窗之外也能使用相同的基底 URL 和相同的佔位金鑰;這樣就足以將 程式碼代理指向你已經託管的模型。
Hollama 可以指向你在設定中輸入的任何端點。其 Ollama 連線提供可編輯的基底 URL,預設為 http://localhost:11434;此外,Hollama 也提供相容於 OpenAI 的連線,預設為 http://localhost:8080/v1,這就是連接 vLLM 的方式。請求會離開瀏覽器,因此上方章節的所有內容同樣適用。OrionChat 沒有遠端端點的設定。其端點寫死在程式中,Ollama 固定使用 http://localhost:11434/v1/chat/completions;其 README 表示請求會直接傳送至各提供者的官方 API。遠端 Ollama 可透過 SSH tunnel 或 local TCP proxy 連線,讓它在該本機埠上回應;但 OrionChat 完全沒有設定 vLLM 伺服器的選項。
將介面與模型分離,是遠端端點最實用的用途。將介面放在小型主機上,並將模型放在具備足夠記憶體的位置。這也是決定 應由 Ollama 或 vLLM 提供請求服務的時機,因為當多人同時與模型互動時,兩者的行為差異很大。如果模型伺服器尚未建立,請先在 VPS 上執行 Ollama;若是僅使用 CPU 的主機,請先閱讀Ollama 與 llama.cpp 的比較,再選擇執行工具。
在 0.0.0.0 上發布沒有登入功能的聊天介面
Open WebUI 的強化安全頁面指出,這個專案「是為私人且受信任的網路所建置,與資料庫、容器登錄檔及 CI 伺服器等其他自架基礎架構相同」,並要求將其置於 VPN 後方,或置於具備驗證功能的反向代理後方。完全沒有登入功能的專案,至少也應採用相同的處理方式。
在信任任何服務之前,先檢查目前有哪些服務正在監聽。
sudo ss -lntp | grep -E ':(3000|3080|4173|11434)'出現 127.0.0.1:3000 的行才是你要的結果。出現 0.0.0.0:3000 的行表示服務會在所有位址上監聽,而 Docker 預設會讓每個外部來源 IP 存取已發布的連接埠。除非 Docker 的 DOCKER-USER chain 或服務供應商的防火牆封鎖該流量,否則你的聊天介面就在公用網際網路上。從你自己的機器執行 curl -sI http://YOUR.VPS.IP:3000,若收到 HTTP/1.1 200 OK 回應,就能更直接地確認這一點。
使用 WEBUI_AUTH=False 關閉 Open WebUI 的登入功能,只適合沒有其他人能存取的單一使用者機器。其文件也指出,這項設定只適用於尚未註冊任何使用者的安裝,因此不能套用到已經存在帳號的環境。
模式一:繫結至 loopback,透過 SSH 存取。 將每個連接埠發布至 127.0.0.1,再轉送所需的連接埠:ssh -N -L 3000:127.0.0.1:3000 you@vps.example.com,並在筆記型電腦上開啟 http://localhost:3000。此模式需要 Docker Engine 28.0.0 或更新版本;較舊版本會讓同一 L2 segment 上的主機存取發布至 localhost 的連接埠。對於 OrionChat,在同一個指令中使用 -L 11434:127.0.0.1:11434 轉送模型連接埠,並讓 Ollama 維持在 loopback 上。Hollama 可以直接存取 Ollama,但使用相同的轉送方式可讓 Ollama 不暴露於公用網際網路,因此對 Hollama 來說也是較安全的做法。此模式的安全性取決於 SSH 設定,因此應搭配 僅限金鑰的 SSH 與強化的 sshd。
模式二:在應用程式收到請求前先進行驗證的反向代理。 讓應用程式維持在 loopback 上,由代理使用 443 埠,並在前方加入單一登入。使用 由 Docker Compose labels 驅動的 Traefik 搭配 作為身分識別提供者的 Authentik,可讓主機上的每個應用程式共用一組登入方式與一張憑證。將 Open WebUI 置於 TLS(傳輸層安全性)後方時,設定 WEBUI_SESSION_COOKIE_SECURE=true 與 WEBUI_SESSION_COOKIE_SAME_SITE=strict。也應縮短 JWT_EXPIRES_IN 的期限;其預設值為四週,因為 Open WebUI 的文件指出,未使用 Redis 時,登出不會使 token 失效,token 會持續可用,直到自行到期。
模式二無法解決僅支援瀏覽器的專案。頁面前方的代理無法保護模型端點,而頁面向不同主機名稱發出的 fetch 不會帶上你的 session cookie。因此,Ollama 前方的驗證代理會以重新導向至登入表單回應,聊天功能也會失敗。請將模型端點路由至與頁面相同的主機名稱下,或改用模式一。
選哪一個
如果有其他人會使用,請執行 Open WebUI。它提供真正的帳號管理,新使用者會先進入核准佇列,其維護者也發布了可依循的強化安全指引。如果需要 LDAP 或管理介面,請執行 LibreChat;若要使用管理介面,請設定 ADMIN_PANEL_SESSION_SECRET,並以 docker stats 確認其 5 個服務、啟用管理介面時的 6 個服務,以及模型本身確實符合資源條件,再依賴這項配置。如果是在小型主機上由單一使用者操作,而且模型已占用大部分 RAM,請透過 SSH tunnel 提供 Hollama 或 OrionChat,讓瀏覽器保存狀態。在 VPS 上,錯誤的做法是將其中任何一個發布在 0.0.0.0,且前方沒有任何登入驗證。
FAQ
直接將 Open WebUI 暴露在公開 IP 上是否安全?
Open WebUI 的強化安全頁面將其描述為供私人且受信任網路使用的軟體,與資料庫或 CI 伺服器屬於同一類別。它確實提供正式的帳戶機制。第一個帳戶會成為管理員,後續帳戶則會維持 pending,直到獲得核准,因此安全性遠高於完全沒有登入機制的 UI。仍應將它置於具備 TLS 的反向代理後方,並在可行時使用單一登入。將容器連接埠發布為 127.0.0.1:3000:8080,並在依賴 loopback 發布進行隔離前使用 Docker Engine 28.0.0 或更新版本。Docker 警告,較舊版本可能讓同一 L2 網段上的主機連線到發布至 localhost 的連接埠。
哪個 Open WebUI 替代方案在 VPS 上使用的 RAM 最少?
以瀏覽器為基礎的方案,也就是 Hollama 和 OrionChat,因為應用程式會在用戶端執行。伺服器只需傳送靜態檔案,而 OrionChat 完全不需要應用程式容器。Open WebUI 會在記憶體中保留 Python 程序、資料庫,以及預設的本機 embedding model。請使用 docker stats --no-stream 在自己的主機上確認數值,因為實際用量會隨啟用的功能而變動。
這些聊天 UI 能使用其他主機上的 Ollama 伺服器嗎?
Open WebUI 和 LibreChat 可以,而且連線由其伺服器發起,因此不受瀏覽器規則限制。Open WebUI 請設定 OLLAMA_BASE_URL;LibreChat 則在自訂 endpoint 中設定 baseURL。對於 vLLM 或其他相容 OpenAI 的伺服器,請使用 OPENAI_API_BASE_URL,並填入該伺服器文件所述的 base path;vLLM 使用 /v1。只有在伺服器要求時才需要加入 API key。Hollama 也能指向任意位置,但請求會由瀏覽器發出,因此 endpoint 也必須能從瀏覽器連線。OrionChat 的 Ollama 位址固定為 http://localhost:11434,因此遠端 Ollama 需要使用 SSH tunnel,或使用本機 TCP proxy 將該連接埠轉送至可連線的遠端伺服器。
為什麼我的瀏覽器聊天 UI 無法連線至 Ollama?
幾乎所有情況都可由兩個原因解釋。Ollama 預設繫結至 127.0.0.1:11434,因此其他主機上的瀏覽器無法直接連線,除非變更 OLLAMA_HOST,或由 tunnel 或 proxy 提供存取路徑。Ollama 預設接受來自 localhost、127.0.0.1 和 0.0.0.0 的跨來源請求,因此從自有網域提供的頁面會被拒絕並顯示 No 'Access-Control-Allow-Origin' header is present on the requested resource,直到將該來源列入 OLLAMA_ORIGINS。如果頁面使用 HTTPS,而 endpoint 在公開 IP 位址上使用純 HTTP,瀏覽器會先以混合內容封鎖請求,Ollama 根本不會收到該請求。Loopback 位址(localhost、127.0.0.0/8 中的任何位址,例如 127.0.0.2,或 [::1])不受此限制。Chrome 也會在取得本機網路權限後,豁免使用私有 IP literal 的本機網路 HTTP 請求,例如 192.168.0.1、.local hostname,或 targetAddressSpace: "local";但仍須符合 Ollama 的 CORS 要求。在 systemctl edit ollama.service override 中同時設定兩個變數,或透過 SSH 轉送該連接埠,即可排除這個問題。