Mga Alternatibo sa Open WebUI para sa VPS
Ihambing ang Open WebUI, LibreChat, Hollama at OrionChat sa VPS: RAM para sa model, login, remote Ollama at upkeep kapag public ang IP.
Aling alternatibo sa Open WebUI ang angkop sa isang VPS
Ang mga alternatibo sa Open WebUI ay karaniwang ikinukumpara sa laptop, kung saan mura ang RAM at walang serbisyong nakikinig sa public address. Binabago ng VPS ang dalawang kundisyong ito, kaya nagbabago rin ang ranggo. Open WebUI pa rin ang tamang default kapag may ikalawang user nang nagla-log in, dahil may kasama itong totoong user accounts at admin panel. Nanaig ang mas magaang proyekto kapag nakikipag-agawan ang interface sa model para sa huling gigabyte ng RAM. Ang kapalit nito ay authentication: wala silang authentication.
Ang lahat ng nasa ibaba ay batay sa sariling documentation ng bawat proyekto, na binasa noong August 2026, muling sinuri noong 20 October 2026, at muling sinuri para sa Open WebUI, LibreChat, Hollama at OrionChat noong 25 October 2026. Muling sinuri ang documentation ng Ollama at ang browser security rules noong 29 October 2026. Ang apat na axis ay ang mga aspetong lumilitaw lamang kapag naa-access mula sa internet ang server.
Apat na pamantayan na mahalaga lamang kapag public IP ang ginagamit
- Memory katabi ng model. Ang model server ang pinakamabigat na process sa server. Bawat megabyte na ginagamit ng interface ay megabyte na hindi magagamit ng model.
- Authentication. May user accounts at roles ang ilan sa mga project na ito. Ipinapalagay naman ng iba na sila lamang ang tumatakbo sa iyong laptop, kaya wala silang login.
- Remote inference. Ang UI na palaging nakaturo sa
127.0.0.1:11434ay nag-aakalang nasa parehong server ng interface ang model. Kung ilalagay ang model sa ibang lokasyon, kailangan ng tunnel o local proxy na nagpapasa ng local port papunta sa host ng model. - Maintenance. Ibang gawain ang isang container na may SQLite file kumpara sa anim na container na may MongoDB at vector database sa likod ng mga ito.
Gaano karaming RAM ang inilalaan ng model para sa interface
Hindi ang interface ang pinakamalaking kumukonsumo ng resources sa server. Ang model ang kumokonsumo nito. Ang mga published download size ang nagbibigay ng pinakamababang tantiya, dahil kailangang nasa memory ang weights habang sumasagot ang model. Mas mataas ang aktuwal na memory use kaysa sa download size kapag na-allocate na ang context cache.
Ang datos sa likod ng tsart na ito
[
{
"label": "llama3.2:3b",
"download_gb": "2.0"
},
{
"label": "qwen3:4b",
"download_gb": "2.5"
},
{
"label": "gemma3:4b",
"download_gb": "3.4"
},
{
"label": "qwen3:8b",
"download_gb": "5.2"
}
]Iyan ang mga figure na ipinakita ng Ollama library pages noong 25 October 2026. Published sizes ang mga ito, hindi aktuwal na sukat. Sa isang 4 GB VPS, ang qwen3:4b na may 2.5 GB ay nag-iiwan ng wala pang 1.5 GB para sa operating system at lahat ng iba pa. Kumokonsumo rin ng karagdagang memory ang context cache habang humahaba ang conversation. Kaya ang num_ctx na sine-set mo ay desisyon sa memory, hindi lamang sa kalidad. Ang qwen3:8b na may 5.2 GB ay hindi kasya sa server na iyon. Ito ang sitwasyong hindi karaniwang tinatalakay sa mga laptop roundup. Dito nakasalalay kung tatakbo ang model, kahit ilang daang megabytes lamang ang ginagamit ng chat interface. Kung nagso-size ka ng server para sa model na higit na malaki kaysa sa mga tag na ito, ipinapakita ng arithmetic para sa isang 27B model sa CPU-only VPS kung gaano kabilis tumigil ang interface sa pagiging salik na nagpapasya.
Magsukat sa halip na umasa sa anumang numero sa isang roundup, kabilang na ang nasa artikulong ito. Patakbuhin ang docker stats --no-stream isang oras matapos magsimula ang aktuwal na paggamit, hindi isang minuto matapos magsimula ang container, dahil sa unang paggamit ina-allocate ang memory na mahalaga sa pagsukat. Awtomatikong nire-release din ng Ollama ang weights makalipas ang limang minutong idle time. Kaya mas mababa kaysa sa peak ang reading na kinuha sa pagitan ng mga conversation. Sa susunod na message, muling ilo-load ang buong model maliban kung pananatiliin mong resident ang model gamit ang keep_alive.
Open WebUI: default pa rin para sa higit sa isang user
Tumatakbo ang Open WebUI mula sa isang image at iniimbak ang data nito sa isang volume.
docker run -d -p 127.0.0.1:3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:mainIpinopublish ng command sa project README ang -p 3000:8080, na nakikinig sa lahat ng interface. Pinananatili ito ng prefix na 127.0.0.1: sa loopback. Nagbababala ang Docker na sa mga release na mas luma sa 28.0.0, maaaring maabot ng mga host sa parehong L2 segment ang mga port na ipinublish sa localhost. Kaya gumamit ng Docker Engine 28.0.0 o mas bago bago umasa sa binding na iyon para sa isolation. Sa isang VPS, mas mahalaga ang prefix na iyon kaysa sa lahat ng iba pang bahagi ng linya, dahil gumagawa ang Docker ng sarili nitong iptables rules at binabalewala ng published port ang iyong ufw deny rules.
Buksan ang page sa pamamagitan ng tunnel o proxy na parehong inilalarawan sa ibaba, at pagkatapos ay gawin ang unang account. Magiging administrator ang account na iyon. Awtomatikong io-off ang sign-up hanggang sa muling i-on ng isang admin ang New Sign Ups. Ang mga susunod na signup ay ginagawa gamit ang role na pending, na dokumentadong default na DEFAULT_USER_ROLE. Kaya kahit maabot ng isang hindi awtorisadong tao ang page, hindi niya magagamit ang iyong model hanggang sa aprubahan siya ng admin.
Mas malaki ang memory na ginagamit ng Open WebUI kaysa sa mga project sa ibaba dahil mas marami itong ginagawa. Tinutukoy sa sarili nitong performance page ang mga bahaging kumokonsumo ng memory. Naglo-load ang default embedding engine ng isang sentence-transformers model sa loob ng container. Kapag itinakda ang RAG_EMBEDDING_ENGINE=ollama, ipinapasa ang gawaing iyon sa model server na pinapatakbo mo na. Pinipigilan ng AUDIO_STT_ENGINE=web ang pag-load ng lokal na speech-to-text model. Kapag SQLite ang gamit at hindi nakatakda ang DATABASE_POOL_SIZE, bumabalik ang pool sa malaking internal size. Gumagawa ang bawat connection ng sarili nitong page cache at memory map. Kaya sa maliit na box, itakda ang DATABASE_POOL_SIZE=8 at DATABASE_SQLITE_PRAGMA_MMAP_SIZE=0. Ang Autocomplete ay humihingi sa model ng completion habang nagta-type pa ang user. Naka-off na ito bilang default (ang default ng ENABLE_AUTOCOMPLETE_GENERATION ay False), kaya panatilihin itong naka-off sa maliit na box.
LibreChat: para sa maraming user, may stack sa likod nito
git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat
cp .env.example .env
docker compose up -dSumasagot ang interface sa port 3080. LibreChat ang dapat tingnan kapag kailangan mo ng identity system sa halip na simpleng login box. Nakadokumento rito ang LDAP at OAuth2 logins, at may admin panel din ang default compose file para sa users, groups, at roles. Hindi awtomatikong tumatakbo ang panel. Tumanggi itong magsimula hanggang ma-set ang ADMIN_PANEL_SESSION_SECRET sa .env. Kinakailangan ang value na hindi bababa sa 32 characters at walang default value, kaya mag-generate ng isa gamit ang openssl rand -hex 32 kung kailangan. Tumatakbo ang panel bilang hiwalay na service, hindi sa loob ng LibreChat process, at kailangan nito ang LibreChat v0.8.5 o mas bago. Kasama sa isang stack ang capability na ito.
Ang datos sa likod ng tsart na ito
[
{
"label": "OrionChat",
"containers": 0,
"notes": "static files, served by a web server you already run"
},
{
"label": "Hollama",
"containers": 1,
"notes": "one container serving a browser app"
},
{
"label": "Open WebUI",
"containers": 1,
"notes": "application and SQLite in one image"
},
{
"label": "LibreChat",
"containers": 5,
"notes": "api, MongoDB, Meilisearch, pgvector, RAG API"
}
]Sinisimulan ng default compose file ang 5 services: api, MongoDB, Meilisearch, pgvector, RAG API. May ikaanim na service, ang admin panel, sa parehong file. Sasama ito sa iba kapag na-set na ang secret nito. Wala sa mga ito ang model. Kailangan ng MongoDB at pgvector ng sarili nilang memory, at sa 4 GB na machine, iyon ang memory na kailangan ng model.
Dalawang service sa file ang nagpa-publish ng ports, at walang bind address na tinutukoy sa alinman sa mapping: ang API sa 3080 at ang admin panel sa host port 3000, na default ng ADMIN_PANEL_PORT. Dahil dito, parehong nakikinig ang mga ito sa lahat ng interface kapag tumatakbo na. Ginagamit din ng Open WebUI sa itaas ang port 3000, kaya magkakaroon ng conflict ang dalawa sa iisang machine kapag na-enable ang panel. I-rebind ang dalawa sa 127.0.0.1 sa docker-compose.override.yml bago ilantad sa internet ang stack.
Git operation ang mga upgrade. Ito ang bahaging madalas nagkakamali ang mga tao.
docker compose down
git pull
docker compose pull
docker compose up -dHihinto ang git pull dahil sa conflict kung in-edit mo ang tracked docker-compose.yml, at magiging bahagyang nailapat ang upgrade. Ilagay ang mga pagbabago mo sa docker-compose.override.yml, na inilaan ng project para rito, at itago ang secrets sa .env. Untracked ang dalawang file, kaya hindi sila gagalawin ng git pull.
Ituro ang LibreChat sa sarili mong model server gamit ang custom endpoint sa librechat.yaml.
endpoints:
custom:
- name: "Ollama"
apiKey: "ollama"
baseURL: "http://model-host:11434/v1/"
models:
default: ["llama3.2"]
fetch: true
titleConvo: true
titleModel: "current_model"
modelDisplayLabel: "Ollama"Palitan ang model-host ng address ng machine na nagpapatakbo ng Ollama. Kailangang naroon ang apiKey field kahit hindi ginagamit ng Ollama ang value nito, kaya sapat na ang placeholder. Kung tumatakbo ang LibreChat sa Docker at tumatakbo ang Ollama sa parehong machine, ang localhost sa loob ng container ay tumutukoy sa container mismo. Gamitin na lang doon ang host.docker.internal.
Hollama at OrionChat: browser ang gumagawa
Naghahatid ang Hollama ng browser application mula sa isang maliit na container. Nasa storage ng browser ang mga chat, hindi sa server.
docker run -d --restart unless-stopped -p 127.0.0.1:4173:4173 --name hollama ghcr.io/fmaclen/hollama:latestGinagamit ng bersyon ng self-hosting guide ng command na ito ang --rm. Tinatanggal nito ang container kapag huminto ito, kaya hindi na bumabalik ang interface pagkatapos ng reboot.
Mas malayo pa ang nararating ng OrionChat dahil wala itong server component. I-clone ang repository at i-serve ang folder gamit ang web server na pinapatakbo mo na, o buksan ang index.html mula sa disk. Naka-store ang API keys sa localStorage ng browser, nananatili sa browser ang chat history, at awtomatikong dine-delete ng app ang pinakamatandang chat kapag lumampas sa 512 ang bilang. Naka-fixed sa source nito ang Ollama address ng OrionChat (js/script.js) sa http://localhost:11434, at walang field sa settings nito para baguhin ito.
Walang login ang alinmang project. Ayos ito sa laptop. Sa VPS, nangangahulugan itong hindi dapat kailanman i-publish ang page sa 0.0.0.0. May isa pang madaling hindi mapansin: ang browser ang tumatawag sa model, hindi ang server.
Tinutukoy ng detalyeng ito kung saan magagamit ang dalawang ito. Kailangang direktang maabot ng browser mo ang Ollama. Para sa OrionChat, palaging nangangahulugan ito ng localhost:11434 sa machine na nagpapatakbo ng browser. Kaya kailangan ng tunnel o local TCP proxy na nakikinig doon para maabot ang remote model. Halimbawa, maaaring i-forward ng Windows netsh interface portproxy ang local port na iyon sa isang remote Ollama na naaabot sa network, nang hindi binabago ang OrionChat. Tumatanggap ang Hollama ng anumang address na ilalagay mo bilang base URL ng connection. Sinasaklaw din ng self-hosting guide nito ang Ollama server sa ibang device: idagdag ang origin ng Hollama sa OLLAMA_ORIGINS sa panig ng Ollama. Kaya kung hindi mo maaabot ang Ollama sa pamamagitan ng tunnel o proxy, kailangang makinig ang Ollama sa higit pa sa loopback. Wala ring hinihinging login o key ang Ollama API.
Dalawang browser rule ang sumusunod dito. Hindi maaaring tumawag ang page na naka-serve sa HTTPS sa plain HTTP endpoint sa public IP address. Ipi-print ng console ang Mixed Content: The page at 'https://chat.example.com/' was loaded over HTTPS, but requested an insecure resource 'http://203.0.113.10:11434/api/tags'. This request has been blocked.. May hiwalay na exemption ang loopback: bina-block lang ng Mixed Content spec ang mga URL na hindi potentially trustworthy. Itinuturing ng Secure Contexts spec na potentially trustworthy ang localhost, 127.0.0.0/8 at ::1. Kaya maaaring tumawag ang parehong HTTPS page sa http://localhost:11434 o http://127.0.0.1:11434. Ang exemption na ito ang ginagamit ng SSH tunnel sa ibaba.
Simula version 142, may karagdagang hakbang ang Chrome kapag galing ang page sa isang public site gaya ng https://chat.example.com. Maghihintay ang request nito sa loopback o local network address hanggang payagan ng user ang local network access sa permission prompt. Ine-exempt din ng Chrome sa mixed-content checks ang permission-gated HTTP requests papunta sa local-network endpoints kapag ang hostname ay private IP literal gaya ng 192.168.0.1, .local name, o kapag tinukoy ng fetch ang targetAddressSpace: "local". Ang page na binuksan mo sa http://localhost sa pamamagitan ng tunnel ay nasa loopback na, kaya hindi ito saklaw ng prompt na iyon. Tinatanggihan ang tawag sa anumang ibang origin gamit ang has been blocked by CORS policy: No 'Access-Control-Allow-Origin' header is present on the requested resource hanggang payagan mo ang origin na iyon.
Ang dokumentadong paraan ng Ollama para baguhin ang alinman sa dalawang setting ay systemd override.
sudo systemctl edit ollama.service[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=https://chat.example.com"sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo ss -lntp | grep 11434Dapat nang i-print ng ss ang 0.0.0.0:11434 kung saan dati nitong ini-print ang 127.0.0.1:11434. Gawin lamang ang pagbabagong ito kapag may firewall o authenticating proxy nang kumokontrol kung sino ang makakaabot sa port. Ang bukas na 11434 ay open model server, at mabilis na naaabot ng mass scanner ang bagong public port. Iniiwasan ng SSH tunnel sa ibaba ang buong isyung ito: tumatakbo ang page sa localhost origin, na pinapayagan ng Ollama bilang default, at hindi lumalabas sa machine ang port.
Maaari bang gumamit ang bawat isa ng remote Ollama o vLLM endpoint
Maaari ang Open WebUI, at sa server ginagawa ang koneksyon. Itinuturo ito ng OLLAMA_BASE_URL=http://model-host:11434 sa Ollama. Para sa vLLM, itakda ang OPENAI_API_BASE_URL=http://model-host:8000/v1, at panatilihin ang /v1 kung saan sini-serve ng vLLM ang API nito. Itakda lamang ang OPENAI_API_KEY kung sinimulan ang server gamit ang key, dahil walang authentication ang ginagamit sa gabay ng Open WebUI para sa vLLM. Para sa iba pang OpenAI-compatible server, gamitin ang base path na tinukoy sa sariling dokumentasyon ng mga ito. Hindi ito palaging /v1. Tumatanggap ang OPENAI_API_BASE_URLS ng ilang backend na pinaghihiwalay ng semicolon.
Magagawa ito ng LibreChat sa pamamagitan ng baseURL ng custom endpoint na ipinakita sa itaas. Lumalabas din sa server ang request na iyon, kaya hindi naaangkop dito ang browser rule. Gumagana rin sa labas ng chat window ang parehong base URL at parehong placeholder key. Sapat na iyon para ituro ang isang coding agent sa model na naka-host na.
Maaaring ituro ang Hollama sa anumang endpoint na ilalagay mo sa settings nito. May nae-edit na base URL ang Ollama connection nito na default sa http://localhost:11434. Bukod dito, nag-aalok ang Hollama ng OpenAI-compatible connection na default sa http://localhost:8080/v1. Ito ang ruta papunta sa vLLM. Lumalabas sa browser mo ang request, kaya naaangkop dito ang lahat ng nasa seksyon sa itaas. Walang setting ang OrionChat para sa remote endpoint. Hardcoded ang mga endpoint nito, at nakapirmi ang Ollama sa http://localhost:11434/v1/chat/completions. Nakasaad sa README nito na direktang ipinapadala ang mga request sa official API ng bawat provider. Maaabot ang remote Ollama sa pamamagitan ng SSH tunnel o local TCP proxy na magpapasagot dito sa local port na iyon. Wala rin itong anumang setting para sa vLLM server.
Ang paghihiwalay ng interface at model ang pinakamahalagang pakinabang ng remote endpoint. Ilagay ang interface sa maliit na machine, at ilagay ang model sa machine na may sapat na memory. Dito rin dapat magpasya kung Ollama o vLLM ang dapat mag-serve ng mga request, dahil magkaiba nang malaki ang pag-uugali ng mga ito kapag sabay-sabay na gumagamit ng model ang ilang tao. Kung wala pa ang model server, magsimula sa pagpapatakbo ng Ollama sa isang VPS, at kung CPU-only ang machine, basahin muna ang paghahambing ng Ollama sa llama.cpp bago pumili ng runner.
Huwag mag-publish ng chat UI na walang login sa 0.0.0.0
Ayon sa hardening page ng Open WebUI, ang proyekto ay “binuo para sa private at trusted networks, gaya ng iba pang self-hosted infrastructure tulad ng databases, container registries, at CI servers,” at inirerekomenda nitong ilagay ito sa likod ng VPN o reverse proxy na may authentication. Ang proyektong walang login ay dapat sumailalim man lang sa parehong proteksyon.
Suriin muna kung ano ang nakikinig bago ito pagkatiwalaan.
sudo ss -lntp | grep -E ':(3000|3080|4173|11434)'Ang line na may 127.0.0.1:3000 ang dapat mong makita. Ang line na may 0.0.0.0:3000 ay nangangahulugang nakikinig ang service sa lahat ng address, at bilang default, hinahayaan ng Docker na maabot ng bawat external source IP ang isang published port. Maliban kung bina-block ito ng isang rule sa DOCKER-USER chain ng Docker o ng firewall ng provider mo, nasa public internet ang chat interface mo. Mula sa sarili mong machine, mas direktang sinasagot ng curl -sI http://YOUR.VPS.IP:3000 na nagbabalik ng HTTP/1.1 200 OK ang tanong.
Ang pag-off ng login ng Open WebUI gamit ang WEBUI_AUTH=False ay setting para sa iisang user sa machine na walang ibang makakaabot. Sinasabi rin ng documentation nito na gagana lamang ito sa installation na walang registered users, kaya hindi mo ito mailalapat sa installation na mayroon nang mga account.
Pattern one: i-bind sa loopback at gamitin ito sa SSH. I-publish ang bawat port sa 127.0.0.1, pagkatapos ay i-forward ang kailangan mo: ssh -N -L 3000:127.0.0.1:3000 you@vps.example.com, at buksan ang http://localhost:3000 sa laptop mo. Gamitin ang Docker Engine 28.0.0 o mas bago para sa pattern na ito; hinahayaan ng mga mas lumang release na maabot ng mga host sa parehong L2 segment ang mga port na naka-publish sa localhost. Para sa OrionChat, i-forward ang model port sa parehong command gamit ang -L 11434:127.0.0.1:11434 at panatilihin ang Ollama sa loopback. Direktang maaabot ng Hollama ang Ollama, pero pinananatili ng parehong forward na hindi maabot ng public internet ang Ollama, kaya mas ligtas din itong paraan para sa Hollama. Kasing-lakas lamang ng SSH setup mo ang pattern na ito, kaya isabay ito sa SSH na key-only at hardened na sshd.
Pattern two: reverse proxy na nag-a-authenticate bago makita ng app ang request. Panatilihin ang app sa loopback, ipaubaya sa proxy ang port 443, at ilagay ang single sign-on sa unahan nito. Ang Traefik na pinapagana ng Docker Compose labels kasama ng Authentik bilang identity provider ay nagbibigay sa bawat app sa machine ng isang login at isang certificate. Kapag nasa likod ng TLS (transport layer security) ang Open WebUI, itakda ang WEBUI_SESSION_COOKIE_SECURE=true at WEBUI_SESSION_COOKIE_SAME_SITE=strict. Paikliin din ang JWT_EXPIRES_IN mula sa default nitong apat na linggo, dahil ayon sa documentation ng Open WebUI, kapag walang Redis, hindi naba-validate ang token sa pag-sign out: magagamit pa rin ito hanggang sa kusa itong mag-expire.
Hindi napoprotektahan ng pattern two ang mga proyektong browser-only. Hindi napoprotektahan ng proxy sa unahan ng page ang model endpoint, at hindi ipinapasa ng fetch mula sa page patungo sa ibang hostname ang session cookie mo. Dahil dito, sasagot ang authenticating proxy sa unahan ng Ollama gamit ang redirect papunta sa login form, at mabibigo ang chat. I-route ang model endpoint sa ilalim ng parehong hostname ng page, o gamitin ang pattern one.
Alin ang pipiliin
Kung may ibang gagamit bukod sa iyo, gamitin ang Open WebUI. May totoong user account ito, inilalagay sa approval queue ang mga bagong user, at naglalabas ang mga maintainer nito ng hardening guidance na maaari mong sundin. Kung kailangan mo ng LDAP o admin panel, gamitin ang LibreChat, i-set ang ADMIN_PANEL_SESSION_SECRET kung kailangan mo ang panel, at gamitin ang docker stats upang kumpirmahing sapat ang resources para sa limang serbisyo nito, anim kapag may panel, pati na sa model bago ka umasa rito. Kung isang tao lamang ang gagamit sa maliit na box kung saan halos lahat ng RAM ay nagamit na ng model, i-serve ang Hollama o OrionChat sa SSH tunnel at hayaan ang browser na magpanatili ng state. Ang maling setup sa isang VPS ay ang pag-publish ng alinman sa mga ito sa 0.0.0.0 nang walang login sa harap nito.
FAQ
Ligtas bang direktang ilantad ang Open WebUI sa public IP?
Inilalarawan ito ng sarili nitong hardening page bilang software para sa private at trusted network, kapareho ng kategorya ng database o CI server. May tunay itong mga account, at nagiging administrator ang unang account habang nananatiling pending ang mga kasunod hanggang ma-approve, kaya mas ligtas ito kaysa sa UI na walang login. Gayunman, ilagay pa rin ito sa likod ng reverse proxy na may TLS at, kung maaari, single sign-on. I-publish ang container port bilang 127.0.0.1:3000:8080 at gumamit ng Docker Engine 28.0.0 o mas bago bago umasa sa loopback publishing para sa isolation. Nagbababala ang Docker na sa mas lumang release, maaabot ng mga host sa parehong L2 segment ang mga port na naka-publish sa localhost.
Aling alternatibo sa Open WebUI ang pinakamaliit gumamit ng RAM sa isang VPS?
Ang mga browser-based, gaya ng Hollama at OrionChat, dahil sa client tumatakbo ang application. Static files lamang ang ipinapadala ng server, at hindi na kailangan ng OrionChat ng application container. May Python process, database, at bilang default, local embedding model sa memory ang Open WebUI. Kumpirmahin ang mga numero sa sarili mong box gamit ang docker stats --no-stream, dahil nagbabago ang mga ito depende sa mga feature na ino-on mo.
Magagamit ba ng mga chat UI na ito ang Ollama server sa ibang host?
Magagawa ito ng Open WebUI at LibreChat, at ang server nila ang kumokonekta, kaya walang browser rule na nalalapat. Itakda ang OLLAMA_BASE_URL para sa Open WebUI, o ang baseURL sa custom endpoint para sa LibreChat. Para sa vLLM o iba pang OpenAI-compatible server, gamitin ang OPENAI_API_BASE_URL kasama ang base path na nakadokumento ng server; /v1 ito para sa vLLM. Magdagdag lamang ng API key kung kailangan ito ng server. Maaari ring ituro ang Hollama kahit saan, ngunit mula sa browser mo nanggagaling ang request, kaya dapat maabot ng browser mo ang endpoint. Naka-hardcode ang Ollama address ng OrionChat sa http://localhost:11434, kaya kailangan ng SSH tunnel o local TCP proxy para sa remote Ollama na nagfo-forward ng port na iyon sa remote server na maaabot.
Bakit hindi maabot ng browser chat UI ko ang Ollama?
Dalawang sanhi ang sumasaklaw sa halos lahat ng kaso. Bilang default, naka-bind ang Ollama sa 127.0.0.1:11434, kaya hindi ito direktang maaabot ng browser sa ibang machine hanggang mabago ang OLLAMA_HOST o magkaroon ng access sa pamamagitan ng tunnel o proxy. Tumatanggap din bilang default ang Ollama ng cross-origin request mula sa localhost, 127.0.0.1, at 0.0.0.0, kaya tatanggihan ang page na inihahatid mula sa sarili mong domain nang may No 'Access-Control-Allow-Origin' header is present on the requested resource hanggang mailista ang origin na iyon sa OLLAMA_ORIGINS. Kung HTTPS ang page at plain HTTP sa public IP address ang endpoint, bina-block ng browser ang call bilang mixed content bago pa ito makita ng Ollama. Exempt ang mga loopback address (localhost, anumang address sa 127.0.0.0/8 gaya ng 127.0.0.2, o [::1]). Exempt din ng Chrome ang mga local-network HTTP request na gumagamit ng private IP literal gaya ng 192.168.0.1, mga hostname na .local, o targetAddressSpace: "local" matapos mabigyan ng local-network permission; nalalapat pa rin ang CORS requirement ng Ollama. Itakda ang parehong variable sa isang systemctl edit ollama.service override, o i-forward ang port sa SSH at mawawala ang problema.