VPS için Open WebUI alternatifleri karşılaştırması
Open WebUI, LibreChat, Hollama ve OrionChat; herkese açık IP, RAM kullanımı, giriş desteği, uzak Ollama ve bakım yükü açısından karşılaştırılıyor.
Bir VPS üzerinde hangi Open WebUI alternatifi kullanılmalı
Open WebUI alternatifleri neredeyse her zaman, RAM'in ucuz olduğu ve hiçbir servisin genel bir adreste dinleme yapmadığı dizüstü bilgisayarlar üzerinden kıyaslanır. Bir VPS ise bu iki gerçeği de değiştirir ve bu durum sıralamayı etkiler. İkinci bir kişi sisteme giriş yaptığı anda Open WebUI doğru varsayılan seçenek olmaya devam eder; çünkü gerçek kullanıcı hesapları ve bir yönetici paneli ile birlikte gelir. Arayüz, RAM'in son gigabaytı için model ile rekabet ettiğinde ise daha hafif projeler öne çıkar. Bu başarının bedeli ise kimlik doğrulamadır: bu projelerde kimlik doğrulama özelliği bulunmaz.
Aşağıdaki tüm bilgiler, Ağustos 2026'da okunan, 20 Ekim 2026'da tekrar kontrol edilen ve 25 Ekim 2026'da Open WebUI, LibreChat, Hollama ve OrionChat için yeniden gözden geçirilen projelerin kendi dokümantasyonlarından alınmıştır. Ollama dokümantasyonu ve tarayıcı güvenlik kuralları 29 Ekim 2026 tarihinde tekrar kontrol edilmiştir. Dört eksen, yalnızca sunucu internetten erişilebilir hale geldiğinde ortaya çıkan kriterlerdir.
Genel IP üzerinde önem taşıyan dört temel unsur
- Modelin yanındaki bellek. Model sunucusu, sistemdeki en maliyetli süreçtir. Arayüzün kullandığı her megabayt, modelin kullanamayacağı bir megabayt demektir.
- Kimlik doğrulama. Bu projelerin bazıları kullanıcı hesapları ve rolleri içerir. Diğerleri ise yalnızca dizüstü bilgisayarınızda çalıştıklarını varsayar ve hiçbir giriş mekanizmasına sahip değildir.
- Uzak çıkarım. Yalnızca
127.0.0.1:11434adresine yönlendirilen bir arayüz, modelin arayüzle aynı makinede olmasını bekler. Modeli başka bir yere taşımak, yerel portu model sunucusuna ileten bir tünel veya yerel proxy kurulumu gerektirir. - Bakım. SQLite dosyası içeren tek bir container ile MongoDB ve arkasında vektör veritabanı bulunan altı container'ın yönetimi birbirinden farklı iş yükleridir.
Model arayüz için ne kadar RAM bırakır
Arayüz, sunucudaki en büyük kaynak tüketicisi değildir. Modelin kendisi öyledir. Yayınlanan indirme boyutları size alt sınırı verir; çünkü model yanıt verirken ağırlıkların bellekte yüklü olması gerekir ve bağlam önbelleği (context cache) ayrıldığında gerçek bellek kullanımı indirme boyutundan daha yüksek olur.
Bu grafiğin arkasındaki veriler
[
{
"label": "llama3.2:3b",
"download_gb": "2.0"
},
{
"label": "qwen3:4b",
"download_gb": "2.5"
},
{
"label": "gemma3:4b",
"download_gb": "3.4"
},
{
"label": "qwen3:8b",
"download_gb": "5.2"
}
]Bunlar, Ollama kütüphanesi sayfalarında 25 Ekim 2026 tarihinde basılan rakamlardır. Bunlar ölçüm değil, yayınlanmış boyutlardır. 4 GB RAM'e sahip bir VPS üzerinde, qwen3:4b modeli 2.5 GB boyutuyla işletim sistemi ve diğer her şey için 1.5 GB'tan az alan bırakır. Sohbet uzadıkça bağlam önbelleği bu alanı tüketir; bu nedenle ayarladığınız num_ctx değeri sadece kaliteyle ilgili değil, aynı zamanda bir bellek yönetimi kararıdır. qwen3:8b modeli ise 5.2 GB boyutuyla bu sunucuya hiçbir şekilde sığmaz. Dizüstü bilgisayar incelemelerinin asla değinmediği durum budur ve birkaç yüz megabaytlık bir sohbet arayüzünün modelin çalışıp çalışmayacağını belirlediği nokta burasıdır. Eğer bu etiketlerin çok üzerinde bir sunucu boyutlandırması yapıyorsanız, sadece CPU kullanılan bir VPS üzerinde 27B model için yapılan hesaplama, arayüzün belirleyici bir faktör olmaktan ne kadar hızlı çıktığını gösterir.
Herhangi bir incelemedeki sayıya güvenmek yerine ölçüm yapın. docker stats --no-stream komutunu konteyner başladıktan bir dakika sonra değil, gerçek kullanımdan bir saat sonra çalıştırın; çünkü önemli olan bellek, ilk kullanımda ayrılan bellektir. Ollama ayrıca beş dakikalık boşta kalma süresinden sonra ağırlıkları bellekten siler. Bu nedenle sohbetler arasında alınan bir okuma, tepe değerini düşük gösterir ve keep_alive ile modeli bellekte tutmadığınız sürece bir sonraki mesajda tüm yük tekrar oluşur.
Open WebUI: birden fazla kullanıcı için hâlâ varsayılan seçenek
Open WebUI tek bir image üzerinden çalışır ve verilerini tek bir volume içinde tutar.
docker run -d -p 127.0.0.1:3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:mainProje README dosyasındaki komut, her interface üzerinde dinleme yapan -p 3000:8080 adresini yayınlar. 127.0.0.1: ön eki, servisi loopback üzerinde tutar. Docker, 28.0.0 sürümünden eski releases sürümlerde aynı L2 segmentindeki host'ların localhost'a yayınlanan portlara erişebileceği konusunda uyarır. Bu nedenle izolasyon için bu binding'e güvenmeden önce Docker Engine 28.0.0 veya sonraki bir sürüm kullanılmalıdır. VPS üzerinde bu ön ek, satırdaki diğer tüm bölümlerden daha önemlidir; çünkü Docker kendi iptables kurallarını yazar ve yayınlanan bir port ufw deny kurallarınızı yok sayar.
Aşağıda açıklanan yöntemlerden biri olan tunnel veya proxy üzerinden sayfaya erişin ve ardından ilk hesabı oluşturun. Bu hesap administrator olur. Daha sonra sign-up otomatik olarak kapatılır. Bir administrator New Sign Ups seçeneğini yeniden etkinleştirene kadar yeni kayıt oluşturulamaz. Sonraki kayıtlar, belgelenen varsayılan değer olan DEFAULT_USER_ROLE ile birlikte pending rolüyle oluşturulur. Böylece sayfaya erişen yabancı biri, bir administrator onay vermeden modelinizi kullanamaz.
Open WebUI, daha fazla işlem yaptığı için aşağıdaki projelere kıyasla daha fazla memory tüketir. Kendi performance sayfasında, bu maliyete neden olan bileşenler açıklanır. Varsayılan embedding engine, container içinde bir sentence-transformers modeli yükler. RAG_EMBEDDING_ENGINE=ollama ayarlanırsa bu görev zaten çalıştırdığınız model server'a devredilir. AUDIO_STT_ENGINE=web, yerel bir speech-to-text modeli yüklenmesini önler. DATABASE_POOL_SIZE ayarlanmadan SQLite kullanıldığında pool, büyük bir dahili boyuta geri döner. Her connection kendi page cache'ini ve memory map'ini büyütür. Bu nedenle küçük bir sistemde DATABASE_POOL_SIZE=8 ve DATABASE_SQLITE_PRAGMA_MMAP_SIZE=0 ayarlanmalıdır. Kullanıcı yazmayı sürdürürken modelden completion isteyen autocomplete özelliği artık varsayılan olarak kapalıdır (ENABLE_AUTOCOMPLETE_GENERATION değeri False olur). Küçük bir sistemde bu özellik kapalı bırakılmalıdır.
LibreChat: çok kullanıcılı ve arkasında bir stack ile
git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat
cp .env.example .env
docker compose up -dArayüz 3080 numaralı port üzerinden yanıt verir. Bir giriş kutusundan çok kimlik sistemi gerektiğinde LibreChat incelenmelidir: LDAP ve OAuth2 girişlerini belgeler. Varsayılan compose dosyasında kullanıcılar, gruplar ve roller için bir yönetim paneli de tanımlıdır. Panel varsayılan yapılandırmayla çalışmaz. ADMIN_PANEL_SESSION_SECRET değerinin .env içinde ayarlanmış olmasını bekler. Bu değer en az 32 karakter olmalı ve varsayılanı bulunmamalıdır. İstenirse openssl rand -hex 32 ile bir değer üretilebilir. Panel, LibreChat sürecinin içinde değil, ayrı bir servis olarak çalışır. Ayrıca LibreChat v0.8.5 veya sonraki bir sürümü gerektirir. Bu özellik bir stack ile birlikte gelir.
Bu grafiğin arkasındaki veriler
[
{
"label": "OrionChat",
"containers": 0,
"notes": "static files, served by a web server you already run"
},
{
"label": "Hollama",
"containers": 1,
"notes": "one container serving a browser app"
},
{
"label": "Open WebUI",
"containers": 1,
"notes": "application and SQLite in one image"
},
{
"label": "LibreChat",
"containers": 5,
"notes": "api, MongoDB, Meilisearch, pgvector, RAG API"
}
]Varsayılan compose dosyası 5 servisi başlatır: api, MongoDB, Meilisearch, pgvector, RAG API. Altıncı servis olan yönetim paneli aynı dosyada bulunur ve secret ayarlandıktan sonra bu servislere katılır. Bu servislerin hiçbiri model değildir. MongoDB ve pgvector kendi belleklerini ister. 4 GB RAM bulunan bir sistemde bu bellek model için ayrılan bellekten kullanılır.
Dosyadaki iki servis port yayımlar. Bu eşlemelerin hiçbirinde bind adresi belirtilmez: API için 3080 ve yönetim paneli için host üzerindeki 3000 numaralı port kullanılır. 3000, ADMIN_PANEL_PORT değerinin varsayılanıdır. Bu nedenle her iki servis de çalışmaya başladığında tüm arayüzlerde dinler. Open WebUI de yukarıda 3000 numaralı portu kullandığından panel etkinleştirildiğinde aynı sistemde çakışma oluşur. Stack internete açılmadan önce her iki servisi docker-compose.override.yml içinde 127.0.0.1 değerine yeniden bağlayın.
Yükseltmeler bir git işlemidir. Hataların çoğu bu aşamada yapılır.
docker compose down
git pull
docker compose pull
docker compose up -dİzlenen docker-compose.yml dosyasını düzenlediyseniz git pull bir conflict ile durur ve yükseltme yarım kalır. Değişiklikleri bunun için proje tarafından sağlanan docker-compose.override.yml içine koyun. Secret değerlerini .env içinde tutun. Her iki dosya da izlenmez. Bu nedenle git pull bu dosyalara dokunmaz.
Özel bir endpoint kullanarak LibreChat'i kendi model sunucunuza yönlendirin. Bu ayar librechat.yaml içinde yapılır.
endpoints:
custom:
- name: "Ollama"
apiKey: "ollama"
baseURL: "http://model-host:11434/v1/"
models:
default: ["llama3.2"]
fetch: true
titleConvo: true
titleModel: "current_model"
modelDisplayLabel: "Ollama"model-host değerini Ollama çalıştıran sistemin adresiyle değiştirin. Ollama bu değeri yok saysa da apiKey alanı bulunmalıdır. Bu nedenle bir placeholder kullanılabilir. LibreChat Docker içinde, Ollama ise aynı makinede çalışıyorsa container içindeki localhost container'ın kendisini ifade eder. Bu durumda bunun yerine host.docker.internal kullanılmalıdır.
Hollama ve OrionChat: işi tarayıcı yapar
Hollama, tarayıcı tabanlı bir uygulamayı küçük bir container üzerinden sunar. Sohbetler sunucuda değil, tarayıcınızın depolama alanında tutulur.
docker run -d --restart unless-stopped -p 127.0.0.1:4173:4173 --name hollama ghcr.io/fmaclen/hollama:latestBu rehberin self-hosting bölümündeki komut sürümü, durdurulduğunda container'ı silen --rm bayrağını kullanır; bu nedenle yeniden başlatma sonrasında arayüz geri gelmez.
OrionChat daha da ileri gider ve hiçbir sunucu bileşeni barındırmaz. Depoyu klonlayın ve klasörü halihazırda çalıştırdığınız web sunucusu ile sunun ya da index.html dosyasını diskten açın. API anahtarları tarayıcının localStorage alanında saklanır, sohbet geçmişi tarayıcıda kalır ve uygulama, sohbet sayısı 512'yi geçtiğinde en eski sohbetleri siler. OrionChat'in Ollama adresi kaynak kodunda (js/script.js) http://localhost:11434 olarak sabitlenmiştir ve ayarlarında bunu değiştirecek bir alan bulunmaz.
Her iki projede de giriş sistemi yoktur. Bir dizüstü bilgisayarda bu durum sorun yaratmaz. Bir VPS üzerinde ise sayfanın asla 0.0.0.0 üzerinde yayınlanmaması gerektiği ve gözden kaçması daha kolay olan şu gerçek anlamına gelir: modeli sunucu değil, tarayıcı çağırır.
Bu tek gerçek, bu iki uygulamanın nerede kullanılabilir olduğunu belirler. Tarayıcınızın Ollama'ya doğrudan erişebilmesi gerekir. OrionChat için bu her zaman tarayıcıyı çalıştıran makinedeki localhost:11434 anlamına gelir; bu nedenle uzak bir model, bir tünel veya orada dinleme yapan yerel bir TCP proxy gerektirir. Örneğin Windows netsh interface portproxy, OrionChat'i değiştirmeden bu yerel portu erişilebilir bir uzak Ollama'ya yönlendirebilir. Hollama, bağlantının temel URL'si olarak girdiğiniz her adresi kabul eder ve self-hosting rehberi, başka bir cihazdaki Ollama sunucusunu kapsar: Hollama'nın kaynağını Ollama tarafındaki OLLAMA_ORIGINS içine ekleyin. Dolayısıyla, Ollama'ya bir tünel veya proxy üzerinden erişmediğiniz sürece, Ollama'nın loopback dışında da dinleme yapması gerekir ve Ollama'nın API'si herhangi bir giriş veya anahtar talep etmez. Buradan iki tarayıcı kuralı çıkar. HTTPS üzerinden sunulan bir sayfa, genel bir IP adresindeki düz HTTP uç noktasını çağıramaz ve konsol Mixed Content: The page at 'https://chat.example.com/' was loaded over HTTPS, but requested an insecure resource 'http://203.0.113.10:11434/api/tags'. This request has been blocked. hatasını yazdırır. Loopback'in ayrı bir muafiyeti vardır: Mixed Content (Karışık İçerik) spesifikasyonu yalnızca potansiyel olarak güvenilir olmayan URL'leri engeller ve Secure Contexts (Güvenli Bağlamlar) spesifikasyonu localhost, 127.0.0.0/8 ve ::1 adreslerini potansiyel olarak güvenilir sayar; bu nedenle aynı HTTPS sayfası http://localhost:11434 veya http://127.0.0.1:11434 adreslerini çağırabilir. Aşağıdaki SSH tünelinin dayandığı muafiyet budur. 142. sürümden itibaren Chrome, sayfa https://chat.example.com gibi genel bir siteden geldiğinde bir adım ekler: buraya yapılan loopback veya yerel ağ adresi isteği, kullanıcı bir izin isteminde yerel ağ erişimine onay verene kadar bekletilir. Chrome ayrıca, ana bilgisayar adı 192.168.0.1 gibi özel bir IP değişmezi, .local adı olduğunda veya fetch işlemi targetAddressSpace: "local" belirttiğinde, yerel ağ uç noktalarına yapılan izin gerektiren HTTP isteklerini karışık içerik denetimlerinden muaf tutar. Tünel üzerinden http://localhost adresinde açtığınız bir sayfa zaten loopback üzerindedir, bu nedenle bu istem onun için geçerli değildir. Başka bir kaynağa yapılan çağrı, siz o kaynağa izin verene kadar has been blocked by CORS policy: No 'Access-Control-Allow-Origin' header is present on the requested resource hatasıyla reddedilir.
Ollama'nın her iki ayarı değiştirmek için belgelediği yöntem bir systemd geçersiz kılma (override) işlemidir.
sudo systemctl edit ollama.service[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=https://chat.example.com"sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo ss -lntp | grep 11434ss artık daha önce 127.0.0.1:11434 yazdırdığı yerde 0.0.0.0:11434 yazdırmalıdır. Bu değişikliği yalnızca bir güvenlik duvarı veya kimlik doğrulayan bir proxy, porta kimin erişebileceğini zaten kontrol ediyorsa yapın; çünkü açık bir 11434 portu, açık bir model sunucusu demektir ve toplu tarayıcılar yeni bir genel porta hızla ulaşır. Aşağıdaki SSH tüneli tüm bu sorunu ortadan kaldırır: sayfa o zaman Ollama'nın varsayılan olarak izin verdiği bir localhost kaynağında çalışır ve port asla kutunun dışına çıkmaz.
Her biri uzak bir Ollama veya vLLM uç noktası kullanabilir mi
Open WebUI bunu yapabilir ve bağlantı sunucu tarafında kurulur. OLLAMA_BASE_URL=http://model-host:11434, onu Ollama'ya yönlendirir. vLLM için, vLLM'in API'sini sunduğu /v1 yolunu koruyarak OPENAI_API_BASE_URL=http://model-host:8000/v1 ayarını yapılandırın. Open WebUI'nin vLLM kılavuzu aksi belirtilmedikçe kimlik doğrulaması kullanmadığından, OPENAI_API_KEY ayarını yalnızca sunucu bir anahtarla başlatılmışsa yapın. OpenAI uyumlu diğer sunucular, her zaman /v1 olmayan, kendi belgelerinde belirtilen temel yolları kabul eder. OPENAI_API_BASE_URLS, noktalı virgülle ayrılmış birden fazla arka ucu kabul eder.
LibreChat, yukarıda gösterilen özel uç noktanın baseURL aracılığıyla bunu yapabilir. Bu istek de sunucudan çıktığı için tarayıcı kuralı geçerli olmaz. Aynı temel URL ve aynı yer tutucu anahtar, sohbet penceresinin dışında da çalışır; kodlama aracısını halihazırda barındırdığınız modele yönlendirmek için gereken tek şey budur.
Hollama, ayarlarına yazdığınız herhangi bir uç noktaya yönlendirilebilir. Ollama bağlantısı, varsayılan olarak http://localhost:11434 olan düzenlenebilir bir temel URL'ye sahiptir; bunun yanı sıra Hollama, vLLM'e giden yol olan ve varsayılan olarak http://localhost:8080/v1 olan OpenAI uyumlu bir bağlantı sunar. İstek tarayıcınızdan çıktığı için yukarıdaki bölümdeki her şey bunun için de geçerlidir. OrionChat'in uzak bir uç nokta için ayarı yoktur. Uç noktaları sabit kodlanmıştır; Ollama http://localhost:11434/v1/chat/completions adresine sabitlenmiştir ve README dosyası, isteklerin doğrudan her sağlayıcının resmi API'sine gittiğini belirtir. Uzak bir Ollama'ya, SSH tüneli veya o yerel portta yanıt vermesini sağlayan yerel bir TCP proxy aracılığıyla ulaşılabilir; vLLM sunucusu için ise hiçbir ayar bulunmamaktadır.
Arayüzü modelden ayırmak, uzak bir uç noktanın size sağladığı en yararlı şeydir. Arayüzü küçük bir kutuya, modeli ise belleğin olduğu yere koyun. Aynı zamanda istekleri Ollama'nın mı yoksa vLLM'in mi karşılaması gerektiğine karar vermenin zamanı da budur, çünkü birden fazla kişi aynı anda modelle konuştuğunda ikisi çok farklı davranır. Model sunucusu henüz mevcut değilse, bir VPS üzerinde Ollama çalıştırarak başlayın ve yalnızca CPU içeren bir kutuda, bir çalıştırıcı seçmeden önce Ollama ile llama.cpp'nin nasıl karşılaştırıldığını okuyun.
0.0.0.0 üzerinde oturum açma olmadan chat arayüzü yayınlanmamalıdır
Open WebUI'nin güvenlik sertleştirme sayfasında projenin "veritabanları, container registry'leri ve CI sunucuları gibi self-hosted altyapılara benzer şekilde özel ve güvenilir ağlar için tasarlandığı" belirtilir. Ayrıca arayüzün bir VPN'in arkasına veya kimlik doğrulamalı bir reverse proxy'nin arkasına alınması önerilir. Hiç oturum açma mekanizması olmayan bir proje için de en az aynı koruma uygulanmalıdır.
Herhangi bir bileşene güvenmeden önce hangi portların dinlendiği kontrol edilmelidir.
sudo ss -lntp | grep -E ':(3000|3080|4173|11434)'127.0.0.1:3000 içeren satır beklenen yapılandırmadır. 0.0.0.0:3000 içeren satır, servisin tüm adreslerde dinlediği anlamına gelir. Docker, varsayılan olarak her harici kaynak IP'sinin yayınlanmış bir porta erişmesine izin verir. Docker'ın DOCKER-USER zincirindeki bir kural veya sağlayıcınızın firewall'u bu erişimi engellemediği sürece chat arayüzünüz public internet üzerindedir. Kendi makinenizden curl -sI http://YOUR.VPS.IP:3000 komutunun HTTP/1.1 200 OK yanıtını vermesi, durumu daha doğrudan biçimde kesinleştirir.
Open WebUI oturum açma özelliğinin WEBUI_AUTH=False ile kapatılması, başkalarının erişemeyeceği bir makine için tek kullanıcılı bir ayardır. Dokümantasyonda bunun yalnızca kayıtlı kullanıcı bulunmayan bir kurulumda çalıştığı da belirtilir. Bu nedenle ayar, zaten hesapların bulunduğu bir kurulumda uygulanamaz.
Birinci yöntem: loopback adresine bağlayın ve SSH üzerinden erişin. Her portu 127.0.0.1 üzerinde yayınlayın. Ardından gereken portları ssh -N -L 3000:127.0.0.1:3000 you@vps.example.com ile forward edin ve dizüstü bilgisayarınızda http://localhost:3000 portunu açın. Bu yöntem için Docker Engine 28.0.0 veya sonraki bir sürüm kullanılmalıdır. Eski sürümler, aynı L2 segmentindeki host'ların localhost'a yayınlanan portlara erişmesine izin verir. OrionChat için model portunu aynı komutta -L 11434:127.0.0.1:11434 ile forward edin ve Ollama'yı loopback üzerinde bırakın. Hollama, Ollama'ya doğrudan erişebilir. Ancak aynı forward işlemi Ollama'yı public internetten uzak tuttuğu için Hollama açısından da daha güvenli yol budur. Bu yöntemin güvenliği SSH yapılandırmanızın güvenliğiyle sınırlıdır. Bu nedenle yöntemi yalnızca key ile SSH ve sertleştirilmiş sshd ile birlikte kullanın.
İkinci yöntem: uygulama isteği görmeden önce kimlik doğrulayan bir reverse proxy kullanın. Uygulamayı loopback üzerinde tutun. 443 numaralı portun yönetimini proxy'ye bırakın ve önüne single sign-on ekleyin. Docker Compose label'larıyla yönetilen Traefik ile identity provider olarak Authentik, makinedeki tüm uygulamalar için tek bir oturum açma noktası ve tek bir sertifika sağlar. Open WebUI TLS (transport layer security) arkasında çalışırken WEBUI_SESSION_COOKIE_SECURE=true ve WEBUI_SESSION_COOKIE_SAME_SITE=strict ayarlanmalıdır. Open WebUI, Redis olmadan oturum kapatmanın token'ı geçersiz kılmadığını ve token'ın süresi kendiliğinden dolana kadar kullanılabildiğini belirtir. Bu nedenle dört haftalık varsayılan süre olan JWT_EXPIRES_IN değeri de kısaltılmalıdır.
İkinci yöntem yalnızca tarayıcı üzerinden çalışan projeleri kurtarmaz. Sayfanın önündeki proxy, model endpoint'ini korumaz. Ayrıca bu sayfadan farklı bir hostname'e yapılan fetch isteği session cookie'yi taşımaz. Bu nedenle Ollama'nın önündeki kimlik doğrulayan proxy, login formuna yönlendirme yanıtı verir ve chat çalışmaz. Model endpoint'ini sayfayla aynı hostname altında yönlendirin veya birinci yöntemi kullanın.
Hangisini seçmeli
Sizden başka birinin kullanacağı bir sistem kuruyorsanız Open WebUI çalıştırın. Gerçek kullanıcı hesapları desteklenir, yeni kullanıcılar onay kuyruğuna düşer ve geliştiricileri takip edebileceğiniz güvenlik sıkılaştırma rehberleri yayınlar. LDAP veya bir yönetim paneline ihtiyacınız varsa LibreChat kullanın, panel için ADMIN_PANEL_SESSION_SECRET ayarını yapın ve docker stats ile beş servisinin (panel ile altı) ve modelinizin, sisteme güvenmeden önce donanım kaynaklarınıza sığıp sığmadığını doğrulayın. Eğer modelin RAM'in büyük kısmını tükettiği küçük bir sunucuda tek kişiyseniz, Hollama veya OrionChat'i bir SSH tüneli üzerinden sunun ve durum bilgisini tarayıcıda tutun. Bir VPS üzerinde yapılabilecek en büyük hata, herhangi birini giriş ekranı olmadan doğrudan 0.0.0.0 üzerinden dış dünyaya açmaktır.
FAQ
Open WebUI doğrudan genel bir IP adresi üzerinden dış dünyaya açılmalı mı?
Kendi güvenlik dokümantasyonu, bu yazılımı veritabanı veya CI sunucusu gibi özel ve güvenilir ağlar için tasarlanmış bir araç olarak tanımlar. Yazılımın kendi kullanıcı hesapları mevcuttur; ilk oluşturulan hesap yönetici olurken, sonrakiler onaylanana kadar pending durumunda kalır. Bu yönüyle giriş ekranı olmayan arayüzlerden çok daha güvenlidir. Yine de yazılımı TLS destekli bir reverse proxy arkasına almalı ve mümkünse tek oturum açma (SSO) yöntemini kullanmalısınız. Konteyner portunu 127.0.0.1:3000:8080 olarak yayınlayın ve izolasyon için loopback yayınlama yöntemine güvenmeden önce Docker Engine 28.0.0 veya daha güncel bir sürüm kullanın. Docker, daha eski sürümlerde aynı L2 segmentindeki ana bilgisayarların localhost'a yayınlanan portlara erişebileceği konusunda uyarmaktadır.
Bir VPS üzerinde en az RAM tüketen Open WebUI alternatifi hangisidir?
Tarayıcı tabanlı olan Hollama ve OrionChat, çünkü uygulama istemci tarafında çalışır. Sunucu yalnızca statik dosyaları gönderir; OrionChat ise herhangi bir uygulama konteynerine ihtiyaç duymaz. Open WebUI ise bir Python süreci, bir veritabanı ve varsayılan olarak yerel bir embedding modelini bellekte tutar. Etkinleştirdiğiniz özelliklere göre bellek kullanımı değişeceğinden, kendi sunucunuzdaki değerleri docker stats --no-stream ile doğrulayın.
Bu sohbet arayüzleri başka bir sunucudaki Ollama servisini kullanabilir mi?
Open WebUI ve LibreChat bunu yapabilir; bağlantı sunucu tarafından kurulduğu için tarayıcı kısıtlamaları geçerli olmaz. Open WebUI için OLLAMA_BASE_URL değişkenini, LibreChat için ise özel bir uç nokta (endpoint) içerisinde baseURL değişkenini ayarlayın. vLLM veya OpenAI uyumlu başka bir sunucu için, o sunucunun dokümantasyonunda belirtilen temel yol ile OPENAI_API_BASE_URL değişkenini kullanın (vLLM için bu /v1 şeklindedir). API anahtarını yalnızca sunucu talep ediyorsa ekleyin. Hollama da herhangi bir adrese yönlendirilebilir ancak istek tarayıcınızdan geldiği için uç noktanın tarayıcınızdan erişilebilir olması gerekir. OrionChat'in Ollama adresi http://localhost:11434 olarak sabit kodlanmıştır; bu nedenle uzak bir Ollama sunucusu için bir SSH tüneli veya ilgili portu uzak sunucuya yönlendiren yerel bir TCP proxy gereklidir.
Tarayıcı tabanlı sohbet arayüzüm neden Ollama'ya ulaşamıyor?
Neredeyse tüm vakalar iki temel nedene dayanır. Ollama varsayılan olarak 127.0.0.1:11434 portunu dinler; bu nedenle OLLAMA_HOST değiştirilmedikçe veya bir tünel/proxy erişim sağlamadıkça, başka bir makinedeki tarayıcı ona doğrudan ulaşamaz. Ayrıca Ollama, varsayılan olarak localhost, 127.0.0.1 ve 0.0.0.0 adreslerinden gelen çapraz kaynaklı (cross-origin) istekleri kabul eder. Bu yüzden kendi alan adınız üzerinden sunulan bir sayfa, ilgili kaynak OLLAMA_ORIGINS listesine eklenmedikçe No 'Access-Control-Allow-Origin' header is present on the requested resource hatasıyla reddedilir. Eğer sayfa HTTPS üzerinden sunuluyor ve uç nokta genel bir IP adresinde düz HTTP kullanıyorsa, tarayıcı bu çağrıyı "mixed content" (karışık içerik) olarak engeller ve istek Ollama'ya hiç ulaşmaz. Loopback adresleri (localhost, 127.0.0.0/8 içindeki herhangi bir adres örneğin 127.0.0.2 veya [::1]) bu kısıtlamadan muaftır. Chrome ayrıca 192.168.0.1, .local gibi ana bilgisayar adları veya yerel ağ izni verildikten sonra targetAddressSpace: "local" gibi özel IP adresleri kullanan yerel ağ HTTP isteklerini de muaf tutar; ancak Ollama'nın CORS gereksinimleri yine de geçerlidir. Her iki değişkeni de bir systemctl edit ollama.service geçersiz kılma dosyasında ayarlayın veya portu SSH üzerinden yönlendirin; sorun çözülecektir.