SSD Nodes Learn Hosting plans →
Przewodniki Matt ConnorAutor: Matt Connor

Alternatywy dla Open WebUI na VPS: porównanie

Porównanie Open WebUI, LibreChat, Hollama oraz OrionChat pod kątem zużycia RAM na VPS. Sprawdź, jak zarządzać dostępem publicznym i zdalnym Ollama przy ograniczonych zasobach.

Która alternatywa dla Open WebUI jest odpowiednia na VPS

Alternatywy dla Open WebUI są niemal zawsze porównywane w środowisku laptopa, gdzie pamięć RAM jest tania, a żadna usługa nie nasłuchuje na publicznym adresie IP. VPS zmienia oba te fakty, co wpływa na ranking. Open WebUI pozostaje domyślnym wyborem w momencie, gdy loguje się druga osoba, ponieważ oferuje obsługę kont użytkowników oraz panel administratora. Lżejsze projekty wygrywają, gdy interfejs rywalizuje z modelem o ostatni gigabajt pamięci RAM. Ceną tego zwycięstwa jest uwierzytelnianie: projekty te go nie posiadają.

Wszystkie poniższe informacje pochodzą z dokumentacji poszczególnych projektów, odczytanej w sierpniu 2026 r., zweryfikowanej ponownie 20 października 2026 r. oraz sprawdzonej jeszcze raz dla Open WebUI, LibreChat, Hollama i OrionChat w dniu 25 października 2026 r. Dokumentacja Ollama oraz zasady bezpieczeństwa przeglądarek zostały ponownie sprawdzone 29 października 2026 r. Cztery osie oceny to te, które stają się istotne dopiero wtedy, gdy serwer jest dostępny z Internetu.

Cztery aspekty istotne wyłącznie przy publicznym adresie IP

  • Pamięć operacyjna dostępna dla modelu. Serwer modelu jest najbardziej zasobożernym procesem na serwerze. Każdy megabajt zajęty przez interfejs to megabajt, którego nie może wykorzystać model.
  • Uwierzytelnianie. Niektóre z tych projektów obsługują konta użytkowników i role. Inne zakładają, że są jedyną uruchomioną usługą na komputerze i nie posiadają żadnego mechanizmu logowania.
  • Zdalna inferencja. Interfejs użytkownika, który zawsze wskazuje na 127.0.0.1:11434, oczekuje obecności modelu na tej samej maszynie co interfejs. Umieszczenie modelu w innej lokalizacji wymaga użycia tunelu lub lokalnego proxy, które przekieruje ten lokalny port do hosta z modelem.
  • Utrzymanie. Jeden kontener z plikiem SQLite to inne zadanie niż sześć kontenerów z MongoDB i bazą wektorową w tle.

Ile pamięci RAM model pozostawia dla interfejsu

Interfejs nie jest najbardziej zasobożernym elementem na serwerze. Jest nim model. Opublikowane rozmiary plików do pobrania określają jedynie wartość minimalną, ponieważ wagi muszą znajdować się w pamięci operacyjnej podczas generowania odpowiedzi, a rzeczywiste zużycie pamięci jest wyższe niż rozmiar pliku po przydzieleniu pamięci podręcznej kontekstu.

WykresPublished download size of common Ollama models, October 2026
Dane, na których opiera się ten wykres
[
  {
    "label": "llama3.2:3b",
    "download_gb": "2.0"
  },
  {
    "label": "qwen3:4b",
    "download_gb": "2.5"
  },
  {
    "label": "gemma3:4b",
    "download_gb": "3.4"
  },
  {
    "label": "qwen3:8b",
    "download_gb": "5.2"
  }
]

Są to wartości, które strony biblioteki Ollama podawały 25 października 2026 roku. Są to rozmiary publikowane, a nie pomiary. Na serwerze VPS z 4 GB pamięci RAM, qwen3:4b o rozmiarze 2.5 GB pozostawia mniej niż 1,5 GB dla systemu operacyjnego i pozostałych procesów, a pamięć podręczna kontekstu uszczupla ten zasób w miarę trwania konwersacji. Dlatego ustawiana wartość num_ctx jest decyzją dotyczącą pamięci w takim samym stopniu, jak jakości odpowiedzi. Model qwen3:8b o rozmiarze 5.2 GB w ogóle nie zmieści się na takim serwerze. Jest to sytuacja, której zestawienia laptopów nigdy nie poruszają, a w której interfejs czatu zajmujący kilkaset megabajtów decyduje o tym, czy model w ogóle zadziała. Jeśli dobierasz parametry serwera dla modelu znacznie większego niż te wymienione, obliczenia dla modelu 27B na serwerze VPS tylko z CPU pokazują, jak szybko interfejs przestaje być wartością decydującą o czymkolwiek.

Należy dokonywać pomiarów, zamiast ufać liczbom z zestawień, w tym również tym. Uruchom docker stats --no-stream po godzinie rzeczywistego użytkowania, a nie minutę po starcie kontenera, ponieważ istotna pamięć jest przydzielana przy pierwszym użyciu. Ollama zwalnia wagi po pięciu minutach bezczynności, więc odczyt wykonany pomiędzy konwersacjami zaniża wartość szczytową, a kolejna wiadomość ponownie obciąża system, chyba że utrzymasz model w pamięci za pomocą keep_alive.

Open WebUI: nadal domyślne rozwiązanie dla więcej niż jednego użytkownika

Open WebUI działa z jednego obrazu i przechowuje dane w jednym wolumenie.

docker run -d -p 127.0.0.1:3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Polecenie w pliku README projektu publikuje -p 3000:8080, który nasłuchuje na wszystkich interfejsach. Prefiks 127.0.0.1: ogranicza usługę do interfejsu loopback. Docker ostrzega, że w wydaniach starszych niż 28.0.0 hosty w tym samym segmencie L2 mogą uzyskać dostęp do portów opublikowanych na localhost, dlatego przed poleganiem na tym powiązaniu w celu izolacji należy używać Docker Engine 28.0.0 lub nowszego. Na VPS ten prefiks ma większe znaczenie niż wszystkie pozostałe elementy wiersza, ponieważ Docker zapisuje własne reguły iptables, a opublikowany port omija reguły odmowy ufw.

Stronę należy otworzyć przez tunel lub proxy, opisane poniżej, a następnie utworzyć pierwsze konto. To konto otrzymuje uprawnienia administratora. Rejestracja zostaje wtedy automatycznie wyłączona do czasu, aż administrator ponownie włączy opcję New Sign Ups. Kolejne konta są tworzone z rolą pending, czyli udokumentowaną wartością domyślną DEFAULT_USER_ROLE, więc osoba postronna, która uzyska dostęp do strony, nadal nie może korzystać z modelu bez zatwierdzenia przez administratora.

Open WebUI zużywa więcej pamięci niż opisane poniżej projekty, ponieważ wykonuje więcej operacji. Na własnej stronie dotyczącej wydajności wskazuje komponenty odpowiedzialne za to zużycie. Domyślny silnik embeddingów ładuje model sentence-transformers wewnątrz kontenera. Ustawienie RAG_EMBEDDING_ENGINE=ollama przekazuje to zadanie używanemu już serwerowi modeli. AUDIO_STT_ENGINE=web zapobiega ładowaniu lokalnego modelu speech-to-text. W przypadku SQLite, gdy DATABASE_POOL_SIZE nie jest ustawiona, pula używa dużego rozmiaru wewnętrznego, a każde połączenie tworzy własną pamięć podręczną stron i mapowanie pamięci. Na małym serwerze należy więc ustawić DATABASE_POOL_SIZE=8 i DATABASE_SQLITE_PRAGMA_MMAP_SIZE=0. Autocomplete wysyła do modelu żądanie uzupełnienia, gdy użytkownik nadal wpisuje tekst. Obecnie jest domyślnie wyłączone (ENABLE_AUTOCOMPLETE_GENERATION ma domyślną wartość False), dlatego na małym serwerze należy pozostawić je wyłączone.

LibreChat: wielu użytkowników i stos usług za nim

git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat
cp .env.example .env
docker compose up -d

Interfejs nasłuchuje na porcie 3080. LibreChat warto wybrać, gdy potrzebny jest system tożsamości, a nie tylko formularz logowania: dokumentacja opisuje logowanie LDAP i OAuth2, a domyślny plik Compose definiuje również panel administracyjny do zarządzania użytkownikami, grupami i rolami. Panel nie uruchamia się domyślnie. Odmawia startu, dopóki ADMIN_PANEL_SESSION_SECRET nie zostanie ustawione w .env. Jest to wymagana wartość o długości co najmniej 32 znaków, bez wartości domyślnej, dlatego w razie potrzeby można ją wygenerować za pomocą openssl rand -hex 32. Panel działa jako osobna usługa, a nie wewnątrz procesu LibreChat, i wymaga LibreChat v0.8.5 lub nowszego. Ta funkcja jest dostarczana razem ze stosem.

WykresContainers a default install adds, not counting the model server
Dane, na których opiera się ten wykres
[
  {
    "label": "OrionChat",
    "containers": 0,
    "notes": "static files, served by a web server you already run"
  },
  {
    "label": "Hollama",
    "containers": 1,
    "notes": "one container serving a browser app"
  },
  {
    "label": "Open WebUI",
    "containers": 1,
    "notes": "application and SQLite in one image"
  },
  {
    "label": "LibreChat",
    "containers": 5,
    "notes": "api, MongoDB, Meilisearch, pgvector, RAG API"
  }
]

Domyślny plik Compose uruchamia 5 usług: api, MongoDB, Meilisearch, pgvector, RAG API. Szósta usługa, czyli panel administracyjny, znajduje się w tym samym pliku i dołącza do stosu po ustawieniu sekretu. Żadna z tych usług nie jest modelem. MongoDB i pgvector wymagają osobnej pamięci, a na serwerze z 4 GB jest to pamięć, której potrzebuje model.

Dwie usługi z tego pliku publikują porty i w żadnym mapowaniu nie określono adresu powiązania: API na porcie 3080 oraz panel administracyjny na porcie hosta 3000, czyli domyślnej wartości ADMIN_PANEL_PORT. Po uruchomieniu obie usługi nasłuchują na wszystkich interfejsach. Portu 3000 używa również Open WebUI, dlatego po włączeniu panelu usługi kolidują na współdzielonym serwerze. Przed wystawieniem stosu do Internetu zmień mapowanie obu usług na 127.0.0.1 w docker-compose.override.yml.

Aktualizacje wykonuje się za pomocą operacji git. To właśnie ten etap jest często wykonywany nieprawidłowo.

docker compose down
git pull
docker compose pull
docker compose up -d

git pull zatrzymuje się z powodu konfliktu, jeżeli zmodyfikowano śledzony plik docker-compose.yml. Aktualizacja pozostaje wtedy częściowo wykonana. Umieść własne zmiany w docker-compose.override.yml, który projekt udostępnia do tego celu, a sekrety przechowuj w .env. Oba pliki są nieśledzone, dlatego git pull ich nie modyfikuje.

Skonfiguruj LibreChat tak, aby korzystał z własnego serwera modeli, używając niestandardowego endpointu w librechat.yaml.

endpoints:
  custom:
    - name: "Ollama"
      apiKey: "ollama"
      baseURL: "http://model-host:11434/v1/"
      models:
        default: ["llama3.2"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "Ollama"

Zastąp model-host adresem serwera, na którym działa Ollama. Pole apiKey musi być obecne, mimo że Ollama ignoruje jego wartość, dlatego można użyć wartości zastępczej. Jeżeli LibreChat działa w Docker, a Ollama działa na tym samym komputerze, localhost wewnątrz kontenera oznacza sam kontener. W takim przypadku użyj zamiast niego host.docker.internal.

Hollama i OrionChat: przeglądarka wykonuje pracę

Hollama udostępnia aplikację przeglądarkową z jednego małego kontenera. Czaty są przechowywane w pamięci przeglądarki, a nie na serwerze.

docker run -d --restart unless-stopped -p 127.0.0.1:4173:4173 --name hollama ghcr.io/fmaclen/hollama:latest

Wersja tego polecenia z przewodnika self-hosting używa --rm, co powoduje usunięcie kontenera po jego zatrzymaniu, przez co interfejs nie powraca po restarcie.

OrionChat idzie o krok dalej i w ogóle nie posiada komponentu serwerowego. Należy sklonować repozytorium i udostępnić folder za pomocą już działającego serwera WWW lub otworzyć index.html z dysku. Klucze API są przechowywane w localStorage przeglądarki, historia czatów pozostaje w przeglądarce, a aplikacja usuwa najstarsze czaty po przekroczeniu liczby 512. Adres Ollama w OrionChat jest na sztywno wpisany w kod źródłowy (js/script.js) jako http://localhost:11434 i w ustawieniach nie ma pola do jego zmiany.

Żaden z tych projektów nie posiada logowania. Na laptopie jest to dopuszczalne. Na VPS oznacza to, że strona nigdy nie może zostać opublikowana w 0.0.0.0, co wiąże się z faktem, który łatwo przeoczyć: to przeglądarka wywołuje model, a nie serwer.

Ten jeden fakt decyduje o tym, gdzie te dwa rozwiązania mają zastosowanie. Przeglądarka musi mieć bezpośredni dostęp do Ollama. W przypadku OrionChat oznacza to zawsze localhost:11434 na maszynie, na której uruchomiona jest przeglądarka, więc zdalny model wymaga tunelu lub lokalnego proxy TCP nasłuchującego w tym miejscu. Na przykład netsh interface portproxy w systemie Windows może przekierować ten lokalny port do dostępnego zdalnego serwera Ollama bez modyfikowania OrionChat. Hollama akceptuje dowolny adres wprowadzony jako bazowy URL połączenia, a jej przewodnik self-hosting obejmuje serwer Ollama na innym urządzeniu: należy dodać źródło (origin) Hollama do OLLAMA_ORIGINS po stronie Ollama. Zatem, o ile dostęp do Ollama nie odbywa się przez tunel lub proxy, Ollama musi nasłuchiwać na czymś więcej niż tylko loopback, a API Ollama nie wymaga logowania ani klucza. Wynikają z tego dwie zasady dotyczące przeglądarek. Strona udostępniana przez HTTPS nie może wywoływać zwykłego punktu końcowego HTTP na publicznym adresie IP, a konsola wyświetla Mixed Content: The page at 'https://chat.example.com/' was loaded over HTTPS, but requested an insecure resource 'http://203.0.113.10:11434/api/tags'. This request has been blocked.. Loopback posiada oddzielne wyłączenie: specyfikacja Mixed Content blokuje tylko adresy URL, które nie są potencjalnie zaufane, a specyfikacja Secure Contexts uznaje localhost, 127.0.0.0/8 oraz ::1 za potencjalnie zaufane, więc ta sama strona HTTPS może wywoływać http://localhost:11434 lub http://127.0.0.1:11434. To wyłączenie jest podstawą działania poniższego tunelu SSH. Od wersji 142 Chrome dodaje jeden krok, gdy strona pochodzi z publicznej witryny, takiej jak https://chat.example.com: żądanie z niej do adresu loopback lub sieci lokalnej oczekuje, aż użytkownik zezwoli na dostęp do sieci lokalnej w monicie o uprawnienia. Chrome wyłącza również sprawdzanie mieszanej zawartości dla żądań HTTP do punktów końcowych sieci lokalnej, jeśli żądanie jest ograniczone uprawnieniami, a nazwa hosta jest prywatnym adresem IP, takim jak 192.168.0.1, nazwą .local lub jeśli fetch określa targetAddressSpace: "local". Strona otwarta pod adresem http://localhost przez tunel znajduje się już na loopback, więc ten monit jej nie dotyczy. Wywołanie do dowolnego innego źródła jest odrzucane z błędem has been blocked by CORS policy: No 'Access-Control-Allow-Origin' header is present on the requested resource, dopóki nie zostanie udzielone zezwolenie dla tego źródła.

Udokumentowanym sposobem Ollama na zmianę któregokolwiek z tych ustawień jest nadpisanie konfiguracji systemd.

sudo systemctl edit ollama.service
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=https://chat.example.com"
sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo ss -lntp | grep 11434

ss powinno teraz wyświetlać 0.0.0.0:11434 w miejscu, gdzie wcześniej wyświetlało 127.0.0.1:11434. Zmianę tę należy wprowadzać tylko wtedy, gdy firewall lub uwierzytelniające proxy kontroluje już dostęp do portu, ponieważ otwarty port 11434 oznacza otwarty serwer modelu, a masowe skanery szybko docierają do nowego publicznego portu. Poniższy tunel SSH pozwala uniknąć tego problemu: strona działa wtedy na źródle localhost, na co Ollama domyślnie pozwala, a port nigdy nie opuszcza maszyny.

Czy każda z nich może korzystać ze zdalnego punktu końcowego Ollama lub vLLM

Open WebUI posiada taką możliwość, a połączenie jest nawiązywane po stronie serwera. OLLAMA_BASE_URL=http://model-host:11434 wskazuje na Ollama. W przypadku vLLM należy ustawić OPENAI_API_BASE_URL=http://model-host:8000/v1, zachowując /v1, pod którym vLLM udostępnia swoje API. Ustaw OPENAI_API_KEY tylko wtedy, gdy serwer został uruchomiony z kluczem, ponieważ przewodnik vLLM dla Open WebUI nie zakłada uwierzytelniania w innych przypadkach. Inne serwery zgodne z OpenAI przyjmują dowolną ścieżkę bazową wskazaną w ich własnej dokumentacji, która nie zawsze jest równa /v1. OPENAI_API_BASE_URLS akceptuje kilka backendów rozdzielonych średnikami.

LibreChat może to robić za pomocą baseURL niestandardowego punktu końcowego przedstawionego powyżej. To żądanie również wychodzi z serwera, więc nie mają tu zastosowania żadne reguły przeglądarki. Ten sam bazowy adres URL i ten sam klucz zastępczy działają również poza oknem czatu, co jest wszystkim, czego potrzeba, aby skierować agenta programistycznego na model hostowany samodzielnie.

Hollama może wskazywać na dowolny punkt końcowy wpisany w ustawieniach. Jej połączenie z Ollama posiada edytowalny bazowy adres URL, który domyślnie ustawiony jest na http://localhost:11434. Oprócz tego Hollama oferuje połączenie zgodne z OpenAI, domyślnie http://localhost:8080/v1, co stanowi ścieżkę do vLLM. Żądanie opuszcza przeglądarkę, więc mają tu zastosowanie wszystkie zasady z powyższej sekcji. OrionChat nie posiada ustawień dla zdalnego punktu końcowego. Jego punkty końcowe są zakodowane na sztywno, z Ollama ustawionym na stałe na http://localhost:11434/v1/chat/completions, a plik README informuje, że żądania trafiają bezpośrednio do oficjalnego API każdego dostawcy. Zdalna instancja Ollama jest dostępna poprzez tunel SSH lub lokalny proxy TCP, który sprawia, że odpowiada ona na tym lokalnym porcie; nie ma natomiast żadnych ustawień dla serwera vLLM.

Rozdzielenie interfejsu od modelu to największa korzyść płynąca ze zdalnego punktu końcowego. Umieść interfejs na małej jednostce, a model tam, gdzie dostępna jest pamięć. To również moment na decyzję czy żądania powinna obsługiwać Ollama czy vLLM, ponieważ oba rozwiązania zachowują się bardzo różnie, gdy kilka osób korzysta z modelu jednocześnie. Jeśli serwer modelu jeszcze nie istnieje, zacznij od uruchomienia Ollama na VPS, a w przypadku jednostki z samym procesorem CPU przeczytaj jak Ollama wypada w porównaniu z llama.cpp przed wyborem silnika uruchomieniowego.

Nigdy nie publikuj interfejsu czatu bez logowania na 0.0.0.0

Strona Open WebUI poświęcona utwardzaniu konfiguracji podaje, że projekt jest „przeznaczony dla prywatnych, zaufanych sieci, podobnie jak inne samodzielnie hostowane elementy infrastruktury, takie jak bazy danych, rejestry kontenerów i serwery CI”, oraz zaleca umieszczenie go za VPN albo za reverse proxy z uwierzytelnianiem. Projekt całkowicie pozbawiony logowania wymaga co najmniej takiej samej ochrony.

Przed zaufaniem któremukolwiek z tych elementów sprawdź, które porty nasłuchują.

sudo ss -lntp | grep -E ':(3000|3080|4173|11434)'

Wiersz zawierający 127.0.0.1:3000 jest prawidłowy. Wiersz zawierający 0.0.0.0:3000 oznacza, że usługa nasłuchuje na wszystkich adresach, a Docker domyślnie pozwala każdemu zewnętrznemu adresowi IP łączyć się z opublikowanym portem. Jeśli reguła w łańcuchu DOCKER-USER Dockera albo zapora sieciowa dostawcy tego nie blokuje, interfejs czatu jest dostępny w publicznym Internecie. Z własnego komputera można rozstrzygnąć tę kwestię jeszcze bardziej bezpośrednio, gdy curl -sI http://YOUR.VPS.IP:3000 zwróci HTTP/1.1 200 OK.

Wyłączenie logowania w Open WebUI za pomocą WEBUI_AUTH=False jest ustawieniem dla jednego użytkownika, przeznaczonym dla komputera, do którego nikt inny nie ma dostępu. Dokumentacja podaje również, że działa ono tylko w instalacji bez zarejestrowanych użytkowników, więc nie można zastosować go w instalacji, która ma już konta.

Wzorzec pierwszy: powiązanie z loopback i dostęp przez SSH. Opublikuj każdy port na 127.0.0.1, a następnie przekieruj wymagane porty: ssh -N -L 3000:127.0.0.1:3000 you@vps.example.com, i otwórz http://localhost:3000 na laptopie. W tym wariancie używaj Docker Engine 28.0.0 lub nowszego. Starsze wydania pozwalają hostom w tym samym segmencie L2 łączyć się z portami opublikowanymi na localhost. W OrionChat przekieruj port modelu w tym samym poleceniu za pomocą -L 11434:127.0.0.1:11434 i pozostaw Ollama na loopback. Hollama może łączyć się bezpośrednio z Ollama, ale to samo przekierowanie utrzymuje Ollama poza publicznym Internetem, dlatego jest również bezpieczniejszym rozwiązaniem dla Hollama. Bezpieczeństwo tego wzorca zależy od konfiguracji SSH, dlatego należy połączyć go z SSH tylko z kluczami i utwardzonym sshd.

Wzorzec drugi: reverse proxy, które uwierzytelnia żądanie, zanim aplikacja je otrzyma. Pozostaw aplikację na loopback, przydziel proxy port 443 i umieść single sign-on przed aplikacją. Traefik sterowany etykietami Docker Compose wraz z Authentik jako dostawcą tożsamości zapewnia każdej aplikacji na serwerze jedno logowanie i jeden certyfikat. Gdy Open WebUI działa za TLS (transport layer security), ustaw WEBUI_SESSION_COOKIE_SECURE=true i WEBUI_SESSION_COOKIE_SAME_SITE=strict. Skróć również JWT_EXPIRES_IN względem wartości domyślnej wynoszącej cztery tygodnie, ponieważ dokumentacja Open WebUI podaje, że bez Redis wylogowanie nie unieważnia tokenu. Token pozostaje użyteczny do czasu samoczynnego wygaśnięcia.

Wzorzec drugi nie zabezpiecza projektów działających wyłącznie w przeglądarce. Proxy umieszczone przed stroną nie chroni endpointu modelu, a żądanie fetch z tej strony do innej nazwy hosta nie przekazuje cookie sesji. W takiej sytuacji proxy uwierzytelniające przed Ollama odpowiada przekierowaniem do formularza logowania, a czat przestaje działać. Należy przekierować endpoint modelu pod tę samą nazwę hosta co strona albo użyć wzorca pierwszego.

Wybór rozwiązania

Jeśli z narzędzia będzie korzystać ktokolwiek poza administratorem, należy uruchomić Open WebUI. Aplikacja obsługuje rzeczywiste konta użytkowników, nowi użytkownicy trafiają do kolejki zatwierdzania, a twórcy udostępniają wytyczne dotyczące zabezpieczania systemu. W przypadku potrzeby integracji z LDAP lub korzystania z panelu administracyjnego, należy wybrać LibreChat, ustawić ADMIN_PANEL_SESSION_SECRET w celu aktywacji panelu oraz potwierdzić za pomocą docker stats, czy pięć usług (sześć z panelem) oraz używany model zmieszczą się w dostępnych zasobach przed rozpoczęciem eksploatacji. Jeśli z narzędzia korzysta jedna osoba na serwerze o ograniczonej pamięci RAM, gdzie większość zasobów zajmuje model, należy uruchomić Hollama lub OrionChat przez tunel SSH i pozwolić przeglądarce na przechowywanie stanu. Błędnym rozwiązaniem na VPS jest udostępnienie któregokolwiek z tych narzędzi na 0.0.0.0 bez zabezpieczenia logowaniem.

FAQ

Czy Open WebUI jest bezpieczne do wystawienia bezpośrednio na publicznym adresie IP?

Własna dokumentacja dotycząca zabezpieczeń opisuje to oprogramowanie jako przeznaczone do prywatnych, zaufanych sieci, w tej samej kategorii co baza danych czy serwer CI. Aplikacja posiada obsługę kont, a pierwsze utworzone konto staje się administratorem, podczas gdy kolejne pozostają pending do momentu zatwierdzenia, co czyni ją znacznie bezpieczniejszą niż interfejsy bez logowania. Mimo to należy umieścić ją za reverse proxy z TLS oraz, jeśli to możliwe, z single sign-on. Port kontenera należy publikować jako 127.0.0.1:3000:8080 i korzystać z Docker Engine 28.0.0 lub nowszego przed poleganiem na publikacji loopback w celu izolacji. Docker ostrzega, że w starszych wydaniach hosty w tym samym segmencie L2 mogą uzyskać dostęp do portów opublikowanych na localhost.

Która alternatywa dla Open WebUI zużywa najmniej pamięci RAM na VPS?

Rozwiązania przeglądarkowe, takie jak Hollama i OrionChat, ponieważ aplikacja uruchamiana jest po stronie klienta. Serwer przesyła jedynie pliki statyczne, a OrionChat w ogóle nie wymaga kontenera aplikacji. Open WebUI utrzymuje w pamięci proces Python, bazę danych oraz, domyślnie, lokalny model embeddingowy. Wartości należy zweryfikować samodzielnie na własnym serwerze za pomocą docker stats --no-stream, ponieważ zmieniają się one wraz z włączanymi funkcjami.

Czy te interfejsy czatu mogą korzystać z serwera Ollama na innym hoście?

Open WebUI oraz LibreChat mogą to robić, a połączenie nawiązywane jest przez ich serwer, więc ograniczenia przeglądarki nie mają zastosowania. Należy ustawić OLLAMA_BASE_URL dla Open WebUI lub baseURL w niestandardowym punkcie końcowym dla LibreChat. W przypadku vLLM lub innego serwera zgodnego z OpenAI, należy użyć OPENAI_API_BASE_URL ze ścieżką bazową dokumentowaną przez dany serwer, która dla vLLM wynosi /v1, oraz dodać klucz API tylko wtedy, gdy serwer go wymaga. Hollama również może wskazywać na dowolny adres, jednak żądanie pochodzi z przeglądarki, więc punkt końcowy musi być dostępny również z poziomu przeglądarki użytkownika. Adres Ollama w OrionChat jest na sztywno ustawiony na http://localhost:11434, więc zdalna instancja Ollama wymaga tunelu SSH lub lokalnego proxy TCP przekierowującego ten port na dostępny serwer zdalny.

Dlaczego mój przeglądarkowy interfejs czatu nie może połączyć się z Ollama?

Dwie przyczyny odpowiadają za niemal każdy przypadek. Ollama domyślnie nasłuchuje na 127.0.0.1:11434, więc przeglądarka na innej maszynie nie może uzyskać do niej bezpośredniego dostępu, dopóki nie zmieni się OLLAMA_HOST lub nie zapewni się dostępu przez tunel bądź proxy. Ponadto Ollama domyślnie akceptuje żądania cross-origin z localhost, 127.0.0.1 oraz 0.0.0.0, więc strona serwowana z własnej domeny otrzymuje odmowę z błędem No 'Access-Control-Allow-Origin' header is present on the requested resource, dopóki to źródło nie zostanie wymienione w OLLAMA_ORIGINS. Jeśli strona korzysta z HTTPS, a punkt końcowy to zwykły HTTP na publicznym adresie IP, przeglądarka zablokuje połączenie jako mixed content, zanim Ollama je otrzyma. Adresy loopback (localhost, dowolny adres w 127.0.0.0/8, taki jak 127.0.0.2 lub [::1]) są zwolnione z tego ograniczenia. Chrome zwalnia również żądania HTTP w sieci lokalnej korzystające z prywatnych adresów IP, takich jak 192.168.0.1, nazw hostów .local lub targetAddressSpace: "local" po przyznaniu uprawnień do sieci lokalnej; wymagania CORS dla Ollama nadal obowiązują. Należy ustawić obie zmienne w nadpisaniu systemctl edit ollama.service lub przekierować port przez SSH, co rozwiązuje problem.

Czy ten artykuł był przydatny?