SSD Nodes Learn Hosting plans →
Panduan Matt ConnorOleh Matt Connor

Alternatif Open WebUI untuk VPS dengan IP awam

Bandingkan Open WebUI, LibreChat, Hollama dan OrionChat pada VPS: RAM yang tinggal untuk model, log masuk, Ollama jauh dan kerja penyelenggaraan.

Alternatif Open WebUI yang sesuai untuk VPS

Alternatif Open WebUI hampir selalu dibandingkan pada komputer riba, di mana RAM adalah murah dan tiada apa-apa yang mendengar pada alamat awam. VPS mengubah kedua-dua fakta ini, dan ia mengubah kedudukan tersebut. Open WebUI kekal sebagai pilihan lalai yang tepat sebaik sahaja orang kedua log masuk, kerana ia menyediakan akaun pengguna sebenar dan panel pentadbir. Projek yang lebih ringan menang apabila antara muka bersaing dengan model untuk gigabait RAM yang terakhir. Harga bagi kemenangan itu ialah pengesahan: ia tiada langsung.

Segala maklumat di bawah diperoleh daripada dokumentasi setiap projek, dibaca pada Ogos 2026, disemak semula pada 20 Oktober 2026, dan disemak sekali lagi untuk Open WebUI, LibreChat, Hollama dan OrionChat pada 25 Oktober 2026. Dokumentasi Ollama dan peraturan keselamatan pelayar disemak semula pada 29 Oktober 2026. Empat paksi tersebut adalah perkara yang hanya muncul sebaik sahaja pelayan boleh dicapai dari internet.

Empat paksi yang hanya penting pada IP awam

  • Memori bersebelahan model. Pelayan model merupakan proses yang mahal pada mesin tersebut. Setiap megabait yang digunakan oleh antara muka adalah megabait yang tidak boleh digunakan oleh model.
  • Pengesahan. Sesetengah projek ini mempunyai akaun pengguna dan peranan. Projek lain menganggap ia adalah satu-satunya perkara yang berjalan pada komputer riba anda, dan ia tidak mempunyai sebarang log masuk langsung.
  • Inferens jauh. UI yang hanya dihalakan ke 127.0.0.1:11434 menjangkakan model berada pada mesin yang sama dengan antara muka. Meletakkan model di tempat lain memerlukan terowong atau proksi tempatan yang memajukan port tempatan tersebut ke hos model.
  • Penyelenggaraan. Satu kontena dengan fail SQLite adalah tugasan yang berbeza daripada enam kontena dengan MongoDB dan pangkalan data vektor di belakangnya.

Berapa banyak RAM yang diperuntukkan model kepada antara muka

Antara muka bukan komponen terbesar pada pelayan. Model ialah komponen terbesar. Saiz muat turun yang diterbitkan memberikan nilai minimum, kerana weight mesti berada dalam memori semasa model menjawab, dan penggunaan memori sebenar lebih tinggi daripada saiz muat turun selepas cache konteks diperuntukkan.

CartaPublished download size of common Ollama models, October 2026
Data di sebalik carta ini
[
  {
    "label": "llama3.2:3b",
    "download_gb": "2.0"
  },
  {
    "label": "qwen3:4b",
    "download_gb": "2.5"
  },
  {
    "label": "gemma3:4b",
    "download_gb": "3.4"
  },
  {
    "label": "qwen3:8b",
    "download_gb": "5.2"
  }
]

Itulah angka yang dipaparkan oleh halaman pustaka Ollama pada 25 October 2026. Angka tersebut ialah saiz yang diterbitkan, bukan hasil pengukuran. Pada VPS 4 GB, qwen3:4b dengan saiz 2.5 GB meninggalkan kurang daripada 1.5 GB untuk sistem pengendalian dan semua komponen lain. Cache konteks pula menggunakan sebahagian memori itu apabila perbualan semakin panjang. Oleh sebab itu, nilai num_ctx yang anda tetapkan merupakan keputusan memori dan juga keputusan kualiti. qwen3:8b dengan saiz 5.2 GB langsung tidak muat pada pelayan itu. Inilah keadaan yang tidak dibincangkan dalam perbandingan komputer riba, iaitu apabila antara muka sembang yang menggunakan beberapa ratus megabait menentukan sama ada model boleh berjalan. Jika anda menyediakan pelayan untuk sesuatu yang jauh melebihi tag ini, pengiraan bagi model 27B pada VPS CPU-only menunjukkan betapa cepatnya antara muka berhenti menjadi faktor penentu.

Buat pengukuran dan jangan percayakan sebarang angka dalam perbandingan, termasuk angka dalam artikel ini. Jalankan docker stats --no-stream selepas sejam penggunaan sebenar, bukan seminit selepas container bermula, kerana memori yang penting diperuntukkan apabila model digunakan buat kali pertama. Ollama juga melepaskan weight selepas lima minit tidak aktif. Oleh itu, bacaan yang diambil antara perbualan akan merendahkan anggaran penggunaan puncak, dan mesej seterusnya perlu memuatkan keseluruhan model semula melainkan anda mengekalkan model dalam memori dengan keep_alive.

Open WebUI: masih menjadi lalai untuk lebih daripada seorang pengguna

Open WebUI dijalankan daripada satu imej dan menyimpan datanya dalam satu volum.

docker run -d -p 127.0.0.1:3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Perintah dalam README projek menerbitkan -p 3000:8080, yang mendengar pada setiap antara muka. Prefiks 127.0.0.1: mengekalkannya pada loopback. Docker memberi amaran bahawa dalam keluaran yang lebih lama daripada 28.0.0, hos pada segmen L2 yang sama boleh mencapai port yang diterbitkan ke localhost, jadi gunakan Docker Engine 28.0.0 atau lebih baharu sebelum bergantung pada pengikatan tersebut untuk pengasingan. Pada VPS, prefiks itu lebih penting daripada perkara lain pada baris tersebut, kerana Docker menulis peraturan iptablesnya sendiri dan port yang diterbitkan mengabaikan peraturan deny ufw anda.

Capai halaman tersebut melalui tunnel atau proksi, kedua-duanya diterangkan di bawah, kemudian cipta akaun pertama. Akaun tersebut menjadi pentadbir. Pendaftaran kemudiannya dimatikan secara automatik sehingga pentadbir menghidupkan semula New Sign Ups, dan pendaftaran seterusnya dicipta dengan peranan pending, iaitu lalai yang didokumenkan bagi DEFAULT_USER_ROLE, jadi orang asing yang mencapai halaman tersebut masih tidak boleh menggunakan model anda sehingga pentadbir meluluskan mereka.

Open WebUI menggunakan lebih banyak memori berbanding projek di bawah kerana ia melakukan lebih banyak fungsi, dan halaman prestasinya sendiri menamakan bahagian yang memakan kos tersebut. Enjin embedding lalai memuatkan model sentence-transformers di dalam kontena. Menetapkan RAG_EMBEDDING_ENGINE=ollama menyerahkan tugas tersebut kepada pelayan model yang sudah anda jalankan. AUDIO_STT_ENGINE=web mengelakkan pemuatan model pertuturan-ke-teks tempatan. Pada SQLite dengan DATABASE_POOL_SIZE tidak ditetapkan, pool akan kembali kepada saiz dalaman yang besar dan setiap sambungan mengembangkan cache halaman serta peta memorinya sendiri, jadi pada kotak kecil, tetapkan DATABASE_POOL_SIZE=8 dan DATABASE_SQLITE_PRAGMA_MMAP_SIZE=0. Autocomplete, yang meminta model untuk pelengkapan semasa pengguna masih menaip, kini dihantar dalam keadaan dimatikan (ENABLE_AUTOCOMPLETE_GENERATION secara lalai kepada False), jadi biarkan ia begitu pada kotak kecil.

LibreChat: berbilang pengguna, dengan stack di belakangnya

git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat
cp .env.example .env
docker compose up -d

Antara muka ini menjawab pada port 3080. LibreChat ialah pilihan yang perlu dilihat apabila anda memerlukan sistem identiti dan bukannya sekadar kotak log masuk: ia mendokumentasikan log masuk LDAP dan OAuth2, dan fail compose lalainya juga mentakrifkan panel pentadbir untuk pengguna, kumpulan dan peranan. Panel tersebut tidak berjalan secara terus (out of the box). Ia enggan bermula sehingga ADMIN_PANEL_SESSION_SECRET ditetapkan dalam .env, satu nilai wajib sekurang-kurangnya 32 aksara yang tiada nilai lalai, jadi jana satu dengan openssl rand -hex 32 jika anda mahukannya. Panel itu berjalan sebagai servisnya sendiri, bukan di dalam proses LibreChat, dan memerlukan LibreChat v0.8.5 atau lebih baharu. Keupayaan itu hadir bersama satu stack.

CartaContainers a default install adds, not counting the model server
Data di sebalik carta ini
[
  {
    "label": "OrionChat",
    "containers": 0,
    "notes": "static files, served by a web server you already run"
  },
  {
    "label": "Hollama",
    "containers": 1,
    "notes": "one container serving a browser app"
  },
  {
    "label": "Open WebUI",
    "containers": 1,
    "notes": "application and SQLite in one image"
  },
  {
    "label": "LibreChat",
    "containers": 5,
    "notes": "api, MongoDB, Meilisearch, pgvector, RAG API"
  }
]

Fail compose lalai memulakan 5 servis: api, MongoDB, Meilisearch, pgvector, RAG API. Servis keenam, iaitu panel pentadbir, berada dalam fail yang sama dan akan menyertai servis lain sebaik sahaja rahsianya ditetapkan. Tiada satu pun daripadanya merupakan model. MongoDB dan pgvector masing-masing memerlukan memori sendiri, dan pada pelayan 4 GB, itu adalah memori yang diperlukan oleh model.

Dua servis dalam fail tersebut menerbitkan port, dan tiada satu pun pemetaan menamakan alamat bind: API pada 3080 dan panel pentadbir pada port hos 3000, iaitu nilai lalai ADMIN_PANEL_PORT. Oleh itu, kedua-duanya mendengar pada setiap antara muka sebaik sahaja ia berjalan. Port 3000 juga merupakan port yang digunakan oleh Open WebUI di atas, jadi kedua-duanya akan bertembung pada pelayan yang dikongsi sebaik sahaja panel diaktifkan. Bind semula kedua-duanya ke 127.0.0.1 dalam docker-compose.override.yml sebelum stack tersebut menghadap internet.

Naik taraf adalah operasi git, yang merupakan bahagian yang sering disalah faham oleh pengguna.

docker compose down
git pull
docker compose pull
docker compose up -d

git pull akan berhenti dengan konflik jika anda menyunting docker-compose.yml yang dijejaki, dan kemudian naik taraf tersebut hanya terpakai separuh. Letakkan perubahan anda dalam docker-compose.override.yml, yang disediakan oleh projek ini untuk tujuan tersebut, dan simpan rahsia dalam .env. Kedua-dua fail ini tidak dijejaki, jadi git pull tidak akan mengusik fail tersebut.

Halakan LibreChat ke pelayan model anda sendiri dengan endpoint tersuai dalam librechat.yaml.

endpoints:
  custom:
    - name: "Ollama"
      apiKey: "ollama"
      baseURL: "http://model-host:11434/v1/"
      models:
        default: ["llama3.2"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "Ollama"

Gantikan model-host dengan alamat pelayan yang menjalankan Ollama. Medan apiKey perlu ada walaupun Ollama mengabaikan nilainya, jadi peletak tempat (placeholder) sudah memadai. Jika LibreChat berjalan dalam Docker dan Ollama berjalan pada mesin yang sama, localhost di dalam kontena bermaksud kontena itu sendiri, jadi gunakan host.docker.internal di sana sebagai gantinya.

Hollama dan OrionChat: pelayar melakukan kerja tersebut

Hollama menyediakan aplikasi pelayar daripada satu kontena kecil. Sembang disimpan dalam storan pelayar anda, bukan pada pelayan.

docker run -d --restart unless-stopped -p 127.0.0.1:4173:4173 --name hollama ghcr.io/fmaclen/hollama:latest

Versi arahan ini dalam panduan self-hosting menggunakan --rm, yang memadamkan kontena apabila ia berhenti, jadi antara muka tidak akan kembali selepas but semula.

OrionChat melangkah lebih jauh dan tidak mempunyai komponen pelayan langsung. Klon repositori tersebut dan sediakan folder dengan pelayan web yang anda sudah jalankan, atau buka index.html daripada cakera. Kunci API disimpan dalam localStorage pelayar, sejarah sembang kekal dalam pelayar, dan aplikasi memadamkan sembang paling lama apabila jumlahnya melebihi 512. Alamat Ollama bagi OrionChat ditetapkan dalam sumbernya (js/script.js) pada http://localhost:11434, dan tetapan aplikasinya tidak mempunyai medan untuk mengubahnya.

Kedua-dua projek tidak mempunyai log masuk. Pada komputer riba, ini tidak menjadi masalah. Pada VPS, ini bermakna halaman tersebut tidak boleh diterbitkan pada 0.0.0.0, dan ia bermakna sesuatu yang mudah terlepas pandang: pelayar yang memanggil model, bukan pelayan.

Fakta tersebut menentukan di mana kedua-duanya boleh digunakan. Pelayar anda perlu mencapai Ollama secara terus. Bagi OrionChat, ini sentiasa bermakna localhost:11434 pada mesin yang menjalankan pelayar, jadi model jauh memerlukan tunnel atau proksi TCP tempatan yang mendengar di sana. Windows netsh interface portproxy, sebagai contoh, boleh memajukan port tempatan tersebut ke Ollama jauh yang boleh dicapai tanpa mengubah OrionChat. Hollama menerima sebarang alamat yang anda masukkan sebagai URL asas sambungan, dan panduan self-hostingnya meliputi pelayan Ollama pada peranti lain: tambahkan origin Hollama ke OLLAMA_ORIGINS pada sisi Ollama. Jadi, melainkan anda mencapai Ollama melalui tunnel atau proksi, Ollama perlu mendengar pada lebih daripada sekadar loopback, dan API Ollama tidak meminta log masuk atau kunci. Dua peraturan pelayar terhasil daripadanya. Halaman yang disediakan melalui HTTPS tidak boleh memanggil endpoint HTTP biasa pada alamat IP awam, dan konsol mencetak Mixed Content: The page at 'https://chat.example.com/' was loaded over HTTPS, but requested an insecure resource 'http://203.0.113.10:11434/api/tags'. This request has been blocked. Loopback mempunyai pengecualian berasingan: spesifikasi Mixed Content hanya menyekat URL yang tidak dianggap boleh dipercayai, dan spesifikasi Secure Contexts mengira localhost, 127.0.0.0/8 dan ::1 sebagai berpotensi boleh dipercayai, jadi halaman HTTPS yang sama boleh memanggil http://localhost:11434 atau http://127.0.0.1:11434. Pengecualian itulah yang diharapkan oleh SSH tunnel di bawah. Sejak versi 142, Chrome menambah satu langkah apabila halaman datang daripada tapak awam seperti https://chat.example.com: permintaan daripadanya ke alamat loopback atau rangkaian tempatan akan menunggu sehingga pengguna membenarkan akses rangkaian tempatan dalam gesaan kebenaran. Chrome juga mengecualikan permintaan HTTP yang dikawal kebenaran ke endpoint rangkaian tempatan daripada semakan mixed-content apabila nama hos adalah literal IP peribadi seperti 192.168.0.1, nama .local, atau fetch menentukan targetAddressSpace: "local". Halaman yang anda buka pada http://localhost melalui tunnel sudah berada pada loopback, jadi gesaan tersebut tidak terpakai kepadanya. Panggilan ke mana-mana origin lain ditolak dengan has been blocked by CORS policy: No 'Access-Control-Allow-Origin' header is present on the requested resource sehingga anda membenarkan origin tersebut.

Cara yang didokumenkan oleh Ollama untuk menukar mana-mana tetapan adalah melalui override systemd.

sudo systemctl edit ollama.service
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=https://chat.example.com"
sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo ss -lntp | grep 11434

ss kini sepatutnya mencetak 0.0.0.0:11434 di mana ia mencetak 127.0.0.1:11434 sebelum ini. Hanya buat perubahan tersebut apabila firewall atau proksi pengesahan sudah mengawal siapa yang boleh mencapai port tersebut, kerana port 11434 yang terbuka bermakna pelayan model yang terbuka dan pengimbas massa akan mencapai port awam baharu dengan cepat. SSH tunnel di bawah mengelakkan keseluruhan persoalan ini: halaman tersebut kemudian berjalan pada origin localhost, yang dibenarkan oleh Ollama secara lalai, dan port tersebut tidak pernah keluar daripada kotak.

Bolehkah setiap satu menggunakan endpoint Ollama atau vLLM jauh

Open WebUI boleh melakukannya, dan sambungan dibuat di bahagian pelayan. OLLAMA_BASE_URL=http://model-host:11434 menghalakannya ke Ollama. Untuk vLLM, tetapkan OPENAI_API_BASE_URL=http://model-host:8000/v1, dengan mengekalkan /v1 yang digunakan oleh vLLM untuk menyediakan API-nya. Tetapkan OPENAI_API_KEY hanya jika pelayan dimulakan dengan kunci, memandangkan panduan vLLM Open WebUI tidak menggunakan pengesahan dalam keadaan lain. Pelayan lain yang serasi dengan OpenAI menerima apa sahaja base path yang diberikan oleh dokumentasi masing-masing, yang tidak semestinya /v1. OPENAI_API_BASE_URLS menerima beberapa backend yang dipisahkan dengan koma bertitik.

LibreChat boleh melakukannya, melalui baseURL bagi endpoint tersuai yang ditunjukkan di atas. Permintaan tersebut juga meninggalkan pelayan, jadi tiada peraturan pelayar yang terpakai. URL asas dan kunci pemegang tempat yang sama juga berfungsi di luar tetingkap sembang, yang merupakan semua yang diperlukan untuk menghalakan ejen pengekodan kepada model yang anda hoskan sendiri.

Hollama boleh menghala ke mana-mana endpoint yang anda taip ke dalam tetapannya. Sambungan Ollama-nya mempunyai URL asas boleh ubah yang ditetapkan secara lalai kepada http://localhost:11434, dan selain itu Hollama menawarkan sambungan yang serasi dengan OpenAI, http://localhost:8080/v1 secara lalai, yang merupakan laluan ke vLLM. Permintaan tersebut meninggalkan pelayar anda, jadi segala-galanya dalam bahagian di atas terpakai kepadanya. OrionChat tidak mempunyai tetapan untuk endpoint jauh. Endpoint-nya dikodkan secara tetap, dengan Ollama ditetapkan pada http://localhost:11434/v1/chat/completions, dan README-nya menyatakan bahawa permintaan pergi terus ke API rasmi setiap penyedia. Ollama jauh boleh dicapai melalui terowong SSH atau proksi TCP tempatan yang menjadikannya menjawab pada port tempatan tersebut, dan tiada tetapan langsung untuk pelayan vLLM.

Memisahkan antara muka daripada model adalah perkara paling berguna yang diperoleh daripada endpoint jauh. Letakkan antara muka pada kotak kecil dan model di tempat yang mempunyai memori. Itu juga merupakan titik untuk memutuskan sama ada Ollama atau vLLM yang harus melayani permintaan tersebut, kerana kedua-duanya berkelakuan sangat berbeza apabila beberapa orang bercakap dengan model secara serentak. Jika pelayan model belum wujud, mulakan dengan menjalankan Ollama pada VPS, dan pada kotak yang hanya menggunakan CPU, baca bagaimana Ollama dibandingkan dengan llama.cpp sebelum anda memilih pelari.

Jangan sekali-kali menerbitkan UI sembang tanpa log masuk pada 0.0.0.0

Halaman pengukuhan (hardening) Open WebUI menyatakan bahawa projek tersebut "dibina untuk rangkaian peribadi yang dipercayai, sama seperti infrastruktur self-hosted lain seperti pangkalan data, registry kontena dan pelayan CI", dan ia mengarahkan anda untuk meletakkannya di sebalik VPN atau di sebalik reverse proxy dengan pengesahan. Projek yang tidak mempunyai log masuk langsung wajar menerima sekurang-kurangnya layanan yang sama.

Semak apa yang sedang mendengar (listening) sebelum anda mempercayai mana-mana bahagiannya.

sudo ss -lntp | grep -E ':(3000|3080|4173|11434)'

Baris yang membaca 127.0.0.1:3000 adalah apa yang anda mahukan. Baris yang membaca 0.0.0.0:3000 bermakna servis tersebut mendengar pada semua alamat, dan Docker membenarkan setiap IP sumber luaran mencapai port yang diterbitkan secara lalai. Melainkan peraturan dalam chain DOCKER-USER Docker atau firewall penyedia anda menyekatnya, antara muka sembang anda berada di internet awam. Dari mesin anda sendiri, curl -sI http://YOUR.VPS.IP:3000 yang menjawab HTTP/1.1 200 OK menyelesaikan persoalan tersebut dengan lebih jelas.

Mematikan log masuk Open WebUI dengan WEBUI_AUTH=False adalah tetapan pengguna tunggal untuk mesin yang tidak boleh dicapai oleh orang lain. Dokumentasinya juga menyatakan bahawa ia hanya berfungsi pada pemasangan tanpa pengguna berdaftar, jadi anda tidak boleh menggunakannya pada pemasangan yang sudah mempunyai akaun.

Corak satu: bind ke loopback dan capai melalui SSH. Terbitkan setiap port pada 127.0.0.1, kemudian forward apa yang anda perlukan: ssh -N -L 3000:127.0.0.1:3000 you@vps.example.com, dan buka http://localhost:3000 pada komputer riba anda. Gunakan Docker Engine 28.0.0 atau lebih baharu untuk corak ini; keluaran yang lebih lama membenarkan hos pada segmen L2 yang sama mencapai port yang diterbitkan ke localhost. Untuk OrionChat, forward port model dalam arahan yang sama dengan -L 11434:127.0.0.1:11434 dan biarkan Ollama pada loopback. Hollama boleh mencapai Ollama secara terus, tetapi forward yang sama memastikan Ollama tidak terdedah kepada internet awam, jadi ia adalah laluan yang lebih selamat untuk Hollama juga. Corak ini hanya sekuat persediaan SSH anda, jadi pasangkannya dengan SSH kunci sahaja dan sshd yang dikukuhkan.

Corak dua: reverse proxy yang mengesahkan sebelum aplikasi melihat permintaan. Kekalkan aplikasi pada loopback, biarkan proxy menguasai port 443, dan letakkan single sign-on di hadapan. Traefik yang dipacu oleh label Docker Compose dengan Authentik sebagai penyedia identiti memberikan setiap aplikasi pada pelayan satu log masuk dan satu sijil. Dengan Open WebUI di sebalik TLS (transport layer security), tetapkan WEBUI_SESSION_COOKIE_SECURE=true dan WEBUI_SESSION_COOKIE_SAME_SITE=strict. Pendekkan JWT_EXPIRES_IN daripada lalai empat minggunya juga, kerana Open WebUI mendokumenkan bahawa tanpa Redis, log keluar tidak membatalkan token: ia kekal boleh digunakan sehingga ia tamat tempoh dengan sendirinya.

Corak dua tidak menyelamatkan projek yang hanya berasaskan pelayar. Proxy di hadapan halaman tidak melindungi endpoint model, dan fetch daripada halaman tersebut ke hostname yang berbeza tidak membawa kuki sesi anda, jadi proxy pengesahan di hadapan Ollama menjawab dengan redirect ke borang log masuk dan sembang tersebut gagal. Sama ada halakan endpoint model di bawah hostname yang sama dengan halaman tersebut, atau gunakan corak satu.

Mana satu yang patut dipilih

Jika ada orang lain selain anda yang akan menggunakannya, jalankan Open WebUI. Open WebUI mempunyai akaun sebenar, pengguna baharu akan masuk ke baris gilir kelulusan, dan penyelenggaranya menerbitkan panduan hardening yang boleh anda ikuti. Jika anda memerlukan LDAP atau panel pentadbir, jalankan LibreChat, tetapkan ADMIN_PANEL_SESSION_SECRET jika anda mahukan panel tersebut, dan sahkan dengan docker stats bahawa lima servisnya, atau enam servis jika panel digunakan, bersama model anda memang sesuai dengan kapasiti yang tersedia sebelum anda bergantung padanya. Jika hanya seorang pengguna pada mesin kecil dan model telah menggunakan sebahagian besar RAM, sediakan Hollama atau OrionChat melalui terowong SSH dan biarkan pelayar menyimpan keadaan. Pilihan yang salah pada VPS ialah menerbitkan mana-mana daripadanya pada 0.0.0.0 tanpa log masuk di hadapannya.

FAQ

Adakah Open WebUI selamat untuk didedahkan secara terus pada IP awam?

Halaman pengukuhan (hardening) perisian ini menyifatkannya sebagai perisian untuk rangkaian peribadi yang dipercayai, dalam kategori yang sama seperti pangkalan data atau pelayan CI. Ia mempunyai akaun sebenar, dan akaun pertama akan menjadi pentadbir manakala akaun seterusnya kekal pending sehingga diluluskan, jadi ia jauh lebih selamat daripada UI tanpa log masuk. Walau bagaimanapun, letakkannya di belakang reverse proxy dengan TLS dan, jika boleh, gunakan single sign-on. Terbitkan port kontena sebagai 127.0.0.1:3000:8080 dan gunakan Docker Engine 28.0.0 atau lebih baharu sebelum bergantung pada penerbitan loopback untuk pengasingan. Docker memberi amaran bahawa pada keluaran lama, hos pada segmen L2 yang sama boleh mencapai port yang diterbitkan ke localhost.

Alternatif Open WebUI yang manakah menggunakan paling sedikit RAM pada VPS?

Alternatif berasaskan pelayar, iaitu Hollama dan OrionChat, kerana aplikasi berjalan pada klien. Pelayan hanya menghantar fail statik, dan OrionChat tidak memerlukan kontena aplikasi langsung. Open WebUI mengekalkan proses Python, pangkalan data dan, secara lalai, model embedding tempatan dalam memori. Sahkan angka tersebut pada pelayan anda sendiri dengan docker stats --no-stream, kerana ia berubah mengikut ciri yang anda aktifkan.

Bolehkah UI sembang ini menggunakan pelayan Ollama pada hos lain?

Open WebUI dan LibreChat boleh melakukannya, dan pelayan mereka yang membuat sambungan tersebut, jadi tiada peraturan pelayar yang terpakai. Tetapkan OLLAMA_BASE_URL untuk Open WebUI, atau baseURL dalam endpoint tersuai untuk LibreChat. Untuk vLLM atau pelayan lain yang serasi dengan OpenAI, gunakan OPENAI_API_BASE_URL dengan laluan asas yang didokumenkan oleh pelayan tersebut, iaitu /v1 untuk vLLM, dan tambah kunci API hanya jika pelayan memerlukannya. Hollama juga boleh menghala ke mana-mana, tetapi permintaan datang daripada pelayar anda, jadi endpoint tersebut mestilah boleh dicapai daripada pelayar anda juga. Alamat Ollama untuk OrionChat ditetapkan secara keras kepada http://localhost:11434, jadi Ollama jauh memerlukan SSH tunnel atau TCP proxy tempatan yang menghalakan port tersebut ke pelayan jauh yang boleh dicapai.

Mengapa UI sembang pelayar saya tidak dapat mencapai Ollama?

Dua punca meliputi hampir setiap kes. Ollama mengikat 127.0.0.1:11434 secara lalai, jadi pelayar pada mesin lain tidak boleh mencapainya secara terus sehingga OLLAMA_HOST ditukar atau tunnel atau proxy menyediakan akses. Selain itu, Ollama menerima permintaan cross-origin daripada localhost, 127.0.0.1 dan 0.0.0.0 secara lalai, jadi halaman yang dihidangkan daripada domain anda sendiri akan ditolak dengan No 'Access-Control-Allow-Origin' header is present on the requested resource sehingga origin tersebut disenaraikan dalam OLLAMA_ORIGINS. Jika halaman tersebut menggunakan HTTPS dan endpoint adalah HTTP biasa pada alamat IP awam, pelayar akan menyekat panggilan tersebut sebagai mixed content sebelum Ollama sempat melihatnya. Alamat loopback (localhost, sebarang alamat dalam 127.0.0.0/8 seperti 127.0.0.2, atau [::1]) dikecualikan. Chrome juga mengecualikan permintaan HTTP rangkaian tempatan yang menggunakan literal IP peribadi seperti 192.168.0.1, nama hos .local, atau targetAddressSpace: "local" selepas kebenaran rangkaian tempatan diberikan; keperluan CORS Ollama masih terpakai. Tetapkan kedua-dua pemboleh ubah dalam penggantian systemctl edit ollama.service, atau halakan port melalui SSH dan masalah tersebut akan selesai.

Adakah artikel ini berguna?