SSD Nodes Learn Hosting plans →
מדריכים Matt Connorמאת Matt Connor

חלופות ל-Open WebUI עבור VPS: השוואת ביצועים וצריכת זיכרון

מחפשים ממשק ל-Ollama על שרת VPS? השווינו את Open WebUI, LibreChat, Hollama ו-OrionChat לפי צריכת RAM, תמיכה באימות משתמשים, הסקה מרחוק וניהול שרת עם IP ציבורי.

איזו חלופה ל-Open WebUI מתאימה ל-VPS

חלופות ל-Open WebUI מושוות כמעט תמיד בהקשר של מחשב נייד, שבו ה-RAM זול ושום דבר לא מאזין לכתובת ציבורית. שרת VPS משנה את שתי העובדות הללו, וזה משנה את הדירוג. Open WebUI נשאר ברירת המחדל הנכונה ברגע שאדם שני מתחבר, כיוון שהוא כולל חשבונות משתמש אמיתיים ולוח בקרה למנהל מערכת. הפרויקטים הקלים יותר מנצחים כאשר הממשק מתחרה עם המודל על הג'יגה-בייט האחרון של ה-RAM. המחיר של ניצחון זה הוא אימות: אין להם כזה כלל.

כל המידע להלן מגיע מהתיעוד הרשמי של כל פרויקט, כפי שנקרא באוגוסט 2026, נבדק שנית ב-20 באוקטובר 2026, ונבדק שוב עבור Open WebUI, LibreChat, Hollama ו-OrionChat ב-25 באוקטובר 2026. התיעוד של Ollama וכללי האבטחה של הדפדפן נבדקו שוב ב-29 באוקטובר 2026. ארבעת הצירים הם אלו שמופיעים רק כאשר השרת נגיש מהאינטרנט.

ארבעה צירים שרלוונטיים רק עבור IP ציבורי

  • זיכרון לצד המודל. שרת המודל הוא התהליך היקר ביותר במכונה. כל מגה-בייט שתופס הממשק הוא מגה-בייט שאינו זמין עבור המודל.
  • אימות. בחלק מהפרויקטים הללו קיימים חשבונות משתמש ותפקידים. אחרים מניחים שהם התהליך היחיד שרץ על המחשב שלכם, ולכן אין להם מנגנון התחברות כלל.
  • הסקה מרחוק (Remote inference). ממשק משתמש שמכוון תמיד ל-127.0.0.1:11434 מצפה שהמודל ירוץ על אותה מכונה שבה נמצא הממשק. העברת המודל למקום אחר דורשת מנהרה (tunnel) או proxy מקומי שמנתב את הפורט המקומי למארח המודל.
  • תחזוקה. מכולה (container) אחת עם קובץ SQLite היא משימה שונה לחלוטין משש מכולות עם MongoDB ומסד נתונים וקטורי מאחוריהן.

כמה זיכרון RAM המודל מותיר לממשק

הממשק אינו הרכיב שתופס את רוב המשאבים בשרת; המודל הוא זה שתופס אותם. גדלי ההורדה המפורסמים מהווים רף תחתון בלבד, כיוון שהמשקולות (weights) חייבות להיות בזיכרון בזמן שהמודל משיב, וצריכת הזיכרון בפועל גבוהה מנפח ההורדה לאחר הקצאת ה-context cache.

תרשיםPublished download size of common Ollama models, October 2026
הנתונים שמאחורי התרשים
[
  {
    "label": "llama3.2:3b",
    "download_gb": "2.0"
  },
  {
    "label": "qwen3:4b",
    "download_gb": "2.5"
  },
  {
    "label": "gemma3:4b",
    "download_gb": "3.4"
  },
  {
    "label": "qwen3:8b",
    "download_gb": "5.2"
  }
]

אלו הנתונים שפורסמו בדפי הספרייה של Ollama ב-25 באוקטובר 2026. מדובר בגדלים מפורסמים, לא במדידות. בשרת VPS עם 4 GB זיכרון, qwen3:4b בנפח 2.5 GB מותיר פחות מ-1.5 GB עבור מערכת ההפעלה ושאר התהליכים. ה-context cache נוגס בזיכרון זה ככל שהשיחה מתארכת, וזו הסיבה ש-ערך ה-num_ctx שתגדירו הוא החלטה של ניהול זיכרון לא פחות מאשר החלטה של איכות. qwen3:8b בנפח 5.2 GB כלל לא ייכנס לשרת כזה. זהו המצב שסקירות מחשבים ניידים לעולם לא מכסות, וזהו המקום שבו ממשק צ'אט שתופס כמה מאות מגה-בייטים קובע אם המודל ירוץ או לא. אם אתם מתכננים שרת עבור מודלים גדולים משמעותית מהתגיות הללו, החישוב עבור מודל 27B בשרת VPS מבוסס CPU בלבד מראה עד כמה מהר הממשק מפסיק להיות הגורם הקובע.

מדדו בעצמכם במקום לסמוך על מספרים בסקירות, כולל זו. הריצו את docker stats --no-stream לאחר שעה של שימוש אמיתי, לא דקה אחת לאחר עליית המכולה, כיוון שהזיכרון הקריטי מוקצה בשימוש הראשון. בנוסף, Ollama משחרר את המשקולות מהזיכרון לאחר חמש דקות של חוסר פעילות, כך שקריאה שמתבצעת בין שיחות תציג ערך נמוך מהשיא, וההודעה הבאה תגרור טעינה מחדש של כל המשאבים, אלא אם תשאירו את המודל בזיכרון באמצעות keep_alive.

Open WebUI: עדיין ברירת המחדל עבור יותר ממשתמש אחד

Open WebUI מופעל מאימג' אחד ושומר את הנתונים שלו בנפח אחסון (volume) יחיד.

docker run -d -p 127.0.0.1:3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

הפקודה ב-README של הפרויקט מפרסמת את -p 3000:8080, המאזין בכל ממשק. הקידומת 127.0.0.1: מגבילה אותו ל-loopback. Docker מזהירה כי בגרסאות ישנות מ-28.0.0, מארחים באותו מקטע L2 יכולים להגיע לפורטים שמפורסמים ל-localhost, לכן יש להשתמש ב-Docker Engine 28.0.0 ומעלה לפני שמסתמכים על קישור זה לצורך בידוד. בשרת VPS, לקידומת הזו יש חשיבות עליונה, כיוון ש-Docker כותבת חוקי iptables משלה ופורט מפורסם מתעלם מחוקי ה-deny של ufw.

גשו לדף דרך מנהרה (tunnel) או proxy, שניהם מתוארים בהמשך, ולאחר מכן צרו את החשבון הראשון. חשבון זה הופך למנהל המערכת. הרישום נכבה מעצמו עד שמנהל המערכת מפעיל מחדש את New Sign Ups, ומשתמשים שיירשמו לאחר מכן יקבלו את התפקיד pending, ברירת המחדל המתועדת של DEFAULT_USER_ROLE, כך שזר שמגיע לדף עדיין לא יוכל להשתמש במודל שלכם עד שמנהל המערכת יאשר אותו.

Open WebUI צורך יותר זיכרון מהפרויקטים הבאים כיוון שהוא מבצע פעולות רבות יותר, ודף הביצועים שלו מפרט את הרכיבים שצורכים משאבים. מנוע ה-embedding המוגדר כברירת מחדל טוען מודל sentence-transformers בתוך המכולה. הגדרת RAG_EMBEDDING_ENGINE=ollama מעבירה את המשימה הזו לשרת המודלים שאתם כבר מריצים. AUDIO_STT_ENGINE=web מונע טעינה של מודל speech-to-text מקומי. ב-SQLite, כאשר DATABASE_POOL_SIZE אינו מוגדר, מאגר החיבורים חוזר לגודל פנימי גדול וכל חיבור מגדיל את ה-page cache ומיפוי הזיכרון שלו, לכן בשרת קטן יש להגדיר DATABASE_POOL_SIZE=8 ו-DATABASE_SQLITE_PRAGMA_MMAP_SIZE=0. השלמה אוטומטית (Autocomplete), השואלת את המודל להשלמה בזמן שהמשתמש מקליד, מגיעה כעת כשהיא כבויה (ENABLE_AUTOCOMPLETE_GENERATION מוגדר כברירת מחדל ל-False), לכן השאירו אותה כך בשרת קטן.

LibreChat: ריבוי משתמשים, עם stack מאחוריו

git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat
cp .env.example .env
docker compose up -d

הממשק מאזין בפורט 3080. LibreChat הוא הפתרון המתאים כאשר נדרשת מערכת ניהול זהויות ולא רק תיבת התחברות: הוא מתעד תמיכה בחיבורי LDAP ו-OAuth2, וקובץ ה-compose המוגדר כברירת מחדל כולל גם הגדרה של לוח ניהול למשתמשים, קבוצות ותפקידים. הלוח אינו פועל ללא הגדרה נוספת. הוא מסרב לעלות כל עוד ADMIN_PANEL_SESSION_SECRET לא מוגדר ב-.env; זהו ערך חובה באורך של לפחות 32 תווים ללא ערך ברירת מחדל, לכן יש ליצור אחד באמצעות openssl rand -hex 32 אם ברצונכם להשתמש בו. הלוח פועל כשירות נפרד, לא בתוך תהליך ה-LibreChat, ודורש את גרסה v0.8.5 של LibreChat ומעלה. יכולת זו מגיעה כחלק מ-stack.

תרשיםContainers a default install adds, not counting the model server
הנתונים שמאחורי התרשים
[
  {
    "label": "OrionChat",
    "containers": 0,
    "notes": "static files, served by a web server you already run"
  },
  {
    "label": "Hollama",
    "containers": 1,
    "notes": "one container serving a browser app"
  },
  {
    "label": "Open WebUI",
    "containers": 1,
    "notes": "application and SQLite in one image"
  },
  {
    "label": "LibreChat",
    "containers": 5,
    "notes": "api, MongoDB, Meilisearch, pgvector, RAG API"
  }
]

קובץ ה-compose המוגדר כברירת מחדל מפעיל 5 שירותים: api, MongoDB, Meilisearch, pgvector, RAG API. שירות שישי, לוח הניהול, נמצא באותו קובץ ומצטרף אליהם ברגע שה-secret שלו מוגדר. אף אחד מהם אינו המודל. MongoDB ו-pgvector דורשים זיכרון משלהם, ובשרת עם 4 GB זהו זיכרון שהיה מיועד למודל.

שני שירותים בקובץ מפרסמים פורטים, ואף אחד מהמיפויים אינו מציין כתובת bind: ה-API בפורט 3080 ולוח הניהול בפורט המארח 3000, שהוא ברירת המחדל של ADMIN_PANEL_PORT. לכן, שניהם מאזינים על כל הממשקים ברגע שהם רצים. פורט 3000 הוא גם הפורט שבו משתמש Open WebUI לעיל, כך שהשניים מתנגשים על שרת משותף ברגע שהלוח מופעל. בצעו rebind לשניהם ל-127.0.0.1 ב-docker-compose.override.yml לפני שה-stack נחשף לאינטרנט.

שדרוגים מתבצעים באמצעות פעולת git, וזהו החלק שבו אנשים טועים.

docker compose down
git pull
docker compose pull
docker compose up -d

git pull נעצר עם התנגשות אם ערכתם את docker-compose.yml המנוהל על ידי git, ואז השדרוג מוחל רק בחלקו. הכניסו את השינויים שלכם ל-docker-compose.override.yml, שהפרויקט מספק למטרה זו, ושמרו secrets ב-.env. שני הקבצים אינם במעקב, לכן git pull לא משנה אותם.

כוונו את LibreChat לשרת המודלים שלכם עם endpoint מותאם אישית ב-librechat.yaml.

endpoints:
  custom:
    - name: "Ollama"
      apiKey: "ollama"
      baseURL: "http://model-host:11434/v1/"
      models:
        default: ["llama3.2"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "Ollama"

החליפו את model-host בכתובת השרת שמריץ את Ollama. השדה apiKey חייב להיות קיים, גם אם Ollama מתעלם מהערך שלו, לכן placeholder הוא תקין. אם LibreChat רץ בתוך Docker ו-Ollama רץ על אותו המחשב, localhost בתוך המכולה מציין את המכולה עצמה, לכן השתמשו ב-host.docker.internal במקום זאת.

Hollama ו-OrionChat: הדפדפן מבצע את העבודה

Hollama מגישה יישום דפדפן ממכולה (container) קטנה אחת. היסטוריית הצ'אטים נשמרת באחסון המקומי של הדפדפן, ולא על השרת.

docker run -d --restart unless-stopped -p 127.0.0.1:4173:4173 --name hollama ghcr.io/fmaclen/hollama:latest

הגרסה של פקודה זו המופיעה במדריך האירוח העצמי משתמשת ב---rm, אשר מוחק את המכולה ברגע שהיא נעצרת, ולכן הממשק לא יחזור לפעול לאחר אתחול (reboot).

OrionChat מרחיקה לכת עוד יותר ואינה כוללת רכיב שרת כלל. שכפלו (clone) את המאגר והגישו את התיקייה באמצעות שרת האינטרנט שבו אתם כבר משתמשים, או פתחו את index.html ישירות מהדיסק. מפתחות API נשמרים ב-localStorage של הדפדפן, היסטוריית הצ'אט נשארת בדפדפן, והיישום מוחק את הצ'אטים הישנים ביותר ברגע שהכמות עוברת 512. כתובת ה-Ollama של OrionChat מקובעת בקוד המקור (js/script.js) ל-http://localhost:11434, ובהגדרות היישום אין שדה לשינוי כתובת זו.

באף אחד מהפרויקטים אין מנגנון התחברות (login). במחשב נייד זה תקין. בשרת VPS המשמעות היא שהדף לעולם לא חייב להתפרסם ב-0.0.0.0, ויש לכך משמעות שקל לפספס: הדפדפן הוא זה שקורא למודל, לא השרת.

עובדה זו קובעת היכן ניתן להשתמש בשני הכלים הללו. הדפדפן שלכם חייב להגיע ל-Ollama ישירות. עבור OrionChat, המשמעות היא תמיד localhost:11434 במכונה שמריצה את הדפדפן, לכן מודל מרוחק דורש מנהרה (tunnel) או proxy מסוג TCP מקומי שמאזין שם. לדוגמה, netsh interface portproxy של Windows יכול להעביר את הפורט המקומי הזה ל-Ollama מרוחק ונגיש מבלי לשנות את OrionChat. Hollama מקבלת כל כתובת שתזינו כ-base URL לחיבור, והמדריך שלה לאירוח עצמי מכסה שרת Ollama במכשיר אחר: הוסיפו את ה-origin של Hollama ל-OLLAMA_ORIGINS בצד של Ollama. לכן, אלא אם אתם מגיעים ל-Ollama דרך מנהרה או proxy, Ollama חייב להאזין לכתובות מעבר ל-loopback, וה-API של Ollama אינו דורש התחברות או מפתח. מכאן נובעים שני כללים של הדפדפן. דף שמוגש דרך HTTPS אינו יכול לקרוא ל-endpoint של HTTP פשוט בכתובת IP ציבורית, והקונסולה תדפיס Mixed Content: The page at 'https://chat.example.com/' was loaded over HTTPS, but requested an insecure resource 'http://203.0.113.10:11434/api/tags'. This request has been blocked.. ל-loopback יש פטור נפרד: מפרט ה-Mixed Content חוסם רק כתובות URL שאינן נחשבות למהימנות, ומפרט ה-Secure Contexts מחשיב את localhost, 127.0.0.0/8 ו-::1 כמהימנים פוטנציאליים, לכן אותו דף HTTPS יכול לקרוא ל-http://localhost:11434 או ל-http://127.0.0.1:11434. פטור זה הוא מה שעליו מסתמכת מנהרת ה-SSH להלן. החל מגרסה 142, Chrome מוסיף שלב אחד כאשר הדף מגיע מאתר ציבורי כגון https://chat.example.com: בקשה ממנו לכתובת loopback או לכתובת ברשת מקומית ממתינה עד שהמשתמש מאשר גישה לרשת מקומית בהודעת הרשאה. Chrome גם פוטר בקשות HTTP המוגנות בהרשאה ל-endpoints ברשת מקומית מבדיקות mixed-content כאשר שם המארח הוא כתובת IP פרטית כגון 192.168.0.1, שם .local, או כאשר ה-fetch מציין targetAddressSpace: "local". דף שאתם פותחים ב-http://localhost דרך המנהרה נמצא כבר ב-loopback, לכן הודעה זו לא חלה עליו. קריאה לכל origin אחר תסורב עם has been blocked by CORS policy: No 'Access-Control-Allow-Origin' header is present on the requested resource עד שתאשרו את ה-origin הזה.

הדרך המתועדת של Ollama לשינוי הגדרה כלשהי היא באמצעות systemd override.

sudo systemctl edit ollama.service
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=https://chat.example.com"
sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo ss -lntp | grep 11434

ss אמור כעת להדפיס 0.0.0.0:11434 במקום 127.0.0.1:11434 כפי שהדפיס קודם לכן. בצעו שינוי זה רק כאשר firewall או proxy עם אימות כבר שולטים במי יכול להגיע לפורט, מכיוון שפורט 11434 פתוח הוא שרת מודלים פתוח, וסורקים המוניים מגיעים לפורט ציבורי חדש במהירות. מנהרת ה-SSH להלן מונעת את כל הסוגיה הזו: הדף רץ אז על origin מסוג localhost, ש-Ollama מאפשר כברירת מחדל, והפורט לעולם לא יוצא מהמכונה.

האם כל אחד מהם יכול להשתמש בנקודת קצה מרוחקת של Ollama או vLLM

Open WebUI יכול לעשות זאת, והחיבור מתבצע בצד השרת. OLLAMA_BASE_URL=http://model-host:11434 מפנה אותו אל Ollama. עבור vLLM, הגדירו את OPENAI_API_BASE_URL=http://model-host:8000/v1, תוך שמירה על /v1 שבו vLLM מגיש את ה-API שלו. הגדירו את OPENAI_API_KEY רק אם השרת הופעל עם מפתח, שכן המדריך של Open WebUI עבור vLLM אינו משתמש באימות אחרת. שרתים אחרים התואמים ל-OpenAI מקבלים כל נתיב בסיס שהתיעוד שלהם מציין, שאינו תמיד /v1. OPENAI_API_BASE_URLS מקבל מספר backends המופרדים בנקודה-פסיק.

LibreChat יכול לעשות זאת, באמצעות baseURL של נקודת הקצה המותאמת אישית שהוצגה לעיל. בקשה זו גם היא יוצאת מהשרת, לכן שום כלל דפדפן אינו חל עליה. אותו URL בסיסי ואותו מפתח placeholder עובדים גם מחוץ לחלון הצ'אט, וזה כל מה שנדרש כדי להפנות סוכן קידוד למודל שאתם כבר מארחים.

Hollama יכול להצביע על כל נקודת קצה שתקלידו בהגדרות שלו. לחיבור ה-Ollama שלו יש URL בסיסי הניתן לעריכה שברירת המחדל שלו היא http://localhost:11434, ומלבד זאת Hollama מציע חיבור תואם-OpenAI, http://localhost:8080/v1 כברירת מחדל, שהוא הנתיב ל-vLLM. הבקשה יוצאת מהדפדפן שלכם, לכן כל מה שנאמר בסעיף הקודם חל עליו. ל-OrionChat אין הגדרה לנקודת קצה מרוחקת. נקודות הקצה שלו מקודדות מראש (hardcoded), כאשר Ollama מקובע על http://localhost:11434/v1/chat/completions, וה-README שלו מציין שבקשות עוברות ישירות ל-API הרשמי של כל ספק. ניתן להגיע ל-Ollama מרוחק באמצעות מנהרת SSH או proxy TCP מקומי שגורם לו לענות בפורט המקומי ההוא, ואין כלל הגדרה לשרת vLLM.

הפרדת הממשק מהמודל היא התועלת המרכזית שמעניקה נקודת קצה מרוחקת. הציבו את הממשק על מכונה קטנה ואת המודל במקום שבו נמצא הזיכרון. זו גם הנקודה להחליט האם Ollama או vLLM צריכים לשרת את הבקשות, כיוון ששניהם מתנהגים בצורה שונה מאוד כאשר כמה אנשים מדברים עם המודל בו-זמנית. אם שרת המודל עדיין לא קיים, התחילו ב-הרצת Ollama על גבי VPS, ועל מכונה מבוססת CPU בלבד קראו כיצד Ollama משתווה ל-llama.cpp לפני שתבחרו מנוע הרצה.

לעולם אל תפרסמו ממשק צ'אט ללא אימות גישה בכתובת 0.0.0.0

דף אבטחת המידע של Open WebUI מציין כי הפרויקט "נבנה עבור רשתות פרטיות ומהימנות, בדומה לתשתיות אחרות באירוח עצמי כגון מסדי נתונים, מאגרי מכולות ושרתי CI", וממליץ להציב אותו מאחורי VPN או מאחורי reverse proxy עם אימות גישה. פרויקט שאינו כולל מנגנון התחברות כלל דורש לכל הפחות התייחסות דומה.

בדקו מה מאזין לפני שאתם נותנים אמון בשירות כלשהו.

sudo ss -lntp | grep -E ':(3000|3080|4173|11434)'

שורה המציגה 127.0.0.1:3000 היא המצב הרצוי. שורה המציגה 0.0.0.0:3000 משמעותה שהשירות מאזין לכל הכתובות, ו-Docker מאפשר כברירת מחדל לכל כתובת IP חיצונית להגיע לפורט שפורסם. אלא אם כן חוק בשרשרת DOCKER-USER של Docker או ה-firewall של ספק התשתית שלכם חוסם זאת, ממשק הצ'אט שלכם חשוף לאינטרנט הציבורי. מהמחשב שלכם, הפקודה curl -sI http://YOUR.VPS.IP:3000 המשיבה HTTP/1.1 200 OK מכריעה את הסוגיה באופן חד-משמעי.

ביטול מנגנון ההתחברות של Open WebUI באמצעות WEBUI_AUTH=False הוא הגדרה למשתמש יחיד עבור מכונה שאף אחד אחר אינו יכול להגיע אליה. התיעוד של הפרויקט מציין בנוסף כי הדבר עובד רק בהתקנה ללא משתמשים רשומים, כך שלא ניתן להחיל זאת על התקנה שכבר קיימים בה חשבונות.

תבנית ראשונה: קישור ל-loopback וגישה דרך SSH. פרסמו כל פורט ב-127.0.0.1, ולאחר מכן בצעו forward למה שדרוש: ssh -N -L 3000:127.0.0.1:3000 you@vps.example.com, ופתחו את http://localhost:3000 במחשב הנייד שלכם. השתמשו ב-Docker Engine בגרסה 28.0.0 ומעלה עבור תבנית זו; גרסאות ישנות יותר מאפשרות למארחים באותו מקטע L2 להגיע לפורטים שפורסמו ל-localhost. עבור OrionChat, בצעו forward לפורט המודל באותה פקודה עם -L 11434:127.0.0.1:11434 והשאירו את Ollama ב-loopback. Hollama יכול להגיע ל-Ollama ישירות, אך אותו forward שומר על Ollama מחוץ לאינטרנט הציבורי, ולכן זהו הנתיב הבטוח יותר גם עבור Hollama. חוזקה של תבנית זו תלוי בחוזק הגדרות ה-SSH שלכם, לכן שלבו אותה עם SSH מבוסס מפתחות בלבד ו-sshd מוקשח.

תבנית שנייה: reverse proxy המבצע אימות לפני שהבקשה מגיעה ליישום. השאירו את היישום ב-loopback, תנו ל-proxy לנהל את פורט 443, והציבו מנגנון single sign-on בחזית. Traefik המנוהל על ידי תוויות Docker Compose עם Authentik כספק זהות מעניק לכל יישום בשרת התחברות אחת ותעודה אחת. כאשר Open WebUI נמצא מאחורי TLS (אבטחת שכבת תעבורה), הגדירו את WEBUI_SESSION_COOKIE_SECURE=true ואת WEBUI_SESSION_COOKIE_SAME_SITE=strict. קצרו גם את JWT_EXPIRES_IN מברירת המחדל של ארבעה שבועות, כיוון ש-Open WebUI מתעד כי ללא Redis, יציאה מהמערכת (sign-out) אינה מבטלת את ה-token: הוא נשאר שמיש עד לפקיעתו העצמית.

תבנית שנייה אינה פותרת את הבעיה עבור פרויקטים מבוססי דפדפן בלבד. proxy בחזית הדף אינו מגן על ה-endpoint של המודל, ופנייה (fetch) מאותו דף לשם מתחם אחר אינה נושאת את ה-session cookie שלכם, לכן ה-proxy המאמת בחזית Ollama ישיב בהפניה (redirect) לטופס התחברות והצ'אט ייכשל. נתבו את ה-endpoint של המודל תחת אותו שם מתחם של הדף, או השתמשו בתבנית הראשונה.

באיזו אפשרות לבחור

אם מישהו מלבדך עומד להשתמש במערכת, הרץ את Open WebUI. יש לה מערכת חשבונות אמיתית, משתמשים חדשים מגיעים לתור אישור, והמפתחים שלה מפרסמים הנחיות אבטחה שניתן ליישם. אם דרוש לך LDAP או לוח ניהול, הרץ את LibreChat, הגדר את ADMIN_PANEL_SESSION_SECRET אם ברצונך בלוח הניהול, וודא באמצעות docker stats שחמשת השירותים שלה (שישה עם לוח הניהול), בתוספת המודל שלך, אכן נכנסים במשאבי השרת לפני שאתה מסתמך עליה. אם מדובר באדם אחד על שרת קטן שבו המודל כבר תפס את רוב ה-RAM, הגש את Hollama או את OrionChat דרך SSH tunnel ותן לדפדפן לנהל את ה-state. התשובה השגויה ב-VPS היא חשיפת כל אחת מהן ב-0.0.0.0 ללא שכבת אימות לפני כן.

FAQ

האם בטוח לחשוף את Open WebUI ישירות לכתובת IP ציבורית?

דף התיעוד של התוכנה בנושא אבטחה מגדיר אותה כתוכנה המיועדת לרשתות פרטיות ומהימנות, בדומה למסד נתונים או לשרת CI. היא כוללת מנגנון חשבונות, והחשבון הראשון הופך למנהל מערכת בעוד חשבונות מאוחרים יותר נשארים במצב pending עד לאישורם, לכן היא בטוחה משמעותית מממשק ללא דרישת התחברות. עם זאת, יש להציב אותה מאחורי reverse proxy עם TLS, ובמידת האפשר, להשתמש ב-single sign-on. פרסמו את פורט המכולה כ-127.0.0.1:3000:8080 והשתמשו ב-Docker Engine 28.0.0 או גרסה מאוחרת יותר לפני שתסתמכו על פרסום ב-loopback לצורך בידוד. Docker מזהירה כי בגרסאות ישנות יותר, מארחים באותו מקטע L2 יכולים להגיע לפורטים שפורסמו ל-localhost.

איזו חלופה ל-Open WebUI צורכת הכי פחות זיכרון RAM ב-VPS?

החלופות מבוססות הדפדפן, Hollama ו-OrionChat, כיוון שהיישום רץ בצד הלקוח. השרת שולח רק קבצים סטטיים, ו-OrionChat אינה זקוקה כלל למכולת יישום. Open WebUI מחזיקה בתהליך Python, מסד נתונים, וברירת מחדל של מודל embedding מקומי בזיכרון. אשרו את הנתונים בשרת שלכם באמצעות docker stats --no-stream, כיוון שהם משתנים בהתאם לתכונות שתפעילו.

האם ממשקי צ'אט אלו יכולים להשתמש בשרת Ollama במארח אחר?

Open WebUI ו-LibreChat מסוגלות לכך, והשרת שלהן הוא שמבצע את החיבור, לכן חוקי הדפדפן אינם חלים. הגדירו את OLLAMA_BASE_URL עבור Open WebUI, או את baseURL בתוך endpoint מותאם אישית עבור LibreChat. עבור vLLM או שרת אחר התואם ל-OpenAI, השתמשו ב-OPENAI_API_BASE_URL עם נתיב הבסיס כפי שמתועד בשרת, שהוא /v1 עבור vLLM, והוסיפו מפתח API רק אם השרת דורש זאת. Hollama יכולה גם היא להצביע לכל כתובת, אך הבקשה מגיעה מהדפדפן שלכם, לכן ה-endpoint חייב להיות נגיש גם מהדפדפן. כתובת ה-Ollama ב-OrionChat מקודדת מראש ל-http://localhost:11434, לכן עבור שרת Ollama מרוחק יש צורך ב-SSH tunnel או ב-TCP proxy מקומי שיעביר את הפורט לשרת המרוחק הנגיש.

מדוע ממשק הצ'אט בדפדפן שלי לא מצליח להגיע ל-Ollama?

שתי סיבות מכסות כמעט את כל המקרים. Ollama מאזינה כברירת מחדל ל-127.0.0.1:11434, לכן דפדפן במכונה אחרת לא יכול להגיע אליה ישירות עד ש-OLLAMA_HOST ישתנה או שיוגדר tunnel או proxy שיספק גישה. בנוסף, Ollama מקבלת בקשות cross-origin מ-localhost, 127.0.0.1 ו-0.0.0.0 כברירת מחדל, לכן דף המוגש מהדומיין שלכם יסורב עם No 'Access-Control-Allow-Origin' header is present on the requested resource עד שה-origin יופיע ב-OLLAMA_ORIGINS. אם הדף משתמש ב-HTTPS וה-endpoint הוא HTTP רגיל בכתובת IP ציבורית, הדפדפן יחסום את הקריאה כתוכן מעורב (mixed content) עוד לפני ש-Ollama תראה אותה. כתובות loopback (כמו localhost, כל כתובת ב-127.0.0.0/8 כגון 127.0.0.2, או [::1]) פטורות מכך. Chrome פוטר גם בקשות HTTP ברשת מקומית המשתמשות בכתובות IP פרטיות כגון 192.168.0.1, שמות מארח מסוג .local, או targetAddressSpace: "local" לאחר מתן הרשאה לרשת מקומית; דרישות ה-CORS של Ollama עדיין חלות. הגדירו את שני המשתנים בתוך override מסוג systemctl edit ollama.service, או העבירו את הפורט דרך SSH והבעיה תיפתר.

האם המאמר הזה היה מועיל?