SSD Nodes Learn Hosting plans →
指南 Matt Connor作者: Matt Connor · 已更新 2026-10-30

Ollama API 沒有密碼?如何修復 11434 安全性

Ollama 預設沒有驗證,能連到 11434 的來源可執行模型、下載 2 到 40 GB 模型或刪除模型。依序了解 3 種修復方式。

Ollama API 沒有密碼

Ollama API 沒有驗證機制。傳入的用戶端不需要使用者、密碼或 API key 檢查。任何能與 11434 埠建立 TCP 連線的對象,都能列出您的模型、執行模型、下載新模型,以及刪除現有模型。

官方文件明確寫道:「位於 http://localhost:11434 的本機 API 不需要驗證。」安全性模型完全建立在 local 這個詞上。Ollama 預設繫結至 127.0.0.1,因此在筆記型電腦上,loopback 介面就是存取控制。若將該監聽器移至公開位址,存取控制就會消失,因為沒有其他機制取代它。

這就是 VPS(virtual private server)環境中這項問題重要的原因。預設設定是安全的。多數人第一次進行的變更,是開放監聽器,讓第二台機器可以使用模型;但這項變更會一次移除所有防護。

開放連接埠 11434 會暴露哪些內容

所有端點都可用。這個 API 沒有唯讀模式,也沒有獨立的管理連接埠。以下是實際請求,只是將目標從 localhost 改成伺服器位址:

# List every model on the box
curl http://SERVER_IP:11434/api/tags

# See what is loaded into memory right now
curl http://SERVER_IP:11434/api/ps

# Run a prompt on your hardware
curl http://SERVER_IP:11434/api/generate -d '{"model":"llama3.2","prompt":"Why is the sky blue?"}'

# Write several gigabytes to your disk
curl http://SERVER_IP:11434/api/pull -d '{"model":"llama3.2"}'

# Remove a model
curl -X DELETE http://SERVER_IP:11434/api/delete -d '{"model":"llama3.2"}'

以管理者的角度來看,會發生以下 4 個問題:

  • 你的 CPU 或 GPU 會替他人執行推論。若方案提供有限的 CPU 合理使用額度,持續負載就代表陌生人正在消耗你的額度;當你不再是唯一的呼叫端時,要控制 VPS 上的 AI 工作負載成本會困難得多。
  • /api/pull 會將資料寫入你的磁碟。模型大小各不相同;即使 llama3.2:1b 也有 1.3 GB。反覆執行 pull 會填滿磁碟區,而磁碟滿載會讓主機上的其他服務全部故障,不只 Ollama。
  • 請求會在你的程序內處理,並寫入日誌。Ollama 預設只記錄中繼資料,因此你會看到端點、狀態、延遲及用戶端位址,而不會看到提示文字。但這仍會留下誰使用你的主機、以及使用目的的紀錄,並儲存在 journal 中;而且你並未選擇收集這些資料。
  • /api/delete 會移除模型。若要取回模型,必須再次透過你自己的頻寬下載。

這些問題都不需要利用漏洞。這只是已記錄的 API 按照設計正常運作。

Ed25519 金鑰不是存取控制

搜尋「Ollama API key」時,會看到兩種不同的項目。兩者都不是伺服器的密碼。先區分清楚,就能消除大部分混淆。

第一種是身分金鑰組。 Ollama 第一次執行時會產生 Ed25519 金鑰組。在 Linux 上,安裝腳本會建立名為 ollama 的 system user,並將其 home directory 設為 /usr/share/ollama,因此金鑰組會存放在:

/usr/share/ollama/.ollama/id_ed25519
/usr/share/ollama/.ollama/id_ed25519.pub

這組金鑰用於對外驗證。ollama signin 會將公開金鑰註冊到你的 ollama.com 帳戶。你也會使用它將模型推送到 registry,或拉取私有模型。它向 ollama.com 證明你的機器身分,但不會要求連線到你機器的 client 提供任何資訊。刪除或輪替這組金鑰,或從未建立這組金鑰,都不會改變哪些人可以呼叫你的 API。

第二種是 OLLAMA_API_KEY。 這個變數會保存你在 https://ollama.com/settings/keys 建立的金鑰。呼叫位於 https://ollama.com/api 的 hosted API 時,client 會將它以 Authorization: Bearer $OLLAMA_API_KEY 傳送。這是對方服務的認證資訊,由你作為 client 使用。你自己的 ollama serve 不會使用它來驗證傳入的請求。在 VPS 上設定 OLLAMA_API_KEY,不會為 VPS 設定密碼。

因此,沒有需要啟用的設定。以下 3 種防護的運作方式都相同:讓連接埠無法被連線,並在前方放置確實執行驗證的元件。

檢查伺服器目前正在監聽的項目

sudo ss -tlnp | grep 11434

安全的結果會列出 loopback 位址:

LISTEN 0  4096  127.0.0.1:11434  0.0.0.0:*  users:(("ollama",pid=812,fd=3))

暴露的結果會列出所有介面:

LISTEN 0  4096  0.0.0.0:11434  0.0.0.0:*  users:(("ollama",pid=812,fd=3))

0.0.0.0代表此主機上的所有 IPv4 位址,包括公開位址。*:11434 和 [::]:11434 代表在所有 IPv6 位址上監聽的萬用字元。它們是否也接受 IPv4,取決於 socket 的 IPV6_V6ONLY 選項。Linux 預設會關閉此選項(net.ipv6.bindv6only=0),因此這 3 種結果都應視為已暴露。

現在從外部確認。請在筆記型電腦上執行下列命令,不要在伺服器上執行:

curl -m 5 http://YOUR_SERVER_IP:11434/api/version

curl: (28) Connection timed out after 5001 milliseconds 是你要的結果,curl: (7) Failed to connect ... Connection refused 也是如此。若 JSON 物件包含 version 欄位,表示任何提出請求的人都能存取整個 API。在伺服器本機使用 curl 測試,無法證明其他機器能否連線。如果伺服器具備 IPv6 位址,請使用 curl -6 -m 5 http://[YOUR_SERVER_IPV6]:11434/api/version 對該位址重複測試,因為 IPv4 連接埠關閉並不能說明 IPv6 監聽器的狀態。

暴露通常有 2 種方式。第一種是有人刻意修改設定,因為需要讓第 2 台機器存取模型:

sudo systemctl edit ollama.service
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

這一行就是造成暴露的全部原因。第二種方式是 Docker,完全不需要你修改任何設定。這部分會在下方的專節說明。

防禦 1:維持 localhost 綁定,透過 tunnel 連入

優先採用這個方式。它不需要安裝新軟體,也不會建立可能外洩的憑證。該連接埠不會存在於公開介面上,因此掃描無法找到它。

明確設定綁定位址,不要依賴預設值:

sudo systemctl edit ollama.service
[Service]
Environment="OLLAMA_HOST=127.0.0.1:11434"

這會寫入 /etc/systemd/system/ollama.service.d/override.conf。套用設定並確認:

sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo ss -tlnp | grep 11434

現在 ss 應顯示 127.0.0.1:11434。如果仍顯示 0.0.0.0,表示有第二個 drop-in 檔案優先套用。執行 systemctl cat ollama.service,列出該 unit 及所有 drop-in 檔案與其路徑,然後刪除過時的檔案。

若要從筆記型電腦使用該模型,請透過 SSH 轉送連接埠:

ssh -N -L 11434:127.0.0.1:11434 you@your-server

-L 11434:127.0.0.1:11434 會在筆記型電腦上開啟連接埠 11434,並將送至該連接埠的所有內容轉送到伺服器上所看到的 127.0.0.1:11434。-N 會告訴 SSH 不要執行遠端命令,因此程序只會維持 tunnel 開啟。tunnel 運作期間,可在筆記型電腦上執行:

curl -s http://localhost:11434/api/tags

你會遇到兩種失敗情況。bind [127.0.0.1]:11434: Address already in use 表示該本機位址與連接埠已在使用中,可能是 Ollama、另一個 SSH tunnel 或其他程式占用,因此請使用 -L 11500:127.0.0.1:11434 選擇不同的本機連接埠,並讓用戶端連線到 11500。如果透過 tunnel 的請求收到空白回應,請先檢查伺服器上的 ss 及 SSH 的錯誤輸出,再判斷是哪個服務失敗。

若有多台用戶端機器,使用私有網路會比每人建立一條 tunnel 更合適。讓這些機器加入 WireGuard 或 Tailscale,然後將 Ollama 綁定到該網路上的位址,而不是 0.0.0.0:

[Service]
Environment="OLLAMA_HOST=10.8.0.1:11434"

此時該連接埠只存在於必須使用金鑰才能加入的介面上。即使防火牆設定錯誤,這種方式仍能提供保護,因為公開介面沒有該 listener;即使規則意外允許所有來源,也無法將它暴露出去。

防禦 2:檢查 bearer token 的反向代理

當公開網際網路上的來源必須呼叫模型時,請讓 Ollama 維持在 loopback 上,並在前方放置代理。代理會終止 TLS(transport layer security),並拒絕缺少正確標頭的請求。Ollama 仍只接受來自 127.0.0.1 的連線,因此代理是唯一的進入路徑。

先產生真正的 token。不要手動自行編造:

openssl rand -base64 36

以下是會檢查 token 的 nginx site:

map $http_authorization $ollama_ok {
    default                                   0;
    "Bearer PASTE_YOUR_GENERATED_TOKEN_HERE"  1;
}

server {
    listen 443 ssl;
    server_name llm.example.com;

    ssl_certificate     /etc/letsencrypt/live/llm.example.com/fullchain.pem;
    ssl_certificate_key /etc/letsencrypt/live/llm.example.com/privkey.pem;

    location = /api/pull   { return 403; }
    location = /api/delete { return 403; }
    location = /api/push   { return 403; }

    location / {
        if ($ollama_ok = 0) { return 401; }

        proxy_pass http://127.0.0.1:11434;
        proxy_set_header Host 127.0.0.1:11434;
        proxy_buffering off;
        proxy_read_timeout 600s;
    }
}

其中有五行會執行實際工作,而且每一行都能避免一個原本會遇到的失敗情況。

在 nginx 中,if 放在 location 區塊內通常不是好做法。不過,內容恰好為 return 是兩種可預期運作的形式之一,因此這種用法是安全的。

location = /api/pull 是精確比對。nginx 對精確比對的優先順序高於 location / 前綴,因此這三個端點會在檢查 token 前先被拒絕。有效 token 仍可存取其他模型管理端點,包括 /api/create 和 /api/blobs/:digest,因此這三個區塊無法阻止所有磁碟寫入。

proxy_set_header Host 127.0.0.1:11434; 很重要,因為 Ollama 會檢查傳入的 Host 和 Origin 標頭。直接轉送代理的公開主機名稱,可能產生一個由 Ollama 而非 nginx 產生的 403 Forbidden,會增加除錯困難。對於需要允許特定來源的瀏覽器用戶端,OLLAMA_ORIGINS 是另一個可調整的設定。

proxy_buffering off; 很重要,因為 Ollama 會逐一傳送回應 token。啟用緩衝時,nginx 會先緩衝回應,再將其轉送出去,導致串流 token 延遲傳送。

proxy_read_timeout 600s; 很重要,因為 nginx 的預設值為 60 秒。這個計時器計算的是 Ollama 兩次連續讀取之間的間隔,不是整個回應的總時間。只要串流回應持續產生 token,計時器就會在每次讀取時重設。若 Ollama 在 60 秒內沒有傳送任何內容,計時器就會逾時。例如使用 "stream": false 傳送請求時,Ollama 會在最後一次傳送完整答案;或者第一個 token 遲遲未送達,也會發生相同情況。用戶端會收到 504 Gateway Time-out,而 /var/log/nginx/error.log 會記錄 upstream timed out (110: Connection timed out) while reading response header from upstream。請求其實仍在處理中,但 nginx 已放棄等待。

重新載入並測試兩條路徑:

sudo nginx -t && sudo systemctl reload nginx
curl -s -o /dev/null -w '%{http_code}\n' https://llm.example.com/api/tags
curl -s -H "Authorization: Bearer YOUR_TOKEN" https://llm.example.com/api/tags

第一個命令應輸出 401。第二個命令應輸出模型清單。如果第一個命令也回傳模型清單,請確認實際處理請求的 server 和 location,以及重新載入是否成功。map 區塊若放在錯誤的範圍內,會使設定無效。它必須位於 http 層級,因此請將它放在 /etc/nginx/conf.d/ 下的檔案中,或放在 server 區塊上方,絕不要放在 server 內。

Caddy 也能完成相同工作,使用四行設定基本驗證。對瀏覽器用戶端而言,這通常比 bearer token 更合適:

llm.example.com {
	basic_auth {
		apiuser PASTE_BCRYPT_HASH_HERE
	}
	reverse_proxy 127.0.0.1:11434
}

執行 caddy hash-password 以產生它所要求的 bcrypt 雜湊值。另請注意名稱:Caddy v2.8 之前使用 basicauth,現在使用 basic_auth。Caddy 仍接受舊拼法作為已棄用的別名,因此從舊指南複製的設定仍可載入,但 Caddy 會警告 basicauth 已棄用,並要求改用 basic_auth。看到該警告時,請將其重新命名。

無論選擇哪個代理,所有用戶端共用的都是同一個 secret。持有該 secret 的每個用戶端都具備完全相同的存取權限。撤銷權限時,必須修改設定,並同時更新所有呼叫端。

防禦 3:依用戶端簽發金鑰的閘道

當不只一個人員或應用程式呼叫模型時,共用 token 很快就不敷使用。你無法判斷是哪個用戶端造成負載,也無法在不影響其他用戶端的情況下停用其中一個。閘道位於原本代理的位置,使用相同的 OpenAI 相容 API,為每個用戶端簽發個別金鑰,並記錄各金鑰的使用情況。自行託管的 LiteLLM 閘道 是通常的做法,除了存取控制之外,還能提供每個金鑰的預算與請求日誌。

防禦 1 的規則不變。Ollama 綁定至 127.0.0.1,只有閘道程序會與它通訊,且只有閘道服務對外監聽。如果某台主機的 11434 埠仍對全世界開放,閘道就只是裝飾,因為呼叫端可以直接繞過它。

防火牆陷阱:發布的容器連接埠會繞過 UFW

這就是為什麼有些伺服器的管理者明明已正確設定防火牆,伺服器上仍會出現暴露的服務。

UFW(uncomplicated firewall)會將規則寫入核心的 filter 表格中的 INPUT 鏈,而 INPUT 會處理目的地是主機本身的封包。Docker 的 -p 旗標會在核心判斷封包目的地之前,將目的地 NAT(network address translation)規則寫入 nat 表格中的 PREROUTING 鏈。路由決策發生時,目的地已被改寫為容器的位址,因此封包會被轉送,而不是在本機交付;它會通過 FORWARD,而不是 INPUT。UFW 的 INPUT 規則完全不會被檢查,因此封包會繞過防火牆,而不是通過防火牆。

因此,以下順序會讓連接埠 11434 對網際網路開放:

sudo ufw default deny incoming
sudo ufw enable
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

而 sudo ufw status 仍會顯示防火牆已啟用,且預設政策為拒絕。這兩個結果可以同時正確,正是因此人們才會相信錯誤的結果。你可以查看造成此情況的規則:

sudo iptables -t nat -L DOCKER -n

修正方式是在發布旗標中指定一個位址:

docker rm -f ollama
docker run -d -v ollama:/root/.ollama -p 127.0.0.1:11434:11434 --name ollama ollama/ollama

-p 11434:11434 不指定主機位址,因此 Docker 會在所有主機位址上發布連接埠,包括 IPv4(0.0.0.0)與 IPv6([::])。指定 127.0.0.1 會將對應的主機端繫結至 loopback,因此 SSH tunnel 與反向代理仍可連線,而網際網路無法連線。Docker 28.0.0 之前的版本有一項例外:同一網路區段的機器仍可連線至發布到 localhost 的連接埠,因此在依賴這項保護前請先升級。這裡重新建立容器是安全的,因為模型位於具名的 ollama volume 中,而不在容器內。

確認兩種檢查結果一致:

docker port ollama
sudo ss -tlnp | grep 11434

docker port ollama 應輸出 11434/tcp -> 127.0.0.1:11434。如果輸出 0.0.0.0:11434 或 [::]:11434,表示服務仍然暴露在外。了解一次這項機制後,便適用於所有發布連接埠的容器:Docker 發布的連接埠為何會繞過 UFW 說明 DOCKER-USER 鏈,以及 Docker 重新啟動後仍會保留的規則。如果你仍在建立主機本身的政策,新 VPS 所需的 UFW 規則 說明這項設定所依據的基礎。在 Rocky 或 AlmaLinux 上沒有 UFW 可供設定,因此請改從以 firewalld 撰寫相同的基礎政策開始。

程序以哪個帳號執行

Linux 安裝指令碼會建立專用帳號,並以該帳號執行服務:

useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama

/etc/systemd/system/ollama.service 中的 unit 會設定 User=ollama 和 Group=ollama。請不要修改這些設定。在終端機中手動執行的簡單 ollama serve,會以目前登入帳號的身分執行。如果該帳號是 root,未經驗證的 API 就會以 root 身分寫入檔案。請確認目前的執行身分:

ps -o user= -C ollama

結果應為 ollama。其他結果都表示有手動啟動的程序與該 unit 並行執行,或取代了該 unit。之後新增任何 daemon 時,也應採用相同的檢查方式;以最小權限使用者執行服務 可正確落實這項原則。

如何確認 Ollama API endpoint 安全

無論你採用哪種方式,只要從另一台機器執行以下測試即可確認:

curl -m 5 http://YOUR_SERVER_IP:11434/api/version
curl -m 5 http://YOUR_SERVER_IP:11434/api/tags

兩個請求都應逾時或遭拒絕。如果你建立了 proxy,則使用 proxy hostname 存取相同的兩個路徑時,未提供 credentials 應回傳 401,提供 credentials 則應回傳有效 JSON。

接著查看一次 access log,確認連接埠開放期間產生的請求:

journalctl -u ollama --since "-30 days" | grep GIN

Ollama 會為每個請求寫入一行,並包含 client address:

[GIN] 2026/08/12 - 14:01:10 | 200 | 103.965898ms | 127.0.0.1 | POST "/api/generate"

該位址來自 Gin 的 ClientIP()。此設定也會檢查來自 trusted proxy 的 X-Forwarded-For 與 X-Real-IP headers。因此,經由 loopback reverse proxy 傳送的請求,可能會顯示 public client address,即使 Ollama 正確繫結至 127.0.0.1。該欄位中的 public address 並不能證明可直接存取 port 11434;沒有相符的 log lines,也不能證明沒有任何人連線到該連接埠。請將時間戳記與 proxy logs 和設定進行比對,並使用外部連線測試確認目前的暴露狀態。如果你不熟悉 model 部分,在 VPS 上執行 Ollama 說明了安裝方式、model sizing,以及決定實際可載入內容的記憶體限制。

FAQ

Ollama 有 API key 或密碼嗎?

沒有。您執行的伺服器完全沒有任何形式的驗證,官方文件也指出本機 API 不需要驗證。兩種被稱為「Ollama API key」的項目,實際用途都不是用來驗證本機 API。/usr/share/ollama/.ollama/ 中的 Ed25519 金鑰組可向 ollama.com 證明您的機器身分,讓您推送模型及擷取私有模型。OLLAMA_API_KEY 是用戶端傳送至 https://ollama.com/api 上代管 API 的認證資訊。您自己的 ollama serve 不會使用其中任何一項來驗證傳入的用戶端,因此存取控制必須由網路或前置代理伺服器提供。

如果我有防火牆,OLLAMA_HOST=0.0.0.0 安全嗎?

只有在防火牆確實封鎖對該監聽器的存取時才安全。0.0.0.0 表示監聽器確實存在於公開介面上,而您只依賴防火牆讓它無法被連線。Docker 發布的 Ollama 埠需要另外處理,因為 Docker 加入 nat 表格的 DNAT 規則,會在封包抵達 UFW 所使用的 INPUT 鏈之前先進行評估,因此封包會被轉送,而 UFW 的 INPUT 規則永遠看不到它。繫結至 127.0.0.1 或私有通道位址,會將監聽器從公開介面移除,因此即使防火牆設定錯誤,也沒有可被暴露的監聽器。

如何確認我的 Ollama 埠是否對網際網路開放?

在伺服器上執行 sudo ss -tlnp | grep 11434,並從另一台機器執行 curl -m 5 http://YOUR_SERVER_IP:11434/api/version。ss 顯示 127.0.0.1:11434,且遠端 curl 逾時,這就是您要確認的結果組合。若 ss 顯示 0.0.0.0:11434 或 *:11434,同時遠端 curl 回傳 JSON,表示完整 API 可被連線。只在伺服器本身使用 curl 測試,無法證明其他機器能否連線。

我可以直接將埠從 11434 改成某個隨機埠嗎?

不行,原因值得說明。改用不同埠,除了讓針對單一埠的掃描變慢之外,沒有其他防護效果。掃描器會掃描整個埠號範圍,而對 /api/tags 發出一個請求,無論請求抵達哪個埠,都能辨識該服務。改動埠也會使所有用戶端預設值失效,日後更難理解與維護自己的設定。請改為繫結至 loopback,這會移除監聽器,而不是將它搬到另一個埠。

有人連線到我開放的 Ollama。我應該檢查什麼?

先將它繫結至 127.0.0.1,再重新啟動服務,讓暴露狀態先停止,再開始調查。接著執行 journalctl -u ollama --since "-30 days" | grep GIN,檢視用戶端位址、端點及時間戳記。Gin 也會讀取轉送的用戶端位址標頭,因此在將某個位址視為直接存取的證據前,請先將這些項目與代理伺服器日誌比對。將 ollama list 與您預期應該存在的模型比對,因為 /api/pull 未經驗證,而您未擷取的模型同時代表磁碟使用量與證據。使用 df -h 檢查可用空間。預設存取日誌會記錄請求中繼資料,不會記錄模型名稱、提示文字或產生的回答。

這篇文章對您有幫助嗎?