SSD Nodes Learn Hosting plans →
Hướng dẫn Matt ConnorBởi Matt Connor · Cập nhật ngày 2026-10-30

Ollama API không có mật khẩu: 3 cách xử lý

Ollama không có authentication mặc định: ai truy cập được port 11434 đều có thể chạy, tải hoặc xóa model. Xem 3 cách xử lý theo thứ tự.

API của Ollama không có password

API của Ollama không có cơ chế xác thực. Không có user, password hoặc bước kiểm tra API key đối với client kết nối đến. Bất kỳ ai có thể mở kết nối TCP đến port 11434 đều có thể liệt kê model, chạy model, tải model mới và xóa các model hiện có.

Tài liệu chính thức nêu rõ: "Local API tại http://localhost:11434 không yêu cầu xác thực." Từ local bao quát toàn bộ mô hình bảo mật. Theo mặc định, Ollama bind vào 127.0.0.1, nên trên laptop, interface loopback chính là cơ chế kiểm soát truy cập. Khi chuyển listener đó sang một địa chỉ public, cơ chế kiểm soát truy cập sẽ biến mất vì không có gì thay thế nó.

Đó là lý do vấn đề này quan trọng trên VPS (virtual private server). Cấu hình mặc định là an toàn. Thay đổi đầu tiên mà hầu hết mọi người thực hiện là mở listener để máy thứ hai có thể dùng model. Chính thay đổi này đồng thời loại bỏ mọi lớp bảo vệ.

Cổng mở 11434 để lộ những gì

Mọi endpoint. Không có chế độ chỉ đọc và cũng không có cổng admin riêng. Đây là các request thực tế, được gửi đến địa chỉ server thay vì localhost:

# List every model on the box
curl http://SERVER_IP:11434/api/tags

# See what is loaded into memory right now
curl http://SERVER_IP:11434/api/ps

# Run a prompt on your hardware
curl http://SERVER_IP:11434/api/generate -d '{"model":"llama3.2","prompt":"Why is the sky blue?"}'

# Write several gigabytes to your disk
curl http://SERVER_IP:11434/api/pull -d '{"model":"llama3.2"}'

# Remove a model
curl -X DELETE http://SERVER_IP:11434/api/delete -d '{"model":"llama3.2"}'

Xét trên phương diện vận hành, có 4 vấn đề xảy ra:

  • CPU hoặc GPU của bạn chạy inference cho người khác. Với gói có giới hạn CPU theo chính sách sử dụng hợp lý, tải kéo dài đồng nghĩa với việc một người lạ đang tiêu tốn hạn mức của bạn; việc kiểm soát chi phí workload AI trên VPS sẽ khó hơn nhiều khi bạn không còn là người gọi duy nhất.
  • /api/pull ghi dữ liệu vào disk của bạn. Kích thước model khác nhau; ngay cả llama3.2:1b cũng là 1.3 GB. Một vòng lặp pull sẽ làm đầy volume, còn disk đầy sẽ làm hỏng mọi service khác trên máy, không chỉ Ollama.
  • Request đi vào process của bạn và được ghi log. Ở log level mặc định, Ollama chỉ ghi metadata, nên bạn nhận được endpoint, status, latency và địa chỉ client, chứ không có nội dung prompt. Tuy vậy, đây vẫn là bản ghi cho biết ai đã dùng máy của bạn và dùng để làm gì, nằm trong journal, dù bạn không hề chủ động chọn thu thập thông tin đó.
  • /api/delete xóa các model. Muốn khôi phục chúng, bạn phải tải lại qua bandwidth của chính mình.

Không điều nào trong số này cần đến một exploit. Đây là API được ghi rõ trong tài liệu và đang hoạt động đúng như thiết kế.

Khóa Ed25519 không phải là cơ chế kiểm soát truy cập

Tìm kiếm “Ollama API key” sẽ đưa bạn đến hai thứ khác nhau. Cả hai đều không phải là mật khẩu cho server của bạn. Phân biệt chúng sẽ loại bỏ phần lớn nhầm lẫn.

Thứ nhất là cặp khóa định danh. Ollama tạo một cặp khóa Ed25519 trong lần chạy đầu tiên. Trên Linux, install script tạo một system user tên là ollama với home directory tại /usr/share/ollama, nên cặp khóa nằm ở đây:

/usr/share/ollama/.ollama/id_ed25519
/usr/share/ollama/.ollama/id_ed25519.pub

Khóa này dùng cho kết nối đi ra ngoài. ollama signin đăng ký phần public key với tài khoản ollama.com của bạn. Đây là khóa dùng để xác thực khi bạn push model lên registry hoặc pull model private. Nó xác minh máy của bạn với ollama.com. Nó không yêu cầu gì từ các client kết nối đến máy của bạn. Xóa khóa, rotate khóa hoặc không tạo khóa không thay đổi việc ai được phép gọi API của bạn.

Thứ hai là OLLAMA_API_KEY. Biến này chứa khóa bạn tạo tại https://ollama.com/settings/keys. Client gửi khóa đó dưới dạng Authorization: Bearer $OLLAMA_API_KEY khi gọi hosted API tại https://ollama.com/api. Đây là credential cho service của họ và bạn sử dụng nó với tư cách client. ollama serve của bạn không dùng khóa này để xác thực các request đi vào. Đặt OLLAMA_API_KEY trên VPS không tạo mật khẩu cho VPS của bạn.

Vì vậy, không có setting nào cần bật. Cả ba biện pháp bảo vệ bên dưới đều hoạt động theo cùng một cách: giữ cho port không thể truy cập được, rồi đặt một thành phần phía trước port đó để thực hiện kiểm tra.

Kiểm tra server hiện đang listen trên những địa chỉ nào

sudo ss -tlnp | grep 11434

Kết quả an toàn chỉ hiển thị địa chỉ loopback:

LISTEN 0  4096  127.0.0.1:11434  0.0.0.0:*  users:(("ollama",pid=812,fd=3))

Kết quả bị expose hiển thị mọi interface:

LISTEN 0  4096  0.0.0.0:11434  0.0.0.0:*  users:(("ollama",pid=812,fd=3))

0.0.0.0 nghĩa là tất cả địa chỉ IPv4 trên máy, bao gồm cả địa chỉ public. *:11434 và [::]:11434 là wildcard listener trên mọi địa chỉ IPv6. Việc chúng có nhận IPv4 hay không phụ thuộc vào option IPV6_V6ONLY của socket. Linux mặc định tắt option này (net.ipv6.bindv6only=0), vì vậy hãy xem cả ba trường hợp đều là bị expose.

Bây giờ hãy xác nhận từ bên ngoài. Chạy lệnh này trên laptop, không phải trên server:

curl -m 5 http://YOUR_SERVER_IP:11434/api/version

curl: (28) Connection timed out after 5001 milliseconds là kết quả bạn cần, và curl: (7) Failed to connect ... Connection refused cũng vậy. Một JSON object có trường version nghĩa là bất kỳ ai gửi request cũng có thể truy cập toàn bộ API. Việc test bằng curl ngay trên server không chứng minh được máy khác có thể truy cập service. Nếu server có địa chỉ IPv6, hãy test lại với địa chỉ đó bằng curl -6 -m 5 http://[YOUR_SERVER_IPV6]:11434/api/version, vì một port IPv4 bị đóng không cho biết gì về listener IPv6.

Việc expose thường xảy ra theo một trong hai cách. Cách thứ nhất là chỉnh sửa có chủ ý, vì ai đó cần một máy thứ hai truy cập model:

sudo systemctl edit ollama.service
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

Chỉ một dòng đó là đủ để expose service. Cách thứ hai là Docker, và cách này hoàn toàn không yêu cầu bạn chỉnh sửa gì. Phần bên dưới sẽ nói riêng về trường hợp đó.

Phòng thủ 1: chỉ bind trên localhost và kết nối qua tunnel

Hãy ưu tiên cách này. Bạn không cần cài thêm phần mềm và cũng không tạo credential có thể bị lộ. Port không bao giờ tồn tại trên public interface, nên công cụ scan không thể tìm thấy.

Chỉ định rõ bind address thay vì phụ thuộc vào giá trị mặc định:

sudo systemctl edit ollama.service
[Service]
Environment="OLLAMA_HOST=127.0.0.1:11434"

Lệnh này ghi vào /etc/systemd/system/ollama.service.d/override.conf. Áp dụng thay đổi rồi kiểm tra:

sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo ss -tlnp | grep 11434

ss bây giờ phải hiển thị 127.0.0.1:11434. Nếu vẫn hiển thị 0.0.0.0, một file drop-in khác đang được ưu tiên. Chạy systemctl cat ollama.service để liệt kê unit và toàn bộ drop-in cùng đường dẫn của chúng, rồi xóa file cũ.

Để dùng model từ laptop, hãy forward port qua SSH:

ssh -N -L 11434:127.0.0.1:11434 you@your-server

-L 11434:127.0.0.1:11434 mở port 11434 trên laptop và gửi mọi kết nối đến đó tới 127.0.0.1:11434 theo góc nhìn của server. -N yêu cầu SSH không chạy remote command, nên tiến trình chỉ giữ tunnel mở. Trong lúc tunnel đang chạy, lệnh này hoạt động trên laptop:

curl -s http://localhost:11434/api/tags

Bạn sẽ gặp 2 lỗi. bind [127.0.0.1]:11434: Address already in use có nghĩa là local address và port đã được sử dụng, có thể bởi Ollama, một SSH tunnel khác hoặc chương trình khác. Vì vậy, hãy chọn local port khác bằng -L 11500:127.0.0.1:11434 và trỏ client vào 11500. Nếu request qua tunnel nhận được phản hồi rỗng, hãy kiểm tra ss trên server và output lỗi của SSH trước khi xác định service nào bị lỗi.

Nếu có nhiều máy client, private network phù hợp hơn việc tạo một tunnel cho từng người. Đưa các máy vào WireGuard hoặc Tailscale, rồi bind Ollama vào address trên network đó thay vì 0.0.0.0:

[Service]
Environment="OLLAMA_HOST=10.8.0.1:11434"

Khi đó, port chỉ tồn tại trên interface mà bạn cần key để tham gia. Cách này vẫn an toàn trước một lỗi cấu hình firewall, vì dù một rule vô tình cho phép toàn bộ Internet truy cập, rule đó cũng không thể expose listener trên public interface không có listener đó.

Phòng thủ 2: reverse proxy kiểm tra bearer token

Khi một hệ thống trên Internet public phải gọi model, hãy giữ Ollama trên loopback và đặt một proxy phía trước. Proxy thực hiện TLS termination (transport layer security) và từ chối các request không có header phù hợp. Ollama vẫn chỉ chấp nhận kết nối từ 127.0.0.1, nên proxy là đường truy cập duy nhất.

Trước tiên, hãy tạo một token thực. Không tự nghĩ token bằng tay:

openssl rand -base64 36

Một nginx site kiểm tra token đó:

map $http_authorization $ollama_ok {
    default                                   0;
    "Bearer PASTE_YOUR_GENERATED_TOKEN_HERE"  1;
}

server {
    listen 443 ssl;
    server_name llm.example.com;

    ssl_certificate     /etc/letsencrypt/live/llm.example.com/fullchain.pem;
    ssl_certificate_key /etc/letsencrypt/live/llm.example.com/privkey.pem;

    location = /api/pull   { return 403; }
    location = /api/delete { return 403; }
    location = /api/push   { return 403; }

    location / {
        if ($ollama_ok = 0) { return 401; }

        proxy_pass http://127.0.0.1:11434;
        proxy_set_header Host 127.0.0.1:11434;
        proxy_buffering off;
        proxy_read_timeout 600s;
    }
}

Năm dòng ở đây thực hiện các tác vụ quan trọng. Mỗi dòng ngăn một lỗi mà nếu không có nó, bạn sẽ gặp phải.

if bên trong block location thường là ý tưởng tồi trong nginx, nhưng body có đúng return là một trong hai dạng hoạt động ổn định, nên cách dùng này an toàn.

location = /api/pull là exact match. nginx ưu tiên exact match cao hơn prefix location /, nên 3 endpoint đó bị từ chối trước khi token được kiểm tra. Token hợp lệ vẫn cho phép truy cập các endpoint quản lý model khác, bao gồm /api/create và /api/blobs/:digest. Vì vậy, 3 block này không ngăn được mọi thao tác ghi vào disk.

proxy_set_header Host 127.0.0.1:11434; quan trọng vì Ollama kiểm tra các header Host và Origin nhận được. Chuyển thẳng hostname public của proxy qua upstream có thể tạo ra 403 Forbidden do Ollama gửi, thay vì do nginx gửi, khiến việc debug khó hiểu hơn. OLLAMA_ORIGINS là cần gạt còn lại, dành cho browser client cần cho phép một origin cụ thể.

proxy_buffering off; quan trọng vì Ollama stream response theo từng token. Khi bật buffering, nginx buffer response trước khi chuyển tiếp, làm chậm việc gửi các token đã stream.

proxy_read_timeout 600s; quan trọng vì nginx mặc định là 60 giây. Timer này chạy giữa 2 lần đọc liên tiếp từ Ollama, không chạy xuyên suốt toàn bộ response. Một reply dạng streaming liên tục tạo token sẽ reset timer mỗi lần. Request mà Ollama không gửi gì trong 60 giây sẽ kích hoạt timer, chẳng hạn request dùng "stream": false. Tùy chọn này trả toàn bộ answer một lần ở cuối, hoặc request có khoảng im lặng dài trước khi token đầu tiên xuất hiện. Client nhận 504 Gateway Time-out, còn /var/log/nginx/error.log ghi lại upstream timed out (110: Connection timed out) while reading response header from upstream. Request vẫn đang xử lý. nginx đã từ bỏ request đó.

Reload rồi kiểm tra cả 2 đường truy cập:

sudo nginx -t && sudo systemctl reload nginx
curl -s -o /dev/null -w '%{http_code}\n' https://llm.example.com/api/tags
curl -s -H "Authorization: Bearer YOUR_TOKEN" https://llm.example.com/api/tags

Lệnh đầu tiên phải in 401. Lệnh thứ hai phải in danh sách model. Nếu lệnh đầu tiên cũng trả về danh sách model, hãy kiểm tra server và location nào đã xử lý request, đồng thời xác nhận reload thành công. Block map đặt sai scope sẽ làm cấu hình không hợp lệ. Nó phải nằm ở cấp http, nên hãy đặt nó trong một file dưới /etc/nginx/conf.d/ hoặc phía trên block server, tuyệt đối không đặt bên trong server.

Caddy cũng thực hiện cùng tác vụ bằng basic authentication trong 4 dòng. Cách này phù hợp với browser client hơn bearer token:

llm.example.com {
	basic_auth {
		apiuser PASTE_BCRYPT_HASH_HERE
	}
	reverse_proxy 127.0.0.1:11434
}

Chạy caddy hash-password để tạo bcrypt hash mà nó yêu cầu. Lưu ý về tên: directive này từng là basicauth trước Caddy v2.8 và hiện là basic_auth. Caddy vẫn chấp nhận cách viết cũ dưới dạng alias deprecated, nên config sao chép từ hướng dẫn cũ vẫn được load. Tuy nhiên, Caddy sẽ cảnh báo rằng basicauth đã deprecated và yêu cầu dùng basic_auth thay thế. Hãy đổi tên khi thấy cảnh báo đó.

Dù chọn proxy nào, đây vẫn là một shared secret cho tất cả mọi người. Mọi client giữ secret này đều có quyền truy cập giống nhau. Muốn revoke secret, bạn phải sửa config và cập nhật tất cả caller cùng lúc.

Biện pháp phòng thủ 3: gateway cấp key riêng cho từng client

Khi có nhiều người hoặc ứng dụng gọi model, một token dùng chung sẽ nhanh chóng không đáp ứng được. Bạn không thể biết client nào tạo ra tải, cũng không thể ngắt riêng một client mà không ngắt tất cả client còn lại. Gateway nằm tại vị trí của proxy trước đó, sử dụng cùng OpenAI-compatible API, cấp một key riêng cho từng client và ghi lại những gì mỗi key đã sử dụng. Gateway LiteLLM tự host là lựa chọn thường dùng. Nó bổ sung budget theo từng key và request log bên cạnh access control.

Quy tắc trong biện pháp phòng thủ 1 không thay đổi. Ollama bind vào 127.0.0.1, gateway là process duy nhất giao tiếp với Ollama, và gateway là service duy nhất có public listener. Gateway trên một máy vẫn mở port 11434 cho toàn Internet chỉ mang tính hình thức, vì caller có thể đi vòng qua gateway.

Bẫy firewall: cổng container được publish bỏ qua UFW

Đây là lý do các instance bị exposed vẫn tồn tại trên những server mà chủ sở hữu đã cấu hình firewall đúng cách.

UFW (uncomplicated firewall) ghi các rule vào chain INPUT của table filter trong kernel, còn INPUT xử lý các packet được gửi đến chính host đó. Flag -p của Docker ghi một rule NAT đích (network address translation) vào chain PREROUTING của table nat, nơi kernel đánh giá rule trước khi quyết định packet sẽ đi đâu. Khi quyết định định tuyến diễn ra, đích đã được đổi thành địa chỉ của container. Vì vậy packet được forward thay vì phân phối cục bộ, và đi qua FORWARD thay vì INPUT. Các rule INPUT của UFW không bao giờ được kiểm tra, nên packet đi vòng qua firewall thay vì đi qua firewall.

Đó là lý do chuỗi lệnh sau mở port 11434 cho Internet:

sudo ufw default deny incoming
sudo ufw enable
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

Trong khi đó, sudo ufw status vẫn báo firewall đang active với chính sách mặc định là deny. Cả hai kết quả đều đúng đồng thời. Đây chính xác là lý do mọi người tin vào kết quả sai. Bạn có thể xem rule đã gây ra việc này:

sudo iptables -t nat -L DOCKER -n

Cách sửa là thêm một địa chỉ vào publish flag:

docker rm -f ollama
docker run -d -v ollama:/root/.ollama -p 127.0.0.1:11434:11434 --name ollama ollama/ollama

-p 11434:11434 không chỉ định địa chỉ host, nên Docker publish port trên mọi địa chỉ của host, gồm cả IPv4 (0.0.0.0) và IPv6 ([::]). Chỉ định 127.0.0.1 sẽ bind phía host của mapping vào loopback. Vì vậy SSH tunnel và reverse proxy vẫn truy cập được port này, còn Internet thì không. Các bản Docker cũ hơn 28.0.0 có một ngoại lệ: các máy trong cùng network segment vẫn có thể truy cập những port được publish vào localhost. Vì vậy hãy upgrade trước khi dựa vào cơ chế bảo vệ này. Recreate container trong trường hợp này là an toàn vì các model nằm trong volume ollama có tên, không nằm bên trong container.

Xác nhận hai cách kiểm tra cho cùng một kết quả:

docker port ollama
sudo ss -tlnp | grep 11434

docker port ollama phải in ra 11434/tcp -> 127.0.0.1:11434. Nếu in ra 0.0.0.0:11434 hoặc [::]:11434 thì host vẫn đang exposed. Chỉ cần hiểu cơ chế này một lần, bạn có thể áp dụng cho mọi container được publish sau này: vì sao port được Docker publish bỏ qua UFW giải thích chain DOCKER-USER và các rule vẫn còn sau khi Docker restart. Nếu bạn vẫn đang xây dựng policy cho chính host, các rule UFW cần có trên VPS mới trình bày phần nền tảng mà cấu hình này dựa trên. Trên Rocky hoặc AlmaLinux không có UFW để cấu hình, nên hãy bắt đầu từ cùng policy nền tảng được viết bằng firewalld.

Tiến trình đang chạy dưới tài khoản nào

Script cài đặt Linux tạo một account riêng và chạy service bằng account đó:

useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama

Unit tại /etc/systemd/system/ollama.service đặt User=ollama và Group=ollama. Không thay đổi các thiết lập này. Lệnh ollama serve chạy thủ công trong terminal sẽ chạy dưới tài khoản bạn đã đăng nhập. Nếu tài khoản đó là root, API không yêu cầu xác thực sẽ ghi file dưới quyền root. Kiểm tra tiến trình đang chạy dưới tài khoản nào:

ps -o user= -C ollama

Kết quả phải là ollama. Kết quả khác nghĩa là có một tiến trình được khởi động thủ công đang chạy song song với unit hoặc thay thế unit. Cách kiểm tra này áp dụng cho mọi daemon bạn thêm sau này. Hướng dẫn chạy service bằng user có ít quyền nhất xử lý đúng vấn đề này.

Cách kiểm tra endpoint Ollama API có an toàn hay không

Dù bạn chọn phương án nào, một bài kiểm tra sẽ xác nhận kết quả. Bài kiểm tra này phải chạy từ một máy khác:

curl -m 5 http://YOUR_SERVER_IP:11434/api/version
curl -m 5 http://YOUR_SERVER_IP:11434/api/tags

Cả hai lệnh đều phải bị timeout hoặc bị từ chối. Nếu bạn dựng proxy, hai đường dẫn tương tự trên hostname của proxy phải trả về 401 khi không có credentials và JSON thực khi có credentials.

Sau đó, đọc access log một lần để kiểm tra các request được gửi trong thời gian cổng đang mở:

journalctl -u ollama --since "-30 days" | grep GIN

Ollama ghi một dòng cho mỗi request và có kèm địa chỉ client:

[GIN] 2026/08/12 - 14:01:10 | 200 | 103.965898ms | 127.0.0.1 | POST "/api/generate"

Địa chỉ đó lấy từ ClientIP() của Gin. Thành phần này cũng kiểm tra các header X-Forwarded-For và X-Real-IP từ các proxy được tin cậy. Vì vậy, một request đi qua reverse proxy loopback có thể hiển thị địa chỉ client public, trong khi Ollama vẫn bind đúng vào 127.0.0.1. Địa chỉ public trong cột đó không chứng minh rằng client đã truy cập trực tiếp cổng 11434. Tương tự, không có dòng log tương ứng cũng không chứng minh rằng không ai đã truy cập cổng này. Hãy đối chiếu timestamp với proxy log và cấu hình, đồng thời dùng bài kiểm tra kết nối từ bên ngoài để kiểm tra mức độ exposed hiện tại. Nếu phần model còn mới với bạn, chạy Ollama trên VPS có hướng dẫn về cài đặt, sizing model và các giới hạn bộ nhớ quyết định model nào thực sự có thể load.

FAQ

Ollama có API key hoặc mật khẩu không?

Không. Server bạn chạy không có bất kỳ cơ chế xác thực nào, và tài liệu chính thức nêu rõ local API không yêu cầu xác thực. Hai thứ thường bị gọi là “Ollama API key” đều có mục đích khác. Cặp khóa Ed25519 trong /usr/share/ollama/.ollama/ dùng để chứng minh máy của bạn với ollama.com, để bạn có thể push model và pull model private. OLLAMA_API_KEY là credential mà client gửi đến hosted API tại https://ollama.com/api. ollama serve của bạn không dùng hai thứ này để xác thực client kết nối vào, nên quyền truy cập phải được kiểm soát từ network hoặc từ một proxy đặt phía trước.

OLLAMA_HOST=0.0.0.0 có an toàn nếu tôi có firewall không?

Chỉ khi firewall chặn đúng quyền truy cập đến listener đó. 0.0.0.0 có nghĩa là listener thực sự tồn tại trên public interface, và bạn đang chỉ tin vào firewall để ngăn truy cập đến nó. Port Ollama được Docker publish cần được xử lý riêng, vì rule DNAT mà Docker thêm vào bảng nat được áp dụng trước khi packet đến chain INPUT, nơi UFW hoạt động. Vì vậy packet được forward và các rule INPUT của UFW không bao giờ nhìn thấy packet đó. Bind vào 127.0.0.1 hoặc vào địa chỉ private của tunnel sẽ loại listener khỏi public interface, nên nếu firewall cấu hình sai thì cũng không còn listener để expose.

Làm cách nào kiểm tra port Ollama của tôi có mở ra Internet không?

Chạy sudo ss -tlnp | grep 11434 trên server và chạy curl -m 5 http://YOUR_SERVER_IP:11434/api/version từ một máy khác. ss hiển thị 127.0.0.1:11434 trong khi curl từ xa bị timeout là kết quả bạn cần thấy. Nếu ss hiển thị 0.0.0.0:11434 hoặc *:11434, đồng thời curl từ xa trả về JSON, thì full API đang có thể truy cập. Việc test bằng curl ngay trên server không chứng minh được máy khác có thể truy cập hay không.

Tôi có thể chỉ chuyển port từ 11434 sang một port ngẫu nhiên không?

Không, và lý do cần được nêu rõ. Đổi port không làm chậm được gì ngoài việc scan một port duy nhất. Scanner sẽ quét toàn bộ dải port, và một request đến /api/tags sẽ nhận diện service bất kể request đến port nào. Đổi port cũng phá vỡ cấu hình mặc định của mọi client và khiến việc kiểm tra setup của bạn về sau khó hơn. Thay vào đó, hãy bind vào loopback. Cách này loại bỏ listener thay vì chỉ chuyển listener sang vị trí khác.

Có người đã truy cập Ollama đang mở của tôi. Tôi cần kiểm tra gì?

Trước tiên, hãy bind nó vào 127.0.0.1 và restart service để dừng việc expose trước khi bắt đầu điều tra. Sau đó chạy journalctl -u ollama --since "-30 days" | grep GIN để kiểm tra địa chỉ client, endpoint và timestamp. Gin cũng đọc các header chứa địa chỉ client được forward, nên hãy đối chiếu các mục này với log của proxy trước khi xem một địa chỉ là bằng chứng của truy cập trực tiếp. Đối chiếu ollama list với các model bạn dự định có, vì /api/pull không yêu cầu xác thực và một model bạn không pull vừa chiếm dung lượng đĩa vừa là bằng chứng. Kiểm tra dung lượng trống bằng df -h. Access log mặc định ghi metadata của request, không ghi tên model, nội dung prompt hoặc câu trả lời được tạo ra.

Bài viết này có hữu ích không?