Cara Lindungi API Ollama Tanpa Kata Laluan
Pelayan Ollama pada port 11434 tidak mempunyai pengesahan secara lalai. Ketahui tiga langkah praktikal untuk menyekat akses tanpa kebenaran dan melindungi model AI anda.
API Ollama tidak mempunyai kata laluan
API Ollama tidak mempunyai pengesahan. Tiada pengguna, tiada kata laluan dan tiada semakan API key untuk klien yang masuk. Sesiapa sahaja yang boleh membuka sambungan TCP ke port 11434 boleh menyenaraikan model anda, menjalankannya, memuat turun model baharu dan memadam model yang sedia ada.
Dokumentasi rasmi menyatakan perkara ini dengan jelas: "API tempatan pada http://localhost:11434 tidak memerlukan pengesahan." Perkataan tempatan membawa keseluruhan model keselamatan tersebut. Ollama mengikat pada 127.0.0.1 secara lalai, jadi pada komputer riba, antara muka loopback bertindak sebagai kawalan akses. Alihkan pendengar tersebut ke alamat awam dan kawalan akses akan hilang, kerana tiada apa-apa yang menggantikannya.
Itulah sebabnya perkara ini penting pada VPS (virtual private server). Tetapan lalai adalah selamat. Perubahan pertama yang dilakukan oleh kebanyakan orang, iaitu membuka pendengar supaya mesin kedua boleh menggunakan model tersebut, adalah perubahan yang menghapuskan setiap perlindungan serta-merta.
Apakah risiko mendedahkan port 11434
Setiap titik akhir (endpoint). Tiada mod baca sahaja dan tiada port pentadbir yang berasingan. Ini adalah permintaan sebenar yang ditujukan kepada alamat pelayan dan bukannya localhost:
# List every model on the box
curl http://SERVER_IP:11434/api/tags
# See what is loaded into memory right now
curl http://SERVER_IP:11434/api/ps
# Run a prompt on your hardware
curl http://SERVER_IP:11434/api/generate -d '{"model":"llama3.2","prompt":"Why is the sky blue?"}'
# Write several gigabytes to your disk
curl http://SERVER_IP:11434/api/pull -d '{"model":"llama3.2"}'
# Remove a model
curl -X DELETE http://SERVER_IP:11434/api/delete -d '{"model":"llama3.2"}'Dari sudut pandangan pengendali, empat perkara akan berlaku:
- CPU atau GPU anda menjalankan inferens untuk orang lain. Dalam pelan dengan had penggunaan CPU yang adil, beban berterusan bermakna kuota anda dihabiskan oleh orang asing, dan mengawal kos beban kerja AI pada VPS menjadi jauh lebih sukar apabila anda bukan satu-satunya pemanggil.
/api/pullmenulis ke cakera anda. Saiz model adalah berbeza-beza; malahllama3.2:1bbersaiz 1.3 GB. Gelung tarikan (pull) akan memenuhi volum storan, dan cakera yang penuh akan merosakkan setiap servis lain pada mesin tersebut, bukan sekadar Ollama.- Permintaan sampai ke dalam proses anda dan direkodkan. Pada tahap log lalai, Ollama hanya merekodkan metadata, jadi anda mendapat titik akhir, status, kependaman (latency) dan alamat klien, bukan teks gesaan (prompt). Itu masih merupakan rekod tentang siapa yang menggunakan mesin anda dan untuk tujuan apa, yang tersimpan dalam jurnal anda, dan anda tidak memilih untuk mengumpulnya.
/api/deletememadamkan model. Untuk mendapatkannya semula bermakna memuat turunnya sekali lagi menggunakan lebar jalur anda sendiri.
Tiada satu pun daripada ini memerlukan eksploitasi. Ia adalah API yang didokumentasikan yang berfungsi tepat seperti yang direka bentuk.
Kunci Ed25519 bukanlah kawalan akses
Cari "Ollama API key" dan anda akan menemui dua perkara yang berbeza. Kedua-duanya bukanlah kata laluan untuk pelayan anda, dan membezakan kedua-duanya akan menghilangkan kebanyakan kekeliruan.
Yang pertama ialah pasangan kunci identiti. Ollama menjana pasangan kunci Ed25519 pada kali pertama ia dijalankan. Pada Linux, skrip pemasangan mencipta pengguna sistem bernama ollama dengan direktori utama di /usr/share/ollama, jadi pasangan kunci tersebut berada di sini:
/usr/share/ollama/.ollama/id_ed25519
/usr/share/ollama/.ollama/id_ed25519.pubKunci itu menghala ke luar. ollama signin mendaftarkan bahagian awam dengan akaun ollama.com anda, dan ia adalah perkara yang membenarkan anda untuk menolak (push) model ke registri atau menarik (pull) model peribadi. Ia membuktikan identiti mesin anda kepada ollama.com. Ia tidak meminta apa-apa daripada klien yang bersambung dengan mesin anda. Memadamnya, menukarnya atau tidak menciptanya langsung tidak mengubah siapa yang boleh memanggil API anda.
Yang kedua ialah OLLAMA_API_KEY. Pemboleh ubah itu menyimpan kunci yang anda cipta di https://ollama.com/settings/keys, dan klien anda menghantarnya sebagai Authorization: Bearer $OLLAMA_API_KEY apabila memanggil API yang dihoskan di https://ollama.com/api. Ia adalah kelayakan untuk perkhidmatan mereka, yang digunakan oleh anda sebagai klien. ollama serve anda sendiri tidak menggunakannya untuk mengesahkan permintaan masuk. Menetapkan OLLAMA_API_KEY pada VPS anda tidak meletakkan kata laluan pada VPS anda.
Jadi, tiada tetapan untuk dihidupkan. Tiga pertahanan di bawah semuanya berfungsi dengan cara yang sama: pastikan port tidak boleh dicapai, dan letakkan sesuatu di hadapannya yang melakukan pemeriksaan.
Semak perkara yang sedang didengar oleh pelayan anda sekarang
sudo ss -tlnp | grep 11434Hasil yang selamat menamakan alamat loopback:
LISTEN 0 4096 127.0.0.1:11434 0.0.0.0:* users:(("ollama",pid=812,fd=3))Hasil yang terdedah menamakan setiap antara muka:
LISTEN 0 4096 0.0.0.0:11434 0.0.0.0:* users:(("ollama",pid=812,fd=3))0.0.0.0 bermaksud semua alamat IPv4 pada kotak tersebut, termasuk alamat awam. *:11434 dan [::]:11434 ialah pendengar wildcard pada setiap alamat IPv6. Sama ada ia turut menerima IPv4 bergantung pada pilihan IPV6_V6ONLY soket, yang mana Linux membiarkannya tidak aktif secara lalai (net.ipv6.bindv6only=0), jadi anggap mana-mana daripada ketiga-tiganya sebagai terdedah.
Sekarang, sahkan dari luar. Jalankan ini pada komputer riba anda, bukan pada pelayan:
curl -m 5 http://YOUR_SERVER_IP:11434/api/versioncurl: (28) Connection timed out after 5001 milliseconds ialah jawapan yang anda mahukan, begitu juga dengan curl: (7) Failed to connect ... Connection refused. Objek JSON yang membawa medan version bermakna keseluruhan API boleh dicapai oleh sesiapa sahaja yang memintanya. Ujian dengan curl pada pelayan itu sendiri tidak menentukan sama ada mesin lain boleh mencapainya. Jika pelayan mempunyai alamat IPv6, ulangi ujian terhadapnya dengan curl -6 -m 5 http://[YOUR_SERVER_IPV6]:11434/api/version, kerana port IPv4 yang tertutup tidak memberikan maklumat tentang pendengar IPv6.
Pendedahan biasanya berlaku melalui satu daripada dua cara. Cara pertama ialah suntingan sengaja, kerana seseorang memerlukan mesin kedua untuk mencapai model tersebut:
sudo systemctl edit ollama.service[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"Satu baris itu sahaja adalah keseluruhan pendedahan tersebut. Cara kedua ialah Docker, dan ia tidak meminta anda menyunting apa-apa pun. Perkara itu mempunyai bahagiannya sendiri di bawah.
Pertahanan 1: kekalkan pada localhost dan gunakan tunnel
Gunakan kaedah ini sebagai langkah pertama. Ia tidak memerlukan perisian baharu dan tidak mencipta sebarang kelayakan yang boleh bocor. Port tersebut tidak wujud pada antara muka awam, jadi pengimbasan tidak akan menemuinya.
Tetapkan alamat bind secara eksplisit dan jangan bergantung pada tetapan lalai:
sudo systemctl edit ollama.service[Service]
Environment="OLLAMA_HOST=127.0.0.1:11434"Tindakan itu menulis /etc/systemd/system/ollama.service.d/override.conf. Gunakan tetapan tersebut dan semak:
sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo ss -tlnp | grep 11434ss kini sepatutnya menunjukkan 127.0.0.1:11434. Jika ia masih menunjukkan 0.0.0.0, fail drop-in kedua sedang mengatasi tetapan anda. Jalankan systemctl cat ollama.service untuk menyenaraikan unit tersebut beserta setiap drop-in dan laluannya, kemudian padamkan fail yang lama.
Untuk menggunakan model daripada komputer riba anda, forward port tersebut melalui SSH:
ssh -N -L 11434:127.0.0.1:11434 you@your-server-L 11434:127.0.0.1:11434 membuka port 11434 pada komputer riba anda dan menghantar sebarang trafik yang tiba di situ ke 127.0.0.1:11434 seperti yang dilihat dari pelayan. -N memberitahu SSH supaya tidak menjalankan arahan jauh, jadi proses tersebut hanya mengekalkan tunnel agar tetap terbuka. Semasa ia berjalan, arahan ini akan berfungsi pada komputer riba anda:
curl -s http://localhost:11434/api/tagsDua kegagalan yang mungkin anda temui. bind [127.0.0.1]:11434: Address already in use bermaksud alamat dan port tempatan tersebut sudah digunakan, sama ada oleh Ollama, tunnel SSH lain atau program lain, jadi pilih port tempatan yang berbeza dengan -L 11500:127.0.0.1:11434 dan halakan klien anda ke 11500. Jika permintaan melalui tunnel mendapat balasan kosong, semak ss pada pelayan dan output ralat SSH sebelum menentukan servis mana yang gagal.
Untuk beberapa mesin klien, rangkaian peribadi adalah lebih baik daripada satu tunnel bagi setiap orang. Letakkan mesin-mesin tersebut dalam WireGuard atau Tailscale, kemudian bind Ollama ke alamatnya pada rangkaian tersebut dan bukannya ke 0.0.0.0:
[Service]
Environment="OLLAMA_HOST=10.8.0.1:11434"Port tersebut kemudiannya hanya wujud pada antara muka yang memerlukan kunci untuk menyertainya. Ini juga selamat daripada kesilapan firewall, kerana peraturan yang secara tidak sengaja membenarkan akses awam masih tidak dapat mendedahkan pendengar (listener) yang tidak dipegang oleh antara muka awam.
Pertahanan 2: reverse proxy yang menyemak bearer token
Apabila sesuatu di internet awam perlu memanggil model, kekalkan Ollama pada loopback dan letakkan proxy di hadapannya. Proxy tersebut menamatkan TLS (transport layer security) dan menolak permintaan tanpa header yang betul. Ollama masih menerima sambungan hanya daripada 127.0.0.1, jadi proxy adalah satu-satunya laluan masuk.
Jana token sebenar terlebih dahulu. Jangan cipta token secara manual:
openssl rand -base64 36Tapak nginx yang menyemaknya:
map $http_authorization $ollama_ok {
default 0;
"Bearer PASTE_YOUR_GENERATED_TOKEN_HERE" 1;
}
server {
listen 443 ssl;
server_name llm.example.com;
ssl_certificate /etc/letsencrypt/live/llm.example.com/fullchain.pem;
ssl_certificate_key /etc/letsencrypt/live/llm.example.com/privkey.pem;
location = /api/pull { return 403; }
location = /api/delete { return 403; }
location = /api/push { return 403; }
location / {
if ($ollama_ok = 0) { return 401; }
proxy_pass http://127.0.0.1:11434;
proxy_set_header Host 127.0.0.1:11434;
proxy_buffering off;
proxy_read_timeout 600s;
}
}Lima baris di situ melakukan kerja sebenar, dan setiap satunya menghalang kegagalan yang mungkin anda hadapi.
if di dalam blok location biasanya merupakan idea yang buruk dalam nginx, tetapi badan yang tepat return adalah salah satu daripada dua bentuk yang berkelakuan secara boleh jangka, jadi penggunaan ini adalah selamat.
location = /api/pull adalah padanan tepat, dan nginx meletakkan padanan tepat lebih tinggi daripada prefiks location /, jadi ketiga-tiga endpoint tersebut ditolak sebelum token sempat dipertimbangkan. Token yang sah masih memberikan akses kepada endpoint pengurusan model yang lain, termasuk /api/create dan /api/blobs/:digest, jadi ketiga-tiga blok ini tidak menghalang setiap penulisan cakera.
proxy_set_header Host 127.0.0.1:11434; penting kerana Ollama memeriksa header Host dan Origin yang masuk. Melalukan hostname awam proxy secara terus boleh menghasilkan 403 Forbidden yang datang daripada Ollama dan bukannya daripada nginx, yang mengelirukan untuk dinyahpepijat. OLLAMA_ORIGINS adalah tuil yang lain, untuk klien pelayar yang memerlukan origin tertentu dibenarkan.
proxy_buffering off; penting kerana Ollama menstrim responsnya token demi token. Dengan buffering dihidupkan, nginx menimbal respons sebelum menghantarnya ke hadapan, yang melambatkan penghantaran token yang distrim.
proxy_read_timeout 600s; penting kerana nginx menetapkan nilai lalai kepada 60 saat, dan pemasa itu berjalan antara dua bacaan berturut-turut daripada Ollama, bukan sepanjang keseluruhan respons. Respons strim yang terus menghasilkan token akan menetapkan semula pemasa tersebut setiap kali. Permintaan di mana Ollama tidak menghantar apa-apa selama 60 saat akan mencetuskannya, seperti permintaan yang dihantar dengan "stream": false, yang mengembalikan keseluruhan jawapan dalam satu bahagian pada akhirnya, atau kesunyian yang lama sebelum token pertama tiba. Klien mendapat 504 Gateway Time-out, dan /var/log/nginx/error.log merekodkan upstream timed out (110: Connection timed out) while reading response header from upstream. Permintaan itu masih berfungsi. nginx yang berputus asa terhadapnya.
Muat semula dan uji kedua-dua laluan:
sudo nginx -t && sudo systemctl reload nginx
curl -s -o /dev/null -w '%{http_code}\n' https://llm.example.com/api/tags
curl -s -H "Authorization: Bearer YOUR_TOKEN" https://llm.example.com/api/tagsYang pertama sepatutnya mencetak 401. Yang kedua sepatutnya mencetak senarai model anda. Jika yang pertama juga mengembalikan senarai model, semak pelayan dan lokasi mana yang mengendalikan permintaan tersebut dan sama ada muat semula berjaya. Blok map dalam skop yang salah menjadikan konfigurasi tidak sah. Ia sepatutnya berada pada tahap http, jadi letakkannya dalam fail di bawah /etc/nginx/conf.d/ atau di atas blok server, jangan sekali-kali di dalam server.
Caddy melakukan kerja yang sama dengan pengesahan asas dalam empat baris, yang lebih sesuai untuk klien pelayar berbanding bearer token:
llm.example.com {
basic_auth {
apiuser PASTE_BCRYPT_HASH_HERE
}
reverse_proxy 127.0.0.1:11434
}Jalankan caddy hash-password untuk menghasilkan hash bcrypt yang dijangkakan. Satu nota penamaan: direktif tersebut ialah basicauth sebelum Caddy v2.8 dan kini menjadi basic_auth. Caddy masih menerima ejaan lama sebagai alias yang ditamatkan (deprecated), jadi konfigurasi yang disalin daripada panduan lama akan dimuatkan, tetapi Caddy memberi amaran bahawa basicauth telah ditamatkan dan meminta anda menggunakan basic_auth sebaliknya. Namakan semula apabila anda melihat amaran tersebut.
Walau apa pun proxy yang anda pilih, ini adalah satu rahsia kongsi untuk semua orang. Setiap klien yang memegangnya mempunyai akses yang sama, dan membatalkannya bermakna menyunting konfigurasi dan mengemas kini setiap pemanggil pada masa yang sama.
Pertahanan 3: gerbang yang mengeluarkan kunci bagi setiap klien
Apabila lebih daripada seorang pengguna atau aplikasi memanggil model tersebut, token kongsi akan kehabisan had. Anda tidak dapat mengenal pasti klien yang menyebabkan beban tersebut, dan anda tidak boleh menyekat salah satu daripadanya tanpa menjejaskan kesemuanya. Sebuah gerbang diletakkan di lokasi proksi sebelum ini, menggunakan API yang serasi dengan OpenAI, mengeluarkan kunci berasingan bagi setiap klien, serta merekodkan penggunaan bagi setiap kunci. Gerbang LiteLLM yang dihoskan sendiri merupakan penyelesaian lazim, dan ia menambah belanjawan bagi setiap kunci serta log permintaan di samping kawalan akses.
Peraturan daripada pertahanan 1 tidak berubah. Ollama terikat pada 127.0.0.1, gerbang tersebut merupakan satu-satunya proses yang berhubung dengannya, dan gerbang itu merupakan satu-satunya servis yang mempunyai pendengar awam. Gerbang pada mesin yang port 11434 masih terbuka kepada umum hanyalah hiasan, kerana pemanggil boleh melangkauinya dengan mudah.
Perangkap firewall: port kontena yang diterbitkan memintas UFW
Inilah sebabnya wujud instans terdedah pada pelayan yang pemiliknya telah mengkonfigurasi firewall dengan betul.
UFW (uncomplicated firewall) menulis peraturannya ke dalam chain INPUT bagi table filter kernel, dan INPUT mengendalikan paket yang ditujukan kepada hos itu sendiri. Flag -p Docker menulis peraturan destination NAT (network address translation) ke dalam chain PREROUTING bagi table nat, yang dinilai oleh kernel sebelum ia memutuskan ke mana paket tersebut akan pergi. Apabila keputusan penghalaan dibuat, destinasi telah pun ditulis semula kepada alamat kontena, jadi paket tersebut diforward dan bukannya dihantar secara lokal, lalu ia merentasi FORWARD dan bukannya INPUT. Peraturan INPUT UFW tidak pernah dirujuk, jadi paket tersebut melangkau firewall dan bukannya melaluinya.
Itulah sebabnya urutan ini membiarkan port 11434 terbuka kepada internet:
sudo ufw default deny incoming
sudo ufw enable
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollamadan sudo ufw status masih melaporkan firewall aktif dengan polisi default deny. Kedua-dua bacaan adalah tepat pada masa yang sama, dan itulah sebabnya orang ramai mempercayai maklumat yang salah. Anda boleh melihat peraturan yang menyebabkannya:
sudo iptables -t nat -L DOCKER -nPenyelesaiannya adalah dengan meletakkan satu alamat dalam flag publish:
docker rm -f ollama
docker run -d -v ollama:/root/.ollama -p 127.0.0.1:11434:11434 --name ollama ollama/ollama-p 11434:11434 tidak menamakan sebarang alamat hos, jadi Docker menerbitkan port pada setiap alamat hos, IPv4 (0.0.0.0) dan IPv6 ([::]). Menamakan 127.0.0.1 mengikat bahagian hos bagi pemetaan tersebut kepada loopback, supaya tunnel SSH dan reverse proxy anda masih boleh mencapainya manakala internet tidak boleh. Versi Docker yang lebih lama daripada 28.0.0 mempunyai pengecualian: mesin pada segmen rangkaian yang sama boleh mencapai port yang diterbitkan ke localhost, jadi lakukan naik taraf sebelum bergantung pada perlindungan ini. Mencipta semula kontena adalah selamat di sini kerana model disimpan dalam volume ollama yang dinamakan, bukan di dalam kontena.
Sahkan bahawa kedua-dua pandangan adalah selaras:
docker port ollama
sudo ss -tlnp | grep 11434docker port ollama sepatutnya mencetak 11434/tcp -> 127.0.0.1:11434. Jika ia mencetak 0.0.0.0:11434 atau [::]:11434, anda masih terdedah. Fahami mekanisme ini sekali dan ia terpakai untuk setiap kontena yang anda terbitkan: mengapa port yang diterbitkan Docker memintas UFW merangkumi chain DOCKER-USER dan peraturan yang kekal selepas Docker dimulakan semula. Jika anda masih membina polisi hos itu sendiri, peraturan UFW yang diperlukan oleh VPS baharu merangkumi asas bagi perkara ini. Pada Rocky atau AlmaLinux, tiada UFW untuk dikonfigurasi, jadi polisi asas yang sama ditulis dalam firewalld adalah tempat untuk bermula.
Siapakah pengguna yang menjalankan proses tersebut
Skrip pemasangan Linux mencipta akaun khusus dan menjalankan servis di bawah akaun tersebut:
useradd -r -s /bin/false -U -m -d /usr/share/ollama ollamaUnit pada /etc/systemd/system/ollama.service kemudian menetapkan User=ollama dan Group=ollama. Jangan ubah tetapan ini. Arahan ollama serve yang dimulakan secara manual dalam terminal akan berjalan sebagai pengguna yang sedang log masuk, dan jika pengguna tersebut ialah root, maka API yang tidak disahkan akan menulis fail sebagai root. Semak yang mana satu sedang berjalan:
ps -o user= -C ollamaJawapannya sepatutnya ollama. Sebarang jawapan lain bermakna proses yang dimulakan secara manual sedang berjalan bersama-sama atau menggantikan unit tersebut. Pemikiran yang sama terpakai kepada setiap daemon yang anda tambah kemudian, dan menjalankan servis sebagai pengguna dengan keistimewaan terendah menghuraikan perkara ini dengan lebih lanjut.
Cara menyemak sama ada endpoint API Ollama selamat
Apa sahaja yang anda pilih, satu ujian akan menentukan segalanya, dan ia perlu dijalankan dari mesin yang lain:
curl -m 5 http://YOUR_SERVER_IP:11434/api/version
curl -m 5 http://YOUR_SERVER_IP:11434/api/tagsKedua-duanya sepatutnya tamat tempoh (time out) atau ditolak. Jika anda membina proksi, dua path yang sama pada hostname proksi sepatutnya mengembalikan 401 tanpa kelayakan dan JSON sebenar jika kelayakan disertakan.
Kemudian, baca log akses sekali untuk permintaan yang dibuat semasa port tersebut dibuka:
journalctl -u ollama --since "-30 days" | grep GINOllama menulis satu baris bagi setiap permintaan dan menyertakan alamat klien:
[GIN] 2026/08/12 - 14:01:10 | 200 | 103.965898ms | 127.0.0.1 | POST "/api/generate"Alamat tersebut datang daripada ClientIP() milik Gin, yang juga menyemak header X-Forwarded-For dan X-Real-IP daripada proksi yang dipercayai. Oleh itu, permintaan melalui reverse proxy loopback boleh memaparkan alamat klien awam walaupun Ollama terikat dengan betul pada 127.0.0.1. Alamat awam dalam lajur tersebut tidak membuktikan akses terus ke port 11434, dan ketiadaan baris log yang sepadan tidak membuktikan tiada sesiapa yang berjaya mencapainya. Bandingkan cap masa dengan log dan konfigurasi proksi anda, dan gunakan ujian sambungan luar untuk menyemak pendedahan semasa. Jika aspek model ini baharu bagi anda, menjalankan Ollama pada VPS merangkumi pemasangan, saiz model dan had memori yang menentukan perkara yang akan dimuatkan.
FAQ
Adakah Ollama mempunyai API key atau kata laluan?
Tidak. Pelayan yang anda jalankan tidak mempunyai sebarang bentuk pengesahan, dan dokumentasi rasmi menyatakan bahawa API tempatan tidak memerlukan pengesahan. Kedua-dua perkara yang dipanggil "Ollama API key" merujuk kepada fungsi yang berbeza. Pasangan Ed25519 dalam /usr/share/ollama/.ollama/ membuktikan mesin anda kepada ollama.com supaya anda boleh memuat naik model dan memuat turun model peribadi. OLLAMA_API_KEY ialah kelayakan yang dihantar oleh klien anda kepada API yang dihoskan di https://ollama.com/api. ollama serve anda sendiri tidak menggunakan kedua-duanya untuk mengesahkan klien yang masuk, jadi kawalan akses perlu datang daripada rangkaian atau proksi di hadapan.
Adakah OLLAMA_HOST=0.0.0.0 selamat jika saya mempunyai firewall?
Hanya jika firewall menyekat akses ke pendengar (listener) tersebut dengan betul. 0.0.0.0 bermakna pendengar tersebut benar-benar wujud pada antara muka awam, dan anda hanya bergantung pada firewall untuk memastikan ia tidak boleh dicapai. Port Ollama yang diterbitkan oleh Docker memerlukan perhatian khusus, kerana peraturan DNAT yang ditambah oleh Docker ke dalam jadual nat dinilai sebelum paket sampai ke rantaian INPUT tempat UFW berada, jadi paket tersebut diteruskan dan peraturan INPUT UFW tidak pernah melihatnya. Mengikat (bind) kepada 127.0.0.1 atau kepada alamat terowong peribadi akan mengeluarkan pendengar daripada antara muka awam, jadi kesilapan firewall tidak akan mendedahkan apa-apa.
Bagaimanakah cara saya menyemak sama ada port Ollama saya terbuka kepada internet?
Jalankan sudo ss -tlnp | grep 11434 pada pelayan, dan curl -m 5 http://YOUR_SERVER_IP:11434/api/version daripada mesin yang berbeza. ss yang menunjukkan 127.0.0.1:11434 dan curl jauh yang tamat masa (timeout) adalah jawapan yang anda mahukan. ss yang menunjukkan 0.0.0.0:11434 atau *:11434 sementara curl jauh mengembalikan JSON bermakna API penuh boleh dicapai. Ujian dengan curl pada pelayan itu sendiri tidak menentukan sama ada mesin lain boleh mencapainya.
Bolehkah saya menukar port daripada 11434 kepada port rawak?
Tidak, dan sebabnya perlu dinyatakan. Port yang berbeza tidak melambatkan apa-apa kecuali imbasan pada satu port tunggal. Pengimbas akan memeriksa keseluruhan julat, dan satu permintaan kepada /api/tags akan mengenal pasti servis tersebut tidak kira pada port mana ia tiba. Menukar port juga akan merosakkan tetapan lalai setiap klien dan menjadikan persediaan anda lebih sukar untuk difahami kemudian. Ikat kepada loopback sebaliknya, yang membuang pendengar tersebut daripada memindahkannya.
Seseorang telah mencapai Ollama saya yang terbuka. Apakah yang perlu saya semak?
Ikat ia kepada 127.0.0.1 dan mulakan semula servis terlebih dahulu, supaya pendedahan berhenti sebelum anda mula menyiasat. Kemudian jalankan journalctl -u ollama --since "-30 days" | grep GIN untuk menyemak alamat klien, titik akhir (endpoint) dan cap masa. Gin juga membaca pengepala alamat klien yang diteruskan (forwarded), jadi bandingkan entri tersebut dengan log proksi anda sebelum menganggap sesuatu alamat sebagai bukti akses terus. Bandingkan ollama list dengan model yang sepatutnya anda miliki, memandangkan /api/pull tidak disahkan dan model yang anda tidak muat turun adalah penggunaan cakera serta bukti. Semak ruang bebas dengan df -h. Log akses lalai merekodkan metadata permintaan, bukan nama model, teks gesaan (prompt) atau jawapan yang dijana.