Ollama API guvenlik acigi nasil kapatilir?
Ollama sunucusu varsayilan olarak 11434 portunda kimlik dogrulamasi olmadan calisir. Yetkisiz erisimi engellemek ve sunucunuzu korumak icin uygulayabileceginiz uc etkili yontem.
Ollama API parola korumasına sahip değildir
Ollama API herhangi bir kimlik doğrulama mekanizması içermez. Gelen istemciler için kullanıcı adı, parola veya API anahtarı kontrolü bulunmamaktadır. 11434 numaralı porta TCP bağlantısı kurabilen herhangi bir kişi modellerinizi listeleyebilir, çalıştırabilir, yenilerini indirebilir ve mevcut olanları silebilir.
Resmi dokümantasyon bunu açıkça belirtmektedir: "http://localhost:11434 adresindeki yerel API kimlik doğrulama gerektirmez." Yerel kelimesi tüm güvenlik modelini tanımlar. Ollama varsayılan olarak 127.0.0.1 adresine bağlanır; bu nedenle bir dizüstü bilgisayarda erişim kontrolü loopback arayüzü tarafından sağlanır. Dinleyiciyi genel bir IP adresine taşıdığınızda erişim kontrolü ortadan kalkar, çünkü yerini alacak başka bir mekanizma yoktur.
Bu durumun bir VPS (sanal özel sunucu) üzerinde kritik olmasının nedeni budur. Varsayılan yapılandırma güvenlidir. Çoğu kullanıcının yaptığı ilk değişiklik olan, ikinci bir makinenin modeli kullanabilmesi için dinleyiciyi dış dünyaya açma işlemi, tüm korumaları aynı anda kaldıran değişikliktir.
11434 numaralı açık portun ifşa ettikleri
Her uç nokta. Salt okunur mod veya ayrı bir yönetici portu bulunmamaktadır. Bunlar, localhost yerine doğrudan sunucu adresine yöneltilen gerçek isteklerdir:
# List every model on the box
curl http://SERVER_IP:11434/api/tags
# See what is loaded into memory right now
curl http://SERVER_IP:11434/api/ps
# Run a prompt on your hardware
curl http://SERVER_IP:11434/api/generate -d '{"model":"llama3.2","prompt":"Why is the sky blue?"}'
# Write several gigabytes to your disk
curl http://SERVER_IP:11434/api/pull -d '{"model":"llama3.2"}'
# Remove a model
curl -X DELETE http://SERVER_IP:11434/api/delete -d '{"model":"llama3.2"}'Operasyonel açıdan dört temel sorun ortaya çıkar:
- CPU veya GPU'nuz başkası için çıkarım (inference) yapar. Adil kullanım CPU kotası olan bir planda, sürekli yük, kotanızın bir yabancı tarafından harcanması anlamına gelir ve VPS üzerinde yapay zeka iş yükü maliyetlerini kontrol altında tutmak, tek kullanıcı siz olmadığınızda çok daha zorlaşır.
/api/pulldiskinize yazma işlemi yapar. Model boyutları değişkendir;llama3.2:1bbile 1.3 GB boyutundadır. Sürekli model çekme döngüsü depolama alanını doldurur ve disk dolduğunda, sadece Ollama değil, sunucudaki diğer tüm servisler de çalışamaz hale gelir.- İstekler sürecinize ulaşır ve günlüğe kaydedilir. Varsayılan günlük seviyesinde Ollama yalnızca meta verileri kaydeder; yani istem metni değil, uç nokta, durum, gecikme süresi ve istemci adresi kaydedilir. Bu yine de sunucunuzu kimin ve ne için kullandığının bir kaydıdır, günlüklerinizde tutulur ve bunu toplama tercihini siz yapmadınız.
/api/deletemodelleri siler. Bunları geri almak, kendi bant genişliğiniz üzerinden tekrar indirmek anlamına gelir.
Bunların hiçbiri bir istismar gerektirmez. Bu, belgelenmiş API'nin tasarlandığı gibi çalışmasıdır.
Ed25519 anahtarı bir erişim denetimi değildir
"Ollama API key" araması yaptığınızda iki farklı sonuçla karşılaşırsınız. Bunların hiçbiri sunucunuz için bir parola değildir; aralarındaki farkı anlamak kafa karışıklığının büyük kısmını giderir.
Birincisi kimlik anahtar çiftidir. Ollama, ilk çalıştırıldığında bir Ed25519 anahtar çifti oluşturur. Linux üzerinde kurulum betiği, ollama adında bir sistem kullanıcısı oluşturur ve ev dizinini /usr/share/ollama olarak belirler; dolayısıyla anahtar çifti burada bulunur:
/usr/share/ollama/.ollama/id_ed25519
/usr/share/ollama/.ollama/id_ed25519.pubBu anahtar dışarıya dönüktür. ollama signin, anahtarın açık kısmını ollama.com hesabınızla eşleştirir; bu, bir modeli kayıt defterine göndermeniz veya özel bir modeli çekmeniz için sizi yetkilendiren şeydir. Makinenizi ollama.com'a tanıtır. Makinenize bağlanan istemcilerden herhangi bir şey talep etmez. Bu anahtarı silmek, değiştirmek veya hiç oluşturmamak, API'nizi kimlerin çağırabileceği konusunda hiçbir şeyi değiştirmez.
İkincisi OLLAMA_API_KEY değişkenidir. Bu değişken, https://ollama.com/settings/keys üzerinden oluşturduğunuz bir anahtarı tutar ve istemciniz, https://ollama.com/api adresindeki barındırılan API'yi çağırırken bunu Authorization: Bearer $OLLAMA_API_KEY olarak gönderir. Bu, onların hizmeti için bir kimlik bilgisidir ve istemci olarak sizin tarafınızdan kullanılır. Kendi ollama serve sunucunuz, gelen isteklerin kimliğini doğrulamak için bunu kullanmaz. VPS'niz üzerinde OLLAMA_API_KEY ayarını yapmak, VPS'nize bir parola koymaz.
Dolayısıyla, açılacak bir ayar bulunmamaktadır. Aşağıdaki üç savunma yöntemi de aynı şekilde çalışır: portu erişilemez tutun ve önüne denetim yapan bir katman yerleştirin.
Sunucunuzun şu anda hangi portları dinlediğini kontrol edin
sudo ss -tlnp | grep 11434Güvenli sonuç, loopback adresini belirtir:
LISTEN 0 4096 127.0.0.1:11434 0.0.0.0:* users:(("ollama",pid=812,fd=3))Açık (exposed) sonuç, tüm arayüzleri belirtir:
LISTEN 0 4096 0.0.0.0:11434 0.0.0.0:* users:(("ollama",pid=812,fd=3))0.0.0.0, genel IP adresi dahil olmak üzere sunucudaki tüm IPv4 adresleri anlamına gelir. *:11434 ve [::]:11434, tüm IPv6 adreslerinde dinleme yapan joker karakterli dinleyicilerdir. Bunların IPv4 trafiğini de kabul edip etmeyeceği, Linux'un varsayılan olarak kapalı tuttuğu (net.ipv6.bindv6only=0) soketin IPV6_V6ONLY seçeneğine bağlıdır; bu nedenle üçünü de dışarıya açık kabul edin.
Şimdi dışarıdan doğrulama yapın. Bu komutu sunucuda değil, kendi dizüstü bilgisayarınızda çalıştırın:
curl -m 5 http://YOUR_SERVER_IP:11434/api/versioncurl: (28) Connection timed out after 5001 milliseconds ve curl: (7) Failed to connect ... Connection refused, görmek istediğiniz yanıtlardır. version alanını içeren bir JSON nesnesi, tüm API'nin talep eden herkese açık olduğu anlamına gelir. Sunucunun kendisinde curl ile test yapmak, başka bir makinenin ona erişip erişemeyeceğini kanıtlamaz. Sunucunun bir IPv6 adresi varsa, testi curl -6 -m 5 http://[YOUR_SERVER_IPV6]:11434/api/version ile tekrarlayın; çünkü kapalı bir IPv4 portu, IPv6 dinleyicisi hakkında hiçbir bilgi vermez.
Erişime açıklık genellikle iki yolla gerçekleşir. Birincisi, birinin modele ikinci bir makineden erişmesi gerektiği için yaptığı kasıtlı bir düzenlemedir:
sudo systemctl edit ollama.service[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"Bu tek satır, erişime açıklığın tamamıdır. İkinci yol ise Docker'dır ve hiçbir şeyi düzenlemenizi gerektirmez. Bununla ilgili detaylar aşağıdaki bölümde yer almaktadır.
Savunma 1: localhost üzerinde tutun ve tünel ile erişin
İlk olarak bu yöntemi deneyin. Yeni bir yazılım gerektirmez ve sızdırılabilecek herhangi bir kimlik bilgisi oluşturmaz. Port hiçbir zaman genel bir arayüzde (public interface) var olmaz, bu nedenle tarama işlemleri onu bulamaz.
Varsayılan ayarlara güvenmek yerine bind adresini açıkça belirtin:
sudo systemctl edit ollama.service[Service]
Environment="OLLAMA_HOST=127.0.0.1:11434"Bu işlem /etc/systemd/system/ollama.service.d/override.conf dosyasını yazar. Uygulayın ve kontrol edin:
sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo ss -tlnp | grep 11434ss artık 127.0.0.1:11434 değerini göstermelidir. Eğer hala 0.0.0.0 gösteriyorsa, ikinci bir drop-in dosyası öncelik kazanıyor demektir. Birimi ve tüm drop-in dosyalarını yollarıyla birlikte listelemek için systemctl cat ollama.service komutunu çalıştırın, ardından eski olanı silin.
Modeli dizüstü bilgisayarınızdan kullanmak için portu SSH üzerinden yönlendirin:
ssh -N -L 11434:127.0.0.1:11434 you@your-server-L 11434:127.0.0.1:11434, dizüstü bilgisayarınızda 11434 numaralı portu açar ve oraya gelen her şeyi sunucu tarafından görüldüğü şekliyle 127.0.0.1:11434 adresine iletir. -N, SSH'e uzak bir komut çalıştırmamasını söyler, böylece süreç tüneli açık tutar. Tünel çalışırken dizüstü bilgisayarınızda şu komut işe yarar:
curl -s http://localhost:11434/api/tagsKarşılaşacağınız iki hata türü vardır. bind [127.0.0.1]:11434: Address already in use, yerel adres ve portun Ollama, başka bir SSH tüneli veya başka bir program tarafından halihazırda kullanıldığı anlamına gelir; bu durumda -L 11500:127.0.0.1:11434 ile farklı bir yerel port seçin ve istemcinizi 11500 portuna yönlendirin. Tünel üzerinden yapılan bir istek boş yanıt döndürürse, hangi servisin başarısız olduğuna karar vermeden önce sunucudaki ss kayıtlarını ve SSH hata çıktılarını kontrol edin.
Birden fazla istemci makinesi için, kişi başına bir tünel kurmak yerine özel bir ağ kullanmak daha verimlidir. Makineleri WireGuard veya Tailscale ağına dahil edin, ardından Ollama'yı 0.0.0.0 yerine bu ağdaki kendi adresine bağlayın:
[Service]
Environment="OLLAMA_HOST=10.8.0.1:11434"Böylece port yalnızca erişim anahtarı gerektiren bir arayüzde var olur. Bu yapı, güvenlik duvarı hatalarına karşı da koruma sağlar; çünkü yanlışlıkla tüm dünyaya izin veren bir kural bile, genel arayüzde bulunmayan bir dinleyiciyi dışarıya açamaz.
Savunma 2: Bearer token kontrolü yapan bir reverse proxy
İnternet üzerinden bir servisin modele erişmesi gerektiğinde, Ollama'yı loopback üzerinde tutun ve önüne bir proxy yerleştirin. Proxy, TLS (transport layer security) sonlandırmasını yapar ve doğru başlığa (header) sahip olmayan istekleri reddeder. Ollama bağlantıları yalnızca 127.0.0.1 üzerinden kabul etmeye devam eder, bu nedenle proxy tek giriş yoludur.
Öncelikle gerçek bir token oluşturun. Manuel olarak oluşturmayın:
openssl rand -base64 36Bunu kontrol eden bir nginx yapılandırması:
map $http_authorization $ollama_ok {
default 0;
"Bearer PASTE_YOUR_GENERATED_TOKEN_HERE" 1;
}
server {
listen 443 ssl;
server_name llm.example.com;
ssl_certificate /etc/letsencrypt/live/llm.example.com/fullchain.pem;
ssl_certificate_key /etc/letsencrypt/live/llm.example.com/privkey.pem;
location = /api/pull { return 403; }
location = /api/delete { return 403; }
location = /api/push { return 403; }
location / {
if ($ollama_ok = 0) { return 401; }
proxy_pass http://127.0.0.1:11434;
proxy_set_header Host 127.0.0.1:11434;
proxy_buffering off;
proxy_read_timeout 600s;
}
}Buradaki beş satır gerçek işi yapar ve her biri karşılaşabileceğiniz bir hatayı önler.
Bir location bloğu içindeki if kullanımı nginx'te genellikle kötü bir fikirdir, ancak tam olarak return gövdesi tahmin edilebilir davranan iki formdan biridir, bu nedenle bu kullanım güvenlidir.
location = /api/pull tam eşleşmedir ve nginx tam eşleşmeleri location / önekinden daha üstte tutar, bu nedenle bu üç uç nokta token kontrol edilmeden önce reddedilir. Geçerli bir token, /api/create ve /api/blobs/:digest dahil olmak üzere diğer model yönetimi uç noktalarına erişim sağlar, bu nedenle bu üç blok her disk yazma işlemini engellemez.
proxy_set_header Host 127.0.0.1:11434; önemlidir çünkü Ollama gelen Host ve Origin başlıklarını inceler. Proxy'nin genel ana bilgisayar adını (hostname) doğrudan iletmek, nginx yerine Ollama'dan gelen ve hata ayıklaması kafa karıştırıcı olan bir 403 Forbidden üretebilir. OLLAMA_ORIGINS, belirli bir origin'e izin verilmesi gereken tarayıcı istemcileri için diğer kontrol mekanizmasıdır.
proxy_buffering off; önemlidir çünkü Ollama yanıtını token token yayınlar (stream). Tamponlama (buffering) açıkken, nginx yanıtı iletmeden önce tamponlar, bu da yayınlanan token'ların teslimatını geciktirir.
proxy_read_timeout 600s; önemlidir çünkü nginx varsayılan olarak 60 saniye kullanır ve bu zamanlayıcı tüm yanıt süresini değil, Ollama'dan gelen iki ardışık okuma arasındaki süreyi kapsar. Token üretmeye devam eden bir yayın yanıtı bu süreyi her seferinde sıfırlar. Ollama'nın 60 saniye boyunca hiçbir şey göndermediği bir istek bu süreyi aşar; örneğin, tüm yanıtı sonunda tek parça halinde döndüren "stream": false ile gönderilen bir istek veya ilk token gelmeden önceki uzun bir sessizlik. İstemci 504 Gateway Time-out alır ve /var/log/nginx/error.log, upstream timed out (110: Connection timed out) while reading response header from upstream kaydeder. İstek aslında çalışmaya devam ediyordu ancak nginx isteği sonlandırdı.
Yapılandırmayı yeniden yükleyin ve her iki yolu da test edin:
sudo nginx -t && sudo systemctl reload nginx
curl -s -o /dev/null -w '%{http_code}\n' https://llm.example.com/api/tags
curl -s -H "Authorization: Bearer YOUR_TOKEN" https://llm.example.com/api/tagsİlki 401 çıktısını vermelidir. İkincisi model listenizi yazdırmalıdır. Eğer ilki de model listesini döndürürse, isteği hangi sunucu ve location bloğunun işlediğini ve yeniden yüklemenin başarılı olup olmadığını kontrol edin. Yanlış kapsamdaki bir map bloğu yapılandırmayı geçersiz kılar. Bu blok http seviyesine aittir, bu nedenle /etc/nginx/conf.d/ altındaki bir dosyaya veya server bloğunun üzerine yerleştirin, asla server içine koymayın.
Caddy, temel kimlik doğrulama (basic authentication) ile aynı işi dört satırda yapar; bu, tarayıcı istemcileri için bearer token'dan daha uygundur:
llm.example.com {
basic_auth {
apiuser PASTE_BCRYPT_HASH_HERE
}
reverse_proxy 127.0.0.1:11434
}Beklenen bcrypt hash değerini üretmek için caddy hash-password komutunu çalıştırın. Bir isimlendirme notu: direktif Caddy v2.8 öncesinde basicauth idi, şimdi ise basic_auth. Caddy eski yazımı hala kullanım dışı (deprecated) bir takma ad olarak kabul eder, bu nedenle eski bir kılavuzdan kopyalanan yapılandırma yüklenir ancak Caddy basicauth ifadesinin kullanım dışı olduğu konusunda uyarır ve basic_auth kullanmanızı ister. Bu uyarıyı gördüğünüzde ismi güncelleyin.
Hangi proxy'yi seçerseniz seçin, bu herkes için paylaşılan tek bir gizli anahtardır. Buna sahip her istemci aynı erişim yetkisine sahiptir ve bunu iptal etmek, yapılandırmayı düzenlemek ve tüm istemcileri aynı anda güncellemek anlamına gelir.
Savunma 3: istemci başına anahtar düzenleyen bir ağ geçidi
Birden fazla kişi veya uygulama modele istek gönderdiğinde, paylaşımlı bir token yetersiz kalır. Hangi istemcinin yük oluşturduğunu tespit edemez ve birini engellemek istediğinizde hepsini engellemek zorunda kalırsınız. Proxy'nin bulunduğu noktaya bir ağ geçidi yerleştirilir; bu geçit, OpenAI uyumlu API ile aynı dili konuşur, her istemci için ayrı bir anahtar düzenler ve her anahtarın kullanımını kayıt altına alır. Self-hosted bir LiteLLM ağ geçidi bu durum için standart çözümdür; erişim denetimine ek olarak anahtar bazlı bütçe yönetimi ve istek günlükleri sağlar.
Savunma 1'deki kural değişmez. Ollama 127.0.0.1 adresine bağlanır, ağ geçidi onunla konuşan tek süreçtir ve ağ geçidi dış dünyaya açık olan tek servistir. 11434 numaralı portun dış dünyaya açık olduğu bir sunucuda ağ geçidi kullanmak sadece göstermeliktir; çünkü istemciler ağ geçidini kolayca devre dışı bırakıp doğrudan sunucuya erişebilir.
Güvenlik duvarı tuzağı: yayınlanan bir container portu UFW'yi atlar
Açıkta kalan servislerin, güvenlik duvarını doğru yapılandırdığını düşünen sunucu sahiplerinin sistemlerinde bulunmasının nedeni budur.
UFW (uncomplicated firewall), kurallarını çekirdeğin INPUT zincirine, filter tablosunda yazar ve INPUT doğrudan ana makineye yönlendirilen paketleri işler. Docker'ın -p bayrağı, nat tablosunun PREROUTING zincirine bir hedef NAT (ağ adresi çevirisi) kuralı ekler; çekirdek, paketin nereye gideceğine karar vermeden önce bu kuralı değerlendirir. Yönlendirme kararı verildiğinde hedef çoktan container adresine dönüştürülmüş olur; bu nedenle paket yerel olarak teslim edilmek yerine iletilir ve INPUT yerine FORWARD üzerinden geçer. UFW'nin INPUT kuralları hiçbir zaman kontrol edilmez, dolayısıyla paket güvenlik duvarının içinden değil, etrafından dolaşır.
Bu yüzden aşağıdaki dizi, 11434 numaralı portu internete açık bırakır:
sudo ufw default deny incoming
sudo ufw enable
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollamave sudo ufw status hala güvenlik duvarının aktif olduğunu ve varsayılan olarak reddettiğini raporlar. Her iki okuma da aynı anda doğrudur; insanların yanlış olana güvenmesinin temel nedeni de budur. Buna neden olan kuralı şu şekilde görebilirsiniz:
sudo iptables -t nat -L DOCKER -nÇözüm, publish bayrağında tek bir adres belirtmektir:
docker rm -f ollama
docker run -d -v ollama:/root/.ollama -p 127.0.0.1:11434:11434 --name ollama ollama/ollama-p 11434:11434 herhangi bir ana makine adresi belirtmez, bu nedenle Docker portu hem IPv4 (0.0.0.0) hem de IPv6 ([::]) üzerindeki tüm ana makine adreslerinde yayınlar. 127.0.0.1 adresini belirtmek, eşlemenin ana makine tarafını loopback arayüzüne bağlar; böylece SSH tüneliniz ve reverse proxy'niz servise erişebilir ancak internet erişemez. 28.0.0 sürümünden eski Docker sürümlerinde bir istisna vardır: aynı ağ segmentindeki makineler localhost'ta yayınlanan portlara erişebilir, bu nedenle bu korumaya güvenmeden önce sürümünüzü yükseltin. Container'ı yeniden oluşturmak burada güvenlidir çünkü modeller container içinde değil, adlandırılmış ollama volume içinde tutulur.
Her iki görünümün de aynı fikirde olduğunu doğrulayın:
docker port ollama
sudo ss -tlnp | grep 11434docker port ollama çıktısı 11434/tcp -> 127.0.0.1:11434 olmalıdır. Eğer 0.0.0.0:11434 veya [::]:11434 çıktısını alıyorsanız, hala dışarıya açıksınız demektir. Mekanizmayı bir kez öğrenin; bu, yayınladığınız her container için geçerlidir: Docker'ın yayınladığı portların neden UFW'yi atladığı konusu, DOCKER-USER zincirini ve Docker yeniden başlatıldığında kalıcı olan kuralları açıklar. Eğer hala ana makine politikasını oluşturuyorsanız, yeni bir VPS'in ihtiyaç duyduğu UFW kuralları bu yapının temelini kapsar. Rocky veya AlmaLinux üzerinde yapılandırılacak bir UFW bulunmaz, bu nedenle başlangıç noktası olarak firewalld ile yazılmış aynı temel politika kullanılmalıdır.
Süreç hangi kullanıcı ile çalışıyor
Linux kurulum betiği, özel bir hesap oluşturur ve servisi bu hesap altında çalıştırır:
useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama/etc/systemd/system/ollama.service konumundaki birim dosyası, User=ollama ve Group=ollama değerlerini ayarlar. Bu ayarları değiştirmeyin. Terminalde elle başlatılan hızlı bir ollama serve, o an oturum açmış olan kullanıcı kimliğiyle çalışır; eğer bu kullanıcı root ise, kimlik doğrulaması yapılmamış bir API dosyaları root yetkisiyle yazar. Hangisinin çalıştığını kontrol edin:
ps -o user= -C ollamaAlınacak yanıt ollama olmalıdır. Bunun dışındaki herhangi bir sonuç, elle başlatılan bir sürecin birim dosyasıyla birlikte veya onun yerine çalıştığı anlamına gelir. Aynı mantık daha sonra ekleyeceğiniz tüm daemon süreçleri için de geçerlidir ve servisleri en düşük yetkili kullanıcılarla çalıştırma konusu bu süreci ayrıntılı olarak ele alır.
Ollama API uç noktasının güvenli olduğu nasıl doğrulanır
Hangi yöntemi seçerseniz seçin, durumu netleştiren tek bir test vardır ve bu testin başka bir makine üzerinden çalıştırılması gerekir:
curl -m 5 http://YOUR_SERVER_IP:11434/api/version
curl -m 5 http://YOUR_SERVER_IP:11434/api/tagsHer iki komut da zaman aşımına uğramalı veya bağlantıyı reddetmelidir. Eğer bir proxy kurduysanız, proxy ana makine adındaki aynı iki yol, kimlik bilgileri olmadan 401 kodunu, kimlik bilgileriyle ise gerçek JSON verisini döndürmelidir.
Ardından, port açıkken yapılan istekleri görmek için erişim günlüğünü bir kez inceleyin:
journalctl -u ollama --since "-30 days" | grep GINOllama her istek için bir satır yazar ve istemci adresini içerir:
[GIN] 2026/08/12 - 14:01:10 | 200 | 103.965898ms | 127.0.0.1 | POST "/api/generate"Bu adres, Gin'in ClientIP() bileşeninden gelir; bu bileşen aynı zamanda güvenilir proxy'lerden gelen X-Forwarded-For ve X-Real-IP başlıklarını da kontrol eder. Bu nedenle, bir loopback reverse proxy üzerinden gelen bir istek, Ollama doğru şekilde 127.0.0.1 adresine bağlıyken bile genel bir istemci adresi gösterebilir. Bu sütundaki genel bir adres, 11434 numaralı porta doğrudan erişildiğini kanıtlamaz; eşleşen günlük satırlarının olmaması ise kimsenin porta ulaşmadığını kanıtlamaz. Zaman damgalarını proxy günlükleriniz ve yapılandırmanızla karşılaştırın ve mevcut erişilebilirliği kontrol etmek için dış bağlantı testini kullanın. Eğer model tarafı sizin için yeniyse, VPS üzerinde Ollama çalıştırma rehberi kurulumu, model boyutlandırmayı ve nelerin yükleneceğini belirleyen bellek sınırlarını kapsamaktadır.
FAQ
Ollama bir API anahtarına veya parolaya sahip mi?
Hayır. Çalıştırdığınız sunucunun herhangi bir kimlik doğrulama mekanizması yoktur ve resmi belgeler yerel API'nin kimlik doğrulaması gerektirmediğini belirtir. "Ollama API key" olarak adlandırılan iki şey de aslında farklı bir amaca hizmet eder. /usr/share/ollama/.ollama/ içindeki Ed25519 çifti, model yüklemeniz (push) veya özel modelleri çekmeniz (pull) için makinenizi ollama.com'a tanıtır. OLLAMA_API_KEY ise istemcinizin https://ollama.com/api adresindeki barındırılan API'ye gönderdiği bir kimlik bilgisidir. Kendi ollama serve sunucunuz gelen istemcileri doğrulamak için bu ikisinden hiçbirini kullanmaz; bu nedenle erişim kontrolü ağ seviyesinde veya ön taraftaki bir proxy üzerinden sağlanmalıdır.
Bir güvenlik duvarım varsa OLLAMA_HOST=0.0.0.0 güvenli midir?
Yalnızca güvenlik duvarı bu dinleyiciye erişimi doğru şekilde engelliyorsa güvenlidir. 0.0.0.0, dinleyicinin gerçekten genel arayüzde var olduğu anlamına gelir ve erişilemez kalması için yalnızca güvenlik duvarına güveniyorsunuz demektir. Docker ile yayınlanan bir Ollama portu ayrı bir dikkat gerektirir; çünkü Docker'ın nat tablosuna eklediği DNAT kuralı, paket UFW'nin bulunduğu INPUT zincirine ulaşmadan önce değerlendirilir. Bu durumda paket iletilir ve UFW'nin INPUT kuralları paketi asla görmez. 127.0.0.1 adresine veya özel bir tünel adresine bağlama yapmak, dinleyiciyi genel arayüzden kaldırır; böylece bir güvenlik duvarı hatası durumunda açığa çıkacak bir şey kalmaz.
Ollama portumun internete açık olup olmadığını nasıl kontrol ederim?
Sunucuda sudo ss -tlnp | grep 11434 komutunu, farklı bir makinede ise curl -m 5 http://YOUR_SERVER_IP:11434/api/version komutunu çalıştırın. ss çıktısında 127.0.0.1:11434 görülmesi ve uzak makinedeki curl işleminin zaman aşımına uğraması, beklenen sonuçtur. ss çıktısında 0.0.0.0:11434 veya *:11434 görülürken uzak makinedeki curl işleminin JSON döndürmesi, tam API'nin erişilebilir olduğu anlamına gelir. Sunucunun kendi üzerinde curl ile test yapmak, başka bir makinenin ona ulaşıp ulaşamayacağını kanıtlamaz.
Portu 11434 yerine rastgele bir numaraya taşıyabilir miyim?
Hayır, bunun nedeni belirtilmeye değerdir. Farklı bir port, tek bir portun taranması dışında hiçbir şeyi yavaşlatmaz. Tarayıcılar tüm aralığı tarar ve /api/tags adresine yapılan tek bir istek, hangi porttan gelirse gelsin servisi tanımlar. Portu değiştirmek ayrıca tüm istemci varsayılanlarını bozar ve kurulumunuzun daha sonra anlaşılmasını zorlaştırır. Bunun yerine loopback adresine bağlama yapın; bu, dinleyiciyi başka bir yere taşımak yerine tamamen kaldırır.
Birisi açık Ollama sunucuma ulaştı. Neleri kontrol etmeliyim?
Önce 127.0.0.1 adresine bağlayın ve servisi yeniden başlatın; böylece incelemeye başlamadan önce erişimi durdurmuş olursunuz. Ardından istemci adreslerini, uç noktaları ve zaman damgalarını gözden geçirmek için journalctl -u ollama --since "-30 days" | grep GIN komutunu çalıştırın. Gin ayrıca iletilen istemci adresi başlıklarını da okur, bu nedenle bir adresi doğrudan erişim kanıtı olarak kabul etmeden önce bu girdileri proxy günlüklerinizle karşılaştırın. ollama list içeriğini sahip olmanız gereken modellerle karşılaştırın; çünkü /api/pull kimlik doğrulaması gerektirmez ve çekmediğiniz bir model hem disk kullanımı hem de bir kanıttır. df -h ile boş alanı kontrol edin. Varsayılan erişim günlüğü, model adını, istem metnini veya oluşturulan yanıtı değil, yalnızca istek meta verilerini kaydeder.