SSD Nodes Learn Hosting plans →
가이드 Matt Connor작성자 Matt Connor · 업데이트됨 2026-10-30

Ollama 서버 보안 설정: 포트 11434 외부 노출 위험과 해결법

Ollama API는 기본적으로 인증 기능을 제공하지 않아 포트 11434를 개방하면 외부에서 모델을 임의로 실행하거나 삭제할 수 있습니다. 서버를 안전하게 보호하기 위한 세 가지 단계별 보안 설정 방법을 상세히 안내합니다.

Ollama API에는 비밀번호가 없습니다

Ollama API에는 인증 기능이 없습니다. 들어오는 클라이언트에 대해 사용자, 비밀번호, API 키 확인 절차가 전혀 없습니다. 11434 포트로 TCP 연결을 맺을 수 있는 모든 대상은 모델 목록을 조회하고, 모델을 실행하며, 새로운 모델을 다운로드하고, 기존 모델을 삭제할 수 있습니다.

공식 문서에는 "http://localhost:11434의 로컬 API는 인증을 요구하지 않습니다"라고 명시되어 있습니다. 여기서 로컬이라는 단어가 보안 모델의 전부를 의미합니다. Ollama는 기본적으로 127.0.0.1에 바인딩되므로, 노트북 환경에서는 루프백 인터페이스가 곧 접근 제어 역할을 합니다. 이 리스너를 공인 IP 주소로 옮기면 대체할 보안 수단이 없기 때문에 접근 제어 기능은 즉시 사라집니다.

이것이 VPS(가상 사설 서버)에서 이 문제가 중요한 이유입니다. 기본 설정은 안전합니다. 대부분의 사용자가 처음 수행하는 작업인 '다른 기기에서 모델을 사용할 수 있도록 리스너를 개방하는 것'이 곧 모든 보호 장치를 한꺼번에 제거하는 행위가 됩니다.

열려 있는 11434 포트가 노출하는 정보

모든 엔드포인트가 노출됩니다. 읽기 전용 모드나 별도의 관리자 포트가 존재하지 않습니다. 다음은 localhost 대신 서버 주소를 대상으로 하는 실제 요청 예시입니다.

# List every model on the box
curl http://SERVER_IP:11434/api/tags

# See what is loaded into memory right now
curl http://SERVER_IP:11434/api/ps

# Run a prompt on your hardware
curl http://SERVER_IP:11434/api/generate -d '{"model":"llama3.2","prompt":"Why is the sky blue?"}'

# Write several gigabytes to your disk
curl http://SERVER_IP:11434/api/pull -d '{"model":"llama3.2"}'

# Remove a model
curl -X DELETE http://SERVER_IP:11434/api/delete -d '{"model":"llama3.2"}'

운영자 관점에서 다음과 같은 네 가지 문제가 발생합니다.

  • CPU나 GPU가 타인의 추론 작업을 수행하게 됩니다. 공정 사용(fair-use) CPU 할당량이 있는 플랜을 사용하는 경우, 지속적인 부하로 인해 할당량이 낯선 사람에 의해 소모됩니다. VPS에서 AI 작업 비용을 제어하는 방법은 본인 외의 사용자가 요청을 보낼 경우 훨씬 까다로워집니다.
  • /api/pull이 디스크에 데이터를 기록합니다. 모델 크기는 다양하며, llama3.2:1b조차 1.3 GB에 달합니다. 모델을 반복적으로 pull하면 볼륨이 가득 차게 되며, 디스크가 꽉 차면 Ollama뿐만 아니라 서버의 다른 모든 서비스가 중단됩니다.
  • 요청이 프로세스 내부로 들어와 로그에 기록됩니다. 기본 로그 수준에서 Ollama는 메타데이터만 기록하므로 프롬프트 텍스트가 아닌 엔드포인트, 상태, 지연 시간, 클라이언트 주소 등이 저장됩니다. 이는 누가 서버를 사용했고 무엇을 했는지에 대한 기록이 저널에 남는 것이며, 사용자가 수집을 의도한 정보가 아닙니다.
  • /api/delete가 모델을 삭제합니다. 삭제된 모델을 복구하려면 본인의 대역폭을 사용하여 다시 다운로드해야 합니다.

이 모든 과정은 취약점 공격이 필요하지 않습니다. 설계된 대로 동작하는 문서화된 API의 기능일 뿐입니다.

Ed25519 키는 접근 제어 수단이 아닙니다

"Ollama API key"를 검색하면 서로 다른 두 가지 결과가 나옵니다. 둘 다 서버의 비밀번호가 아니며, 이 둘을 구분하면 대부분의 혼란이 해소됩니다.

첫 번째는 식별용 키 쌍입니다. Ollama는 최초 실행 시 Ed25519 키 쌍을 생성합니다. Linux에서 설치 스크립트는 ollama이라는 시스템 사용자를 생성하고 홈 디렉터리를 /usr/share/ollama로 지정하므로, 키 쌍은 다음 위치에 저장됩니다.

/usr/share/ollama/.ollama/id_ed25519
/usr/share/ollama/.ollama/id_ed25519.pub

이 키는 외부를 향합니다. ollama signin는 공개 키를 ollama.com 계정에 등록하며, 이를 통해 모델을 레지스트리에 푸시하거나 비공개 모델을 풀(pull)할 수 있는 권한을 얻습니다. 즉, 이 키는 ollama.com에 귀하의 머신을 인증하는 용도입니다. 이 키는 귀하의 머신에 연결하는 클라이언트에게는 아무것도 요구하지 않습니다. 이 키를 삭제하거나, 교체하거나, 아예 생성하지 않더라도 API 호출 권한에는 아무런 변화가 없습니다.

두 번째는 OLLAMA_API_KEY입니다. 이 변수에는 https://ollama.com/settings/keys에서 생성한 키가 저장되며, 클라이언트는 https://ollama.com/api에서 호스팅되는 API를 호출할 때 Authorization: Bearer $OLLAMA_API_KEY 헤더로 이 키를 전송합니다. 이는 해당 서비스의 자격 증명이며, 귀하가 클라이언트로서 사용하는 것입니다. 귀하의 ollama serve은 들어오는 요청을 인증하기 위해 이 키를 사용하지 않습니다. VPS에 OLLAMA_API_KEY을 설정한다고 해서 VPS에 비밀번호가 걸리는 것은 아닙니다.

따라서 활성화할 설정은 따로 없습니다. 아래의 세 가지 방어 수단은 모두 동일한 방식으로 작동합니다. 포트에 접근할 수 없도록 차단하고, 그 앞에 인증을 수행하는 프록시를 배치하십시오.

현재 서버가 수신 대기 중인 포트 확인하기

sudo ss -tlnp | grep 11434

안전한 결과는 루프백 주소를 가리킵니다:

LISTEN 0  4096  127.0.0.1:11434  0.0.0.0:*  users:(("ollama",pid=812,fd=3))

외부에 노출된 결과는 모든 인터페이스를 가리킵니다:

LISTEN 0  4096  0.0.0.0:11434  0.0.0.0:*  users:(("ollama",pid=812,fd=3))

0.0.0.0는 공인 IP를 포함하여 서버의 모든 IPv4 주소를 의미합니다. *:11434과 [::]:11434은 모든 IPv6 주소에서 수신 대기하는 와일드카드입니다. 이들이 IPv4 연결도 수락하는지는 소켓의 IPV6_V6ONLY 옵션에 따라 달라지는데, 리눅스는 기본적으로 이 옵션을 끄므로(net.ipv6.bindv6only=0), 세 가지 모두 외부 노출로 간주해야 합니다.

이제 외부에서 확인합니다. 서버가 아닌 본인의 노트북에서 다음 명령을 실행하십시오:

curl -m 5 http://YOUR_SERVER_IP:11434/api/version

curl: (28) Connection timed out after 5001 milliseconds는 원하는 결과이며, curl: (7) Failed to connect ... Connection refused도 마찬가지입니다. version 필드를 포함한 JSON 객체가 반환된다면, 누구나 API에 접근할 수 있다는 의미입니다. 서버 내부에서 curl로 테스트하는 것은 다른 기기에서 접근 가능한지 여부를 증명하지 못합니다. 서버에 IPv6 주소가 있다면 curl -6 -m 5 http://[YOUR_SERVER_IPV6]:11434/api/version을 사용하여 테스트를 반복하십시오. IPv4 포트가 닫혀 있다고 해서 IPv6 리스너까지 닫혀 있는 것은 아니기 때문입니다.

노출은 보통 두 가지 방식으로 발생합니다. 첫 번째는 다른 기기에서 모델에 접근해야 할 필요가 있어 의도적으로 설정을 변경한 경우입니다:

sudo systemctl edit ollama.service
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

이 한 줄이 노출의 전부입니다. 두 번째 방식은 Docker를 사용하는 경우이며, 이 방식은 별도의 설정 변경을 요구하지 않습니다. 이에 대해서는 아래 섹션에서 다룹니다.

방어 1: localhost로 제한하고 터널링 사용

이 방법을 가장 먼저 고려하십시오. 새로운 소프트웨어가 필요하지 않으며 유출될 수 있는 자격 증명도 생성하지 않습니다. 포트가 공용 인터페이스에 존재하지 않으므로 스캐닝으로도 찾을 수 없습니다.

기본값에 의존하지 말고 바인딩 주소를 명시적으로 설정하십시오.

sudo systemctl edit ollama.service
[Service]
Environment="OLLAMA_HOST=127.0.0.1:11434"

이 설정은 /etc/systemd/system/ollama.service.d/override.conf을 작성합니다. 설정을 적용하고 확인하십시오.

sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo ss -tlnp | grep 11434

ss는 이제 127.0.0.1:11434을 표시해야 합니다. 여전히 0.0.0.0이 표시된다면, 다른 드롭인(drop-in) 파일이 우선순위를 점유하고 있는 것입니다. systemctl cat ollama.service를 실행하여 유닛과 모든 드롭인 파일의 경로를 나열한 뒤, 오래된 파일을 삭제하십시오.

노트북에서 모델을 사용하려면 SSH를 통해 포트를 포워딩하십시오.

ssh -N -L 11434:127.0.0.1:11434 you@your-server

-L 11434:127.0.0.1:11434은 노트북의 11434 포트를 열고, 해당 포트로 들어오는 모든 트래픽을 서버 관점의 127.0.0.1:11434로 전송합니다. -N는 SSH에게 원격 명령을 실행하지 않도록 지시하므로, 프로세스는 터널을 유지하기만 합니다. 터널이 실행되는 동안 노트북에서 다음 명령이 작동합니다.

curl -s http://localhost:11434/api/tags

두 가지 실패 사례를 겪을 수 있습니다. bind [127.0.0.1]:11434: Address already in use은 해당 로컬 주소와 포트가 이미 Ollama, 다른 SSH 터널 또는 다른 프로그램에 의해 사용 중임을 의미합니다. 이 경우 -L 11500:127.0.0.1:11434을 사용하여 다른 로컬 포트를 선택하고 클라이언트가 11500을 가리키도록 하십시오. 터널을 통한 요청에 응답이 없다면, 어떤 서비스가 실패했는지 판단하기 전에 서버의 ss과 SSH의 오류 출력을 확인하십시오.

여러 클라이언트 머신을 사용하는 경우, 사용자당 하나의 터널을 만드는 것보다 사설 네트워크를 구성하는 것이 더 효율적입니다. 머신들을 WireGuard나 Tailscale에 연결한 뒤, Ollama를 0.0.0.0가 아닌 해당 네트워크의 주소에 바인딩하십시오.

[Service]
Environment="OLLAMA_HOST=10.8.0.1:11434"

그러면 포트는 키가 있어야만 참여할 수 있는 인터페이스에만 존재하게 됩니다. 이는 방화벽 설정 실수로부터도 보호해 줍니다. 실수로 전체 공개를 허용하는 규칙이 생성되더라도, 공용 인터페이스가 아닌 곳에서 대기 중인 리스너는 외부로 노출되지 않기 때문입니다.

방어 2: 베어러 토큰을 검증하는 리버스 프록시

공용 인터넷에서 모델을 호출해야 하는 경우, Ollama를 루프백 인터페이스에 유지하고 그 앞에 프록시를 배치하십시오. 프록시는 TLS(전송 계층 보안)를 종료하고 올바른 헤더가 없는 요청을 거부합니다. Ollama는 여전히 127.0.0.1에서만 연결을 허용하므로, 프록시가 유일한 진입 경로가 됩니다.

먼저 실제 토큰을 생성하십시오. 직접 임의로 만들지 마십시오:

openssl rand -base64 36

이를 검증하는 nginx 사이트 설정입니다:

map $http_authorization $ollama_ok {
    default                                   0;
    "Bearer PASTE_YOUR_GENERATED_TOKEN_HERE"  1;
}

server {
    listen 443 ssl;
    server_name llm.example.com;

    ssl_certificate     /etc/letsencrypt/live/llm.example.com/fullchain.pem;
    ssl_certificate_key /etc/letsencrypt/live/llm.example.com/privkey.pem;

    location = /api/pull   { return 403; }
    location = /api/delete { return 403; }
    location = /api/push   { return 403; }

    location / {
        if ($ollama_ok = 0) { return 401; }

        proxy_pass http://127.0.0.1:11434;
        proxy_set_header Host 127.0.0.1:11434;
        proxy_buffering off;
        proxy_read_timeout 600s;
    }
}

위 설정의 다섯 줄은 실제 작업을 수행하며, 각각은 발생할 수 있는 장애를 방지합니다.

nginx에서 location 블록 내부의 if은 일반적으로 좋지 않은 방식이지만, 본문이 정확히 return인 경우는 예측 가능하게 동작하는 두 가지 형태 중 하나이므로 안전하게 사용할 수 있습니다.

location = /api/pull는 정확히 일치하는 경로이며, nginx는 location / 접두사보다 정확히 일치하는 경로를 우선순위에 두므로 해당 세 개의 엔드포인트는 토큰 검증 이전에 거부됩니다. 유효한 토큰은 /api/create 및 /api/blobs/:digest을 포함한 다른 모델 관리 엔드포인트에 대한 접근 권한을 부여하므로, 이 세 개의 블록이 모든 디스크 쓰기를 방지하는 것은 아닙니다.

proxy_set_header Host 127.0.0.1:11434;은 Ollama가 들어오는 Host 및 Origin 헤더를 검사하기 때문에 중요합니다. 프록시의 공용 호스트 이름을 그대로 전달하면 nginx가 아닌 Ollama에서 생성된 403 Forbidden이 발생할 수 있으며, 이는 디버깅을 혼란스럽게 만듭니다. OLLAMA_ORIGINS는 특정 오리진 허용이 필요한 브라우저 클라이언트를 위한 또 다른 설정입니다.

proxy_buffering off;은 Ollama가 응답을 토큰 단위로 스트리밍하기 때문에 중요합니다. 버퍼링이 켜져 있으면 nginx는 응답을 전달하기 전에 버퍼에 저장하므로 스트리밍 토큰의 전달이 지연됩니다.

proxy_read_timeout 600s;는 nginx의 기본값이 60초이며, 이 타이머는 전체 응답 시간이 아니라 Ollama로부터 연속된 두 번의 읽기 사이에서 작동하기 때문에 중요합니다. 토큰을 계속 생성하는 스트리밍 응답은 매번 타이머를 초기화합니다. Ollama가 60초 동안 아무것도 보내지 않는 요청은 타이머를 종료시키는데, 예를 들어 "stream": false를 사용하여 전체 답변을 한 번에 반환하거나 첫 번째 토큰이 도착하기 전 긴 침묵이 발생하는 경우가 이에 해당합니다. 클라이언트는 504 Gateway Time-out을 받게 되며, /var/log/nginx/error.log에는 upstream timed out (110: Connection timed out) while reading response header from upstream이 기록됩니다. 요청은 여전히 처리 중이었으나 nginx가 이를 포기한 것입니다.

설정을 다시 불러오고 두 경로를 모두 테스트하십시오:

sudo nginx -t && sudo systemctl reload nginx
curl -s -o /dev/null -w '%{http_code}\n' https://llm.example.com/api/tags
curl -s -H "Authorization: Bearer YOUR_TOKEN" https://llm.example.com/api/tags

첫 번째 명령은 401를 출력해야 합니다. 두 번째 명령은 모델 목록을 출력해야 합니다. 만약 첫 번째 명령에서도 모델 목록이 반환된다면, 어떤 서버와 location 블록이 요청을 처리했는지, 그리고 설정 다시 불러오기가 성공했는지 확인하십시오. 잘못된 범위에 있는 map 블록은 설정을 무효화합니다. 이는 http 수준에 위치해야 하므로, /etc/nginx/conf.d/ 아래의 파일이나 server 블록 위에 배치하십시오. 절대 server 내부에는 두지 마십시오.

Caddy는 베어러 토큰보다 브라우저 클라이언트에 더 적합한 기본 인증(basic authentication)을 사용하여 네 줄로 동일한 작업을 수행합니다:

llm.example.com {
	basic_auth {
		apiuser PASTE_BCRYPT_HASH_HERE
	}
	reverse_proxy 127.0.0.1:11434
}

caddy hash-password를 실행하여 Caddy가 요구하는 bcrypt 해시를 생성하십시오. 명명 규칙에 관한 참고 사항: 해당 지시어는 Caddy v2.8 이전에는 basicauth이었으나 현재는 basic_auth입니다. Caddy는 여전히 이전 표기법을 지원 중단된 별칭으로 허용하므로 이전 가이드에서 복사한 설정도 로드되지만, Caddy는 basicauth이 중단되었으며 basic_auth를 사용하라고 경고합니다. 해당 경고가 나타나면 이름을 변경하십시오.

어떤 프록시를 선택하든, 이는 모든 사용자에게 공유되는 하나의 비밀 키입니다. 이를 보유한 모든 클라이언트는 동일한 접근 권한을 가지며, 이를 취소하려면 설정을 편집하고 모든 호출자를 동시에 업데이트해야 합니다.

방어 3: 클라이언트별 키를 발급하는 게이트웨이

둘 이상의 사용자나 애플리케이션이 모델을 호출하면 공유 토큰 하나로는 한계가 있습니다. 어떤 클라이언트가 부하를 유발했는지 알 수 없으며, 특정 클라이언트를 차단하려면 모든 클라이언트의 연결을 끊어야 합니다. 프록시가 있던 자리에 게이트웨이를 배치하면 동일한 OpenAI 호환 API를 사용하면서 클라이언트별로 별도의 키를 발급하고 각 키의 사용량을 기록할 수 있습니다. 자체 호스팅 LiteLLM 게이트웨이가 일반적인 해결책이며, 이는 접근 제어 외에도 키별 예산 설정과 요청 로그 기능을 추가합니다.

방어 1에서 세운 규칙은 변하지 않습니다. Ollama는 127.0.0.1에 바인딩되어야 하며, 게이트웨이만이 Ollama와 통신하고, 외부 공개 리스너를 가진 유일한 서비스는 게이트웨이여야 합니다. 11434 포트가 외부로 열려 있는 서버에 게이트웨이를 설치하는 것은 아무런 의미가 없습니다. 호출자가 게이트웨이를 우회하여 직접 접근할 수 있기 때문입니다.

방화벽의 함정: 컨테이너 포트 게시와 UFW 우회

서버 소유자가 방화벽을 올바르게 설정했음에도 불구하고 인스턴스가 외부에 노출되는 이유가 여기에 있습니다.

UFW(uncomplicated firewall)는 커널의 filter 테이블 내 INPUT 체인에 규칙을 작성하며, INPUT는 호스트 자체로 향하는 패킷을 처리합니다. Docker의 -p 플래그는 nat 테이블의 PREROUTING 체인에 목적지 NAT(network address translation) 규칙을 작성하는데, 커널은 패킷의 목적지를 결정하기 전에 이 규칙을 먼저 평가합니다. 라우팅 결정이 내려질 시점에는 이미 목적지가 컨테이너 주소로 재작성된 상태이므로, 패킷은 로컬로 전달되지 않고 포워딩되며 INPUT 대신 FORWARD을 통과하게 됩니다. UFW의 INPUT 규칙은 참조되지 않으므로 패킷은 방화벽을 통과하는 대신 우회하게 됩니다.

이러한 이유로 다음 순서를 실행하면 11434 포트가 인터넷에 그대로 노출됩니다.

sudo ufw default deny incoming
sudo ufw enable
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

또한 sudo ufw status는 여전히 방화벽이 활성화되어 있고 기본 정책이 거부(deny)로 설정되어 있다고 보고합니다. 두 정보 모두 사실이며, 바로 이 때문에 사용자가 잘못된 정보를 신뢰하게 됩니다. 원인이 된 규칙은 다음 명령으로 확인할 수 있습니다.

sudo iptables -t nat -L DOCKER -n

해결 방법은 게시 플래그에 주소를 하나 지정하는 것입니다.

docker rm -f ollama
docker run -d -v ollama:/root/.ollama -p 127.0.0.1:11434:11434 --name ollama ollama/ollama

-p 11434:11434은 호스트 주소를 지정하지 않으므로, Docker는 IPv4(0.0.0.0)와 IPv6([::])를 포함한 모든 호스트 주소에 포트를 게시합니다. 127.0.0.1을 지정하면 매핑의 호스트 측이 루프백으로 바인딩되므로, SSH 터널이나 리버스 프록시는 접근할 수 있지만 인터넷에서는 접근할 수 없게 됩니다. 28.0.0 이전 버전의 Docker에는 예외 사항이 있습니다. 동일한 네트워크 세그먼트에 있는 장비는 localhost에 게시된 포트에 접근할 수 있으므로, 이 보호 기능을 신뢰하기 전에 업그레이드해야 합니다. 모델 데이터는 컨테이너 내부가 아닌 명명된 ollama 볼륨에 저장되므로 컨테이너를 다시 생성해도 안전합니다.

두 설정이 일치하는지 확인하십시오.

docker port ollama
sudo ss -tlnp | grep 11434

docker port ollama는 11434/tcp -> 127.0.0.1:11434을 출력해야 합니다. 만약 0.0.0.0:11434이나 [::]:11434이 출력된다면 여전히 노출된 상태입니다. 이 메커니즘을 한 번 익혀두면 게시하는 모든 컨테이너에 적용할 수 있습니다. Docker 게시 포트가 UFW를 우회하는 이유에서는 DOCKER-USER 체인과 Docker 재시작 후에도 유지되는 규칙을 다룹니다. 호스트 정책을 처음부터 구축 중이라면 새 VPS에 필요한 UFW 규칙에서 기초 설정을 확인할 수 있습니다. Rocky나 AlmaLinux에는 설정할 UFW가 없으므로, 대신 firewalld로 작성하는 동일한 기본 정책에서 시작하십시오.

프로세스가 어떤 계정으로 실행 중인가

Linux 설치 스크립트는 전용 계정을 생성하고 해당 계정 권한으로 서비스를 실행합니다.

useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama

/etc/systemd/system/ollama.service에 위치한 유닛 파일은 User=ollama 및 Group=ollama를 설정합니다. 이 설정은 그대로 두어야 합니다. 터미널에서 수동으로 시작한 ollama serve는 현재 로그인한 사용자의 권한으로 실행되며, 만약 root 계정으로 실행했다면 인증되지 않은 API가 root 권한으로 파일을 작성하게 됩니다. 다음 명령어로 실행 계정을 확인하십시오.

ps -o user= -C ollama

결과는 ollama이어야 합니다. 다른 결과가 나온다면 수동으로 시작한 프로세스가 유닛 서비스와 함께 실행 중이거나 유닛 서비스 대신 실행 중임을 의미합니다. 이후 추가하는 모든 데몬에도 동일한 원칙이 적용되며, 최소 권한 사용자로 서비스 실행하기에서 이를 올바르게 처리하는 방법을 다룹니다.

Ollama API 엔드포인트의 보안 상태 확인 방법

어떤 방식을 선택했든, 다른 머신에서 실행해야 하는 다음 테스트 한 번이면 보안 상태를 확인할 수 있습니다.

curl -m 5 http://YOUR_SERVER_IP:11434/api/version
curl -m 5 http://YOUR_SERVER_IP:11434/api/tags

두 명령 모두 타임아웃이 발생하거나 연결이 거부되어야 합니다. 프록시를 구축했다면, 프록시 호스트네임의 동일한 두 경로에 대해 자격 증명 없이 요청할 경우 401이 반환되어야 하며, 자격 증명을 포함하면 실제 JSON 데이터가 반환되어야 합니다.

그런 다음 포트가 열려 있던 동안 발생한 요청에 대해 접근 로그를 확인합니다.

journalctl -u ollama --since "-30 days" | grep GIN

Ollama는 요청당 한 줄씩 로그를 기록하며 여기에 클라이언트 주소가 포함됩니다.

[GIN] 2026/08/12 - 14:01:10 | 200 | 103.965898ms | 127.0.0.1 | POST "/api/generate"

해당 주소는 Gin의 ClientIP()에서 가져온 것이며, 이는 신뢰할 수 있는 프록시로부터 전달된 X-Forwarded-For 및 X-Real-IP 헤더도 확인합니다. 따라서 루프백 리버스 프록시를 거친 요청이라도 Ollama가 127.0.0.1에 올바르게 바인딩되어 있다면 공인 클라이언트 주소가 표시될 수 있습니다. 해당 열에 공인 주소가 있다고 해서 포트 11434에 직접 접근했다는 증거는 아니며, 일치하는 로그 줄이 없다고 해서 아무도 접근하지 않았다는 증거도 되지 않습니다. 타임스탬프를 프록시 로그 및 설정과 비교하고, 외부 연결 테스트를 사용하여 현재 노출 여부를 확인하십시오. 이 분야의 모델 관련 설정이 처음이라면 VPS에서 Ollama 실행하기 문서를 통해 설치, 모델 크기 조정, 그리고 실제로 로드될 모델을 결정하는 메모리 제한 사항을 확인하시기 바랍니다.

FAQ

Ollama에 API 키나 비밀번호가 있습니까?

아니요. 실행 중인 서버에는 어떠한 인증 기능도 없으며, 공식 문서에서도 로컬 API는 인증을 요구하지 않는다고 명시하고 있습니다. "Ollama API 키"라고 불리는 두 가지 개념은 이와는 다른 용도입니다. /usr/share/ollama/.ollama/의 Ed25519 키 쌍은 사용자의 기기가 ollama.com에 인증되어 모델을 푸시하거나 비공개 모델을 풀(pull)할 수 있게 합니다. OLLAMA_API_KEY은 클라이언트가 https://ollama.com/api의 호스팅된 API로 보내는 자격 증명입니다. 사용자의 ollama serve은 들어오는 클라이언트를 인증하기 위해 이 중 어느 것도 사용하지 않으므로, 접근 제어는 네트워크 수준이나 앞단에 배치된 프록시를 통해 수행해야 합니다.

방화벽이 있으면 OLLAMA_HOST=0.0.0.0는 안전합니까?

방화벽이 해당 리스너에 대한 접근을 올바르게 차단하는 경우에만 안전합니다. 0.0.0.0은 리스너가 실제로 공용 인터페이스에 존재함을 의미하며, 방화벽 하나만 믿고 접근이 불가능할 것이라 가정하는 것은 위험합니다. Docker로 게시된 Ollama 포트는 별도의 주의가 필요합니다. Docker가 nat 테이블에 추가하는 DNAT 규칙은 패킷이 UFW가 위치한 INPUT 체인에 도달하기 전에 평가되기 때문입니다. 따라서 패킷은 그대로 전달되며 UFW의 INPUT 규칙은 이를 확인하지 못합니다. 127.0.0.1 또는 사설 터널 주소에 바인딩하면 공용 인터페이스에서 리스너가 제거되므로, 방화벽 설정 실수로 인해 노출될 위험이 사라집니다.

Ollama 포트가 인터넷에 열려 있는지 어떻게 확인합니까?

서버에서 sudo ss -tlnp | grep 11434를 실행하고, 다른 기기에서 curl -m 5 http://YOUR_SERVER_IP:11434/api/version을 실행하십시오. ss이 127.0.0.1:11434을 표시하고 원격 curl 요청이 시간 초과되는 것이 원하는 결과입니다. ss가 0.0.0.0:11434 또는 *:11434을 표시하고 원격 curl이 JSON을 반환한다면 전체 API에 접근 가능한 상태입니다. 서버 자체에서 curl로 테스트하는 것은 다른 기기에서 접근 가능한지 여부를 판단하는 근거가 되지 않습니다.

포트를 11434에서 임의의 번호로 변경하면 안 됩니까?

안 됩니다. 그 이유는 명확합니다. 포트를 변경해도 단일 포트 스캔을 늦출 뿐입니다. 스캐너는 전체 범위를 탐색하며, /api/tags로 보내는 요청 하나만으로 어떤 포트에서 응답하든 해당 서비스가 무엇인지 식별할 수 있습니다. 또한 포트를 변경하면 모든 클라이언트의 기본 설정이 어긋나고, 나중에 자신의 설정을 파악하기가 더 어려워집니다. 대신 루프백(loopback) 주소에 바인딩하십시오. 이는 리스너를 다른 곳으로 옮기는 것이 아니라 아예 제거하는 방식입니다.

누군가 열려 있는 Ollama에 접근했습니다. 무엇을 확인해야 합니까?

먼저 127.0.0.1에 바인딩하고 서비스를 재시작하여 조사를 시작하기 전에 노출을 차단하십시오. 그 후 journalctl -u ollama --since "-30 days" | grep GIN를 실행하여 클라이언트 주소, 엔드포인트, 타임스탬프를 검토하십시오. Gin은 전달된 클라이언트 주소 헤더도 읽으므로, 해당 주소를 직접 접근의 증거로 간주하기 전에 프록시 로그와 비교하십시오. /api/pull은 인증되지 않으므로, 본인이 풀(pull)하지 않은 모델이 있다면 이는 디스크 사용량 증가이자 침입의 증거입니다. ollama list를 본인이 의도한 모델 목록과 비교하십시오. df -h을 사용하여 여유 공간을 확인하십시오. 기본 접근 로그는 요청 메타데이터만 기록하며, 모델 이름, 프롬프트 텍스트, 생성된 답변은 기록하지 않습니다.

이 글이 도움이 되었나요?