SSD Nodes Learn Hosting plans →
가이드 Matt Connor작성자 Matt Connor

VPS에서 루트리스 Podman으로 Ollama 실행하는 법

VPS 환경에서 Ollama를 루트리스 Podman 컨테이너로 안전하게 실행하는 방법을 안내합니다. 전용 사용자 설정, lingering 활성화, Quadlet을 이용한 자동 재시작 구성, SELinux 레이블 지정 및 SSH 터널을 통한 보안 접속까지 단계별로 상세히 설명합니다.

VPS에서 rootless Podman으로 Ollama 실행하기

VPS에서 rootless Podman으로 Ollama를 실행하려면 데스크톱 환경 가이드에서는 생략하는 다섯 가지 조건을 충족해야 합니다. 권한이 없는 전용 사용자가 컨테이너를 소유해야 합니다. 해당 사용자에 대해 lingering을 활성화하여 로그아웃 후에도 컨테이너가 계속 실행되도록 합니다. Quadlet 파일을 사용하여 컨테이너를 systemd에 등록하면 재부팅 후에도 컨테이너가 자동으로 시작됩니다. SELinux를 강제하는 배포판에서는 모델 디렉터리에 적절한 SELinux 레이블을 지정해야 합니다. API는 루프백 인터페이스에서만 수신 대기하며, SSH(secure shell) 터널을 통해 접근합니다.

Ollama는 거대 언어 모델(LLM)을 위한 서버입니다. 모델 가중치를 디스크에 저장하고 메모리에 로드한 뒤, 11434 포트에서 HTTP 요청에 응답합니다. 로컬 API는 로그인이나 API 키를 요구하지 않으므로 네트워크 설정이 유일한 접근 제어 수단입니다. Podman은 데몬 없이 root 권한 없이 컨테이너를 실행하므로, 컨테이너를 탈출하더라도 일반적인 비권한 사용자의 권한으로 시작됩니다. 런타임 비교를 먼저 확인하려면 VPS에서 Podman과 Docker의 차이점을 읽어보십시오. 컨테이너를 완전히 건너뛰고 싶다면 VPS에 Ollama 직접 설치하기가 더 짧은 경로입니다.

Fedora는 Podman과 SELinux(security-enhanced Linux)를 기본으로 제공합니다. 아래 명령어는 Podman 5 이상을 가정하며, Quadlet 유닛은 cgroup v2도 필요로 합니다. 이는 Podman 버전에 관계없이 Podman 문서에서 Quadlet의 요구 사항으로 명시되어 있습니다. 시작하기 전에 podman --version으로 첫 번째 조건을, podman info | grep -i cgroup으로 두 번째 조건을 확인하십시오. 이때 cgroupVersion 줄은 v2로 표시되어야 합니다. Ubuntu 24.04의 아카이브에 있는 podman 패키지는 4.9.3 버전으로, 해당 요구 사항보다 낮으므로 먼저 버전을 확인해야 합니다.

서버에서 노트북용 설정을 변경해야 하는 이유

Fedora Magazine은 2026년 8월 5일에 이 스택에 대한 명확한 가이드를 발행했습니다: Yazan Monshed가 작성한 Fedora Linux에서 Podman으로 Ollama 로컬 실행하기. 이 도구들을 처음 한 시간 동안 다루기에 좋은 자료입니다. 다만 이 가이드는 노트북을 대상으로 작성되었으며, 그중 4가지 선택 사항은 공인 IP 주소를 가진 서버에서 다르게 동작합니다.

  • 컨테이너를 단순한 podman run -d 명령으로 시작합니다. 수동으로 시작한 컨테이너는 재부팅 후 자동으로 다시 실행되지 않습니다. 시작하라는 명령을 내린 주체가 없기 때문입니다.
  • ollama/ollama와 같이 변경되는 태그를 사용합니다. 노트북에서는 동작이 바뀌는 날 바로 알아차릴 수 있지만, 서버에서는 밤사이에 스크립트가 작동을 멈추는 것이 첫 징후가 됩니다.
  • -p 11434:11434을 사용하여 포트를 게시하는데, 이는 모든 인터페이스에 바인딩됩니다. 가정용 라우터 뒤에 있다면 인터넷에서 접근할 수 없지만, VPS에서는 비밀번호가 없는 공개 추론 API가 됩니다.
  • 로그인한 사용자 계정으로 실행합니다. 서버에서는 컨테이너를 소유한 계정이 다른 어떤 것도 소유하지 않아야 합니다. 그래야 컨테이너 탈출이 발생해도 빈 홈 디렉터리에 머물게 됩니다.

작성된 목적에 맞는 기기라면 이 중 잘못된 것은 없습니다. 다만 서버가 어디서든 접근 가능하고 앞에 아무도 앉아 있지 않은 환경이라면, 각 항목은 다시 검토해야 할 결정 사항입니다.

권한이 없는 사용자를 생성하고 subuid 확인하기

Rootless Podman은 컨테이너 내부의 사용자 ID(UID)를 호스트의 사용되지 않는 ID 블록에 매핑합니다. 해당 블록은 /etc/subuid 및 /etc/subgid에 선언되어 있습니다. Podman은 단일 UID 모드도 지원하지만, 이 설정에서는 하위 범위(subordinate ranges)를 구성합니다.

sudo dnf install -y podman        # or: sudo apt install -y podman
sudo useradd --create-home --shell /bin/bash --comment "Ollama container owner" ollama
sudo passwd --lock ollama
grep ollama /etc/subuid /etc/subgid

grep 명령은 각 파일에서 한 줄씩, 총 두 줄을 출력해야 하며 각 줄은 65536개의 ID 범위를 지정합니다.

/etc/subuid:ollama:100000:65536
/etc/subgid:ollama:100000:65536

시작 번호는 다를 수 있으며, 이는 정상입니다. grep 명령이 아무것도 출력하지 않는다면 useradd가 범위를 할당하지 않은 것입니다. Podman은 매핑이 누락된 경우 다음과 같은 메시지를 보고합니다.

Error: cannot find UID/GID for user ollama: no subuid ranges found for user "ollama" in /etc/subuid

다른 사용자가 사용하지 않는 범위를 할당한 다음, Podman에게 이전 매핑이 유효하지 않음을 알립니다.

sudo usermod --add-subuids 100000-165535 --add-subgids 100000-165535 ollama
sudo -iu ollama podman system migrate

비밀번호를 잠그면 ollama 계정으로의 비밀번호 로그인이 차단됩니다. 이는 SSH 키와 같은 다른 인증 방식은 차단하지 않습니다. 관리자 사용자로부터 sudo -iu ollama 명령을 사용하여 해당 계정에 접근할 수 있습니다.

로그아웃 후에도 서비스가 유지되도록 lingering 활성화

사용자의 systemd 인스턴스는 일반적으로 로그인 시 시작되고 마지막 로그아웃 후에 종료되며, 이때 /run/user/<uid>도 함께 제거됩니다. 해당 인스턴스에서 관리하는 서비스는 인스턴스가 종료될 때 같이 중단됩니다. Lingering을 활성화하면 세션이 연결되어 있지 않아도 사용자 인스턴스가 계속 실행됩니다.

sudo loginctl enable-linger ollama
loginctl show-user ollama --property=Linger

위 명령을 실행하면 Linger=yes가 출력되어야 합니다. 로그인 세션 없이도 사용자 관리자와 런타임 디렉터리를 사용할 수 있도록 유닛을 생성하기 전에 이 설정을 활성화하십시오.

아무도 예상하지 못하는 추가 단계가 하나 더 있습니다. sudo -iu ollama은 셸을 제공하지만 세션 버스는 제공하지 않으므로, systemctl --user은 즉시 실패합니다.

Failed to connect to bus: $DBUS_SESSION_BUS_ADDRESS and $XDG_RUNTIME_DIR not defined

systemd는 $XDG_RUNTIME_DIR/bus에서 사용자 버스를 찾지만, sudo -i은 해당 변수를 설정하지 않습니다. 이 서비스를 관리하는 모든 관리자 셸에서 다음 명령으로 변수를 직접 설정하십시오.

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user status

모델 블롭이 저장되는 위치와 디스크 용량 계획

Ollama는 컨테이너 내부의 /root/.ollama/models 경로에 가중치를 기록합니다. 사용자의 홈 디렉터리에 있는 디렉터리를 해당 경로에 바인드 마운트하면, /home/ollama/ollama-data/models와 같이 측정 가능한 위치에 파일이 저장됩니다. 블롭은 콘텐츠 주소 지정 방식의 파일로 models/blobs에 저장되며, models/manifests에는 이들을 식별하는 작은 인덱스가 포함됩니다. Fedora Magazine 게시물에서처럼 명명된 볼륨(named volume)을 사용하는 경우에도 동일한 트리 구조가 /home/ollama/.local/share/containers/storage/volumes/<volume>/_data 아래에 생성됩니다. 어떤 방식을 사용하든 ollama pull와 ollama run은 동일한 트리에 가중치를 기록하며, 두 명령어의 차이점은 다운로드 완료 후 채팅 세션을 바로 시작하는지 여부뿐입니다.

모델을 가져오기 전에 디스크 용량을 산정하십시오. 공개된 다운로드 크기는 최소 기준입니다.

차트Published download size per Ollama model tag, ollama.com/library, checked 27 October 2026
이 차트의 데이터
[
  {
    "label": "gemma3:4b",
    "download_gb": 3.4
  },
  {
    "label": "mistral:7b",
    "download_gb": 4.4
  },
  {
    "label": "qwen3:8b",
    "download_gb": 5.2
  },
  {
    "label": "gemma3:12b",
    "download_gb": 8.2
  },
  {
    "label": "qwen3:14b",
    "download_gb": 9.3
  },
  {
    "label": "gemma3:27b",
    "download_gb": 17
  },
  {
    "label": "qwen3:30b",
    "download_gb": 19
  }
]

7개의 모든 행은 ollama.com/library에 게시된 수치이며, 디스크에서 직접 측정한 크기가 아닙니다. 여기서 가장 작은 태그인 gemma3:4b은 3.4 GB를 다운로드합니다. 가장 큰 태그인 qwen3:30b은 19 GB를 다운로드합니다. 컨테이너 이미지 자체는 Podman의 자체 저장소에 별도로 위치하므로, podman system df과 df -h /home를 사용하여 두 수치를 함께 확인하십시오. 원활한 성능을 위해 모델 파일 크기만큼의 RAM과 컨텍스트 윈도우를 위한 추가 공간을 계획하십시오. 물리적 RAM이 절대적인 제한은 아닙니다. 디스크 기반 메모리 매핑이나 충분한 스왑 공간이 있다면 19 GB 모델을 16 GB VPS에서 실행할 수 있지만, 성능은 저하됩니다.

이미지 태그를 고정하고 전체 레지스트리 이름을 사용하십시오

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
mkdir -p ~/ollama-data ~/.config/containers/systemd
podman pull docker.io/ollama/ollama:0.32.9

2026년 8월 기준 0.32.9과 같은 릴리스 버전 태그를 사용하고 latest는 사용하지 마십시오. 그 이후로 더 새로운 릴리스가 배포되었습니다. 2026년 10월 30일 기준으로 Docker Hub의 최신 일반 버전 태그는 0.40.13이므로, 태그 페이지를 확인하여 pull 명령과 Image= 라인 모두에 현재 릴리스를 사용하십시오. 고정된 버전 태그를 사용하면 선택하지 않은 릴리스가 서버에 설치되는 것을 방지할 수 있으므로, 동작이 변경되었다면 이는 일반적으로 사용자가 직접 변경한 결과입니다. 하지만 태그는 지문이 아닌 포인터일 뿐입니다. 누군가 동일한 이름으로 다시 푸시하면 레지스트리는 태그를 다른 이미지로 이동시키며, 오직 다이제스트만이 고정된 값을 가집니다. Podman은 Image=에서 두 형식 모두를 허용합니다. 04:00에 재시작할 때 테스트한 바이너리가 정확히 실행되어야 한다면, 풀(pull) 작업 후 podman images --digests docker.io/ollama/ollama를 실행하고 Image=docker.io/ollama/ollama@sha256:<digest>을 대신 작성하십시오. Docker Hub는 동일한 버전에 대해 -rc 및 -rocm 태그도 게시합니다. AMD GPU를 사용하는 경우가 아니라면 일반 태그를 선택하십시오.

레지스트리 호스트도 함께 작성하십시오. Fedora의 systemd 유닛에서 짧은 이름을 사용하면 프롬프트를 입력할 터미널이 없으므로 유닛은 다음과 같은 오류와 함께 실패합니다.

Error: short-name "ollama/ollama" did not resolve to an alias and no unqualified-search registries are defined

수동으로 먼저 풀(pull)하는 것은 선택 사항이지만 유용합니다. 수 기가바이트에 달하는 다운로드 과정을 유닛 시작 타임아웃 시간에서 제외할 수 있기 때문입니다.

재부팅 후에도 유지되는 Quadlet 유닛

Quadlet은 Podman의 systemd 생성기입니다. .container 파일을 작성하면 systemd가 부팅 시 이를 서비스로 변환하며, podman generate systemd은 더 이상 필요하지 않습니다. 이 파일을 ollama 사용자가 소유하도록 하여 /home/ollama/.config/containers/systemd/ollama.container로 저장하십시오.

[Unit]
Description=Ollama API (rootless)
After=network-online.target
Wants=network-online.target

[Container]
Image=docker.io/ollama/ollama:0.32.9
ContainerName=ollama
PublishPort=127.0.0.1:11434:11434
Volume=/home/ollama/ollama-data:/root/.ollama:Z
Environment=OLLAMA_KEEP_ALIVE=30m
Environment=OLLAMA_MAX_LOADED_MODELS=1

[Service]
Restart=always
TimeoutStartSec=900

[Install]
WantedBy=default.target

파일 이름이 서비스 이름을 결정하므로 ollama.container은 ollama.service이 됩니다.

systemctl --user daemon-reload
systemctl --user start ollama.service
systemctl --user status ollama.service

status은 active (running)를 표시해야 합니다. systemctl --user enable ollama.service을 실행하지 마십시오. 해당 유닛은 디스크에 파일로 존재하지 않으므로 systemd가 거부합니다.

Failed to enable unit: Unit file /run/user/1001/systemd/generator/ollama.service is transient or generated.

[Install] 섹션이 이미 해당 작업을 수행합니다. Quadlet은 daemon-reload 과정에서 부팅 시 시작되도록 하는 링크를 직접 생성하므로, 이 명령은 선택 사항이 아닙니다. TimeoutStartSec=900은 이미지를 가져오는 데 시간이 걸리는 첫 시작을 다룹니다. 기본값인 90초는 수 기가바이트의 다운로드를 완료하기에 충분하지 않으며, systemd는 시작이 실패한 것으로 간주하여 프로세스를 종료할 것입니다. OLLAMA_KEEP_ALIVE=30m는 모델을 5분 후 메모리에서 해제하는 대신 요청 사이에 메모리에 유지합니다. 이에 따른 장단점은 Ollama 모델을 메모리에 유지하기에서 확인할 수 있습니다. 여기에 사용된 systemd 용어가 생소하다면, VPS에서 systemd 서비스와 타이머가 작동하는 방식에서 유닛 자체에 대해 다룹니다.

SELinux 환경에서 모델 디렉토리에 접근 권한 거부(permission denied)가 발생하는 이유

Fedora, RHEL, Rocky 및 AlmaLinux에서는 SELinux가 기본적으로 강제(enforcing) 모드로 동작합니다. 컨테이너 프로세스는 container_t 도메인에서 실행되지만, 사용자의 홈 디렉토리는 user_home_t으로 레이블이 지정되어 있습니다. 정책상 두 영역 간의 접근이 허용되지 않으므로, Ollama가 모델 트리를 생성하지 못하고 컨테이너가 종료됩니다. 이러한 시스템에서 getenforce을 실행하면 Enforcing이 출력되며, 접근 거부 기록은 다음과 같이 남습니다.

sudo ausearch -m avc -ts recent

로그에서 도메인과 대상 레이블을 명시하는 행을 확인할 수 있습니다.

avc:  denied  { write } for  pid=1842 comm="ollama" name="models" dev="vda1" ino=131077 scontext=system_u:system_r:container_t:s0:c214,c827 tcontext=unconfined_u:object_r:user_home_t:s0 tclass=dir permlisted=0

Volume= 행 끝에 있는 :Z가 해결책입니다. 이는 호스트 디렉토리의 레이블을 container_file_t로 변경하고, 해당 컨테이너만 소유할 수 있는 전용 MCS(multi-category security) 카테고리를 부여합니다. 소문자 :z는 공유 레이블을 사용하는데, 이는 두 컨테이너가 동일한 디렉토리를 읽어야 할 때 적합합니다.

:Z 사용 시 주의할 점은 이 옵션이 파괴적이며 별도의 확인 절차 없이 동작한다는 것입니다. 레이블 재지정은 하위 디렉토리까지 재귀적으로 적용됩니다. 만약 /home/ollama를 대상으로 지정하면 해당 홈 디렉토리의 모든 파일 레이블이 변경되어, 사용자의 SSH 키 접근이 차단될 수 있습니다. 항상 :Z에는 다른 파일이 없는 전용 하위 디렉토리를 지정하십시오. 명명된 볼륨(named volume)은 Podman이 생성 시점에 올바르게 레이블을 지정하므로 이 옵션이 필요하지 않습니다. 더 자세한 내용은 서버를 위한 SELinux 기초에서 컨텍스트와 불리언(boolean)에 관한 설명을 참조하십시오. Ubuntu와 Debian은 대신 AppArmor를 사용하므로, 해당 환경에서 :Z은 아무런 동작을 하지 않으며 유닛 파일에 그대로 두어도 무방합니다.

포트 11434를 닫고 SSH를 통해 API에 접근하기

PublishPort=127.0.0.1:11434:11434은 호스트 측을 루프백에 바인딩합니다. 다음 명령으로 확인하십시오:

ss -ltnp | grep 11434
curl http://127.0.0.1:11434

ss 출력에는 127.0.0.1:11434가 표시되어야 하며, curl은 Ollama is running로 응답해야 합니다. 만약 ss에 0.0.0.0:11434나 *:11434이 표시된다면, 해당 포트는 모든 인터페이스에서 수신 대기 중인 상태입니다. 인터넷에서 접근 가능한지 여부는 방화벽 규칙과 서버 앞단의 네트워크 구성에 따라 다르므로, 와일드카드 리스너가 즉시 노출되는 것은 아닙니다. 하지만 이를 신뢰해서는 안 됩니다. Ubuntu 문서에 따르면 ufw은 기본적으로 비활성화되어 있으며, 방화벽 규칙은 항상 올바르게 유지되어야 하는 또 하나의 요소이기 때문입니다. 포트가 애초에 공개적으로 수신 대기하지 않도록 바인딩 주소를 수정하십시오.

어느 쪽을 바인딩하는지 정확히 구분해야 합니다. PublishPort의 주소는 호스트 주소입니다. 컨테이너 내부의 Ollama는 이미지 기본값대로 모든 인터페이스에서 수신 대기해야 합니다. Environment=OLLAMA_HOST=127.0.0.1을 설정하면 Ollama가 컨테이너 자체의 루프백에 바인딩되며, Podman은 게시된 트래픽을 컨테이너의 네트워크 주소로 전달하므로 호스트에서 보내는 요청조차 모두 거부됩니다.

11434 포트를 열어두면 두 가지 문제가 발생합니다. Ollama에는 인증 기능이 없으므로, 포트에 접근할 수 있는 누구나 /api/tags를 통해 모델 목록을 확인하고, /api/generate를 통해 CPU와 대역폭을 사용하여 추론을 실행하며, 새로운 모델을 디스크에 내려받거나 기존 모델을 삭제할 수 있습니다. 둘째, 원격 포트로 전송되는 일반 HTTP는 프롬프트와 응답을 평문으로 전송하므로 경로상의 모든 장비가 이를 읽을 수 있습니다. 포트가 서버 외부로 노출되지 않으면 이 두 가지 문제는 모두 사라집니다.

워크스테이션에서 SSH를 통해 포트를 포워딩하십시오:

ssh -N -L 11434:127.0.0.1:11434 you@vps.example.com

이제 노트북의 http://127.0.0.1:11434은 SSH 세션의 암호화가 적용된 서버의 Ollama가 됩니다. 노트북에서 이미 Ollama를 실행 중이라면 로컬 바인딩이 bind [127.0.0.1]:11434: Address already in use 오류로 실패합니다. 이때는 -L 11435:127.0.0.1:11434을 사용하고 클라이언트가 11435를 가리키도록 설정하십시오.

브라우저 클라이언트가 필요한 경우, 대신 비밀번호가 설정된 리버스 프록시를 앞단에 두십시오. Caddy 사이트 블록은 간결하며, caddy hash-password는 필요한 bcrypt 해시를 출력합니다:

ollama.example.com {
  basic_auth {
    you $2a$14$replace_with_the_generated_hash
  }
  reverse_proxy 127.0.0.1:11434
}

Caddy는 자체적으로 TLS(transport layer security) 인증서를 발급받으므로 트래픽이 암호화됩니다. 먼저 클라이언트를 테스트하십시오. Authorization 헤더를 보낼 수 없는 클라이언트는 기본 인증(basic auth)에서 401 Unauthorized 오류로 실패할 것입니다. SSH 터널은 이러한 문제가 없으므로 본 문서에서 기본 권장 사항으로 제시합니다.

모델을 풀(pull)하고 전체 경로 확인하기

podman exec -it ollama ollama pull gemma3:4b
curl -s http://127.0.0.1:11434/api/tags
curl -s http://127.0.0.1:11434/api/generate -d '{"model":"gemma3:4b","prompt":"Reply with the single word: ready","stream":false}'
du -sh ~/ollama-data/models

/api/tags는 gemma3:4b 목록을 포함한 JSON을 반환합니다. /api/generate는 디스크에서 가중치를 불러오는 동안 잠시 대기한 후, response 필드가 포함된 JSON 객체를 반환합니다. du은 공개된 다운로드 크기와 유사한 숫자를 보고해야 합니다. 그런 다음 이 가이드의 핵심인 다음 부분을 확인합니다.

sudo reboot
# reconnect, then:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user is-active ollama.service

active은 프로세스가 계속 실행 중임을 의미하며, 이는 [Install] 섹션과 daemon-reload가 정상적으로 작동했음을 뜻합니다. 만약 inactive이 보고된다면, 앞서 언급한 세 가지 항목을 먼저 확인한 뒤 journalctl --user -u ollama.service에서 시작 오류를 검토하십시오.

실패 유형 및 확인 가능한 메시지

재부팅 후 컨테이너가 사라짐. loginctl show-user ollama --property=Linger를 가장 먼저 확인하십시오. Linger=yes이 없으면 사용자의 systemd 인스턴스가 부팅 시 시작되지 않습니다. Lingering이 활성화되어 있다면 .container 파일의 [Install] 섹션을 확인하고, systemctl --user daemon-reload을 실행한 뒤 journalctl --user -u ollama.service에서 시작 오류를 검사하십시오.

Error: statfs /home/ollama/ollama-data: no such file or directory. 컨테이너가 시작되기 전에 바인드 마운트의 원본 경로가 존재해야 합니다. Podman은 호스트 디렉터리를 자동으로 생성하지 않습니다. ollama 사용자로 mkdir -p ~/ollama-data를 실행하십시오.

시작 시 90초 후 실패. journalctl --user -u ollama.service은 이미지 풀(pull) 작업이 진행 중이었기 때문에 Start operation timed out. Terminating.를 표시합니다. 수동으로 풀을 수행하거나 TimeoutStartSec=900을 유지하십시오.

컨테이너가 시작되었다가 즉시 종료됨. podman logs ollama와 sudo ausearch -m avc -ts recent를 함께 확인하면 SELinux 레이블 문제인지 알 수 있습니다. container_t 및 user_home_t이 포함된 AVC 메시지는 :Z이 누락되었음을 의미합니다.

호스트에서 요청이 거부됨. 서비스 active과 함께 curl: (7) Failed to connect to 127.0.0.1 port 11434: Connection refused가 나타나는 것은 보통 컨테이너 내부에서 OLLAMA_HOST이 루프백 주소로 설정되었기 때문입니다. 해당 줄을 제거하십시오.

생성 속도가 매우 느리거나 컨테이너가 강제 종료됨. GPU가 없으면 추론은 CPU에서 실행되므로 대형 모델은 본질적으로 느립니다. 모델이 물리적 RAM에 모두 올라가지 않으면 디스크 기반 메모리 매핑이나 스왑으로 인해 추론 속도가 더 저하됩니다. 로그에 signal: killed가 남으며 요청 처리 중 컨테이너가 종료된다면 원인을 확인해야 합니다. 커널 로그에서 OOM(Out-of-Memory) 킬이 확인되면 위 차트에서 더 작은 태그를 선택하십시오.

고정된 이미지 업데이트하기

이미지를 고정한다는 것은 업데이트가 자동으로 일어나는 것이 아니라 사용자가 직접 수행하는 작업임을 의미합니다. ollama.container에서 Image=을 수정한 뒤, 설정을 다시 불러오고 서비스를 재시작하십시오:

systemctl --user daemon-reload
systemctl --user restart ollama.service
podman exec ollama ollama --version

모델은 바인드 마운트 경로에 저장되므로 이미지 변경 시에도 영향을 받지 않고 그대로 유지됩니다. [Container] 섹션의 AutoUpdate=registry는 레지스트리를 대상으로 다이제스트 검사를 수행하도록 설정합니다. 수동으로 실행하거나 systemd 타이머를 통해 실행되는 podman auto-update은 변경된 이미지를 가져와 유닛을 재시작합니다. 이는 이동하는 태그(moving tag)를 사용할 때 적합합니다. 버전 태그와 함께 사용할 경우, 게시자가 동일한 태그를 다시 푸시할 때만 동작합니다. 이는 고정(pinning)을 통해 방지하고자 하는 예기치 않은 변경이므로, 이 경우에는 비활성화해 두십시오. /home/ollama/ollama-data/models/manifests과 .container 파일은 백업하십시오. 블롭(blob) 파일은 크기가 크고 새로운 서버에서 ollama pull이 다시 가져오므로 백업에서 제외해도 됩니다.

FAQ

루트리스(rootless) Podman 컨테이너가 로그아웃하면 왜 중단됩니까?

사용자의 systemd 인스턴스와 해당 /run/user/<uid> 디렉터리는 일반적으로 사용자의 마지막 세션이 종료된 후 정리되며, 이로 인해 해당 인스턴스가 관리하는 서비스도 중단됩니다. sudo loginctl enable-linger ollama를 실행하여 loginctl show-user ollama --property=Linger이 Linger=yes를 출력하는지 확인하십시오. Quadlet 유닛을 생성하기 전에 링거링(lingering)을 활성화하면 로그인 세션 없이도 사용자 관리자와 런타임 디렉터리를 유지할 수 있습니다.

Ollama 모델 디렉터리에 SELinux 레이블이 필요합니까?

Fedora, RHEL, Rocky, AlmaLinux에서 호스트 디렉터리를 바인드 마운트하는 경우 필요합니다. 컨테이너는 container_t 도메인에서 실행되지만 홈 폴더의 디렉터리는 user_home_t으로 레이블이 지정되어 있어 쓰기 작업이 거부되고 Ollama가 종료됩니다. Volume= 라인에 :Z을 추가하고 전용 하위 디렉터리를 지정하십시오. 레이블 재지정은 재귀적으로 수행되므로 :Z를 홈 디렉터리 전체로 지정하면 해당 사용자의 SSH 키 접근이 차단될 수 있습니다. 명명된 볼륨(Named volumes)은 Podman이 올바르게 레이블을 지정하므로 추가 설정이 필요 없습니다.

Ollama 모델은 디스크 공간을 얼마나 차지합니까?

ollama.com/library에 게시된 다운로드 크기를 기준으로 시작하십시오. 이는 gemma3:4b의 3.4 GB부터 qwen3:30b의 19 GB까지 다양합니다. 여기에 Podman 이미지 크기를 더하고 여유 공간을 확보하십시오. 두 번째 모델을 추가해도 첫 번째 모델이 디스크에서 자동으로 삭제되지 않기 때문입니다. 이미지를 가져오기 전에 df -h /home을 확인하고, 가져온 후에 du -sh ~/ollama-data/models을 확인하십시오. 원활한 성능을 위해 모델 파일 크기만큼의 RAM과 컨텍스트 윈도우를 위한 추가 공간을 계획하십시오. 디스크 기반 메모리 매핑이나 충분한 스왑을 사용하면 물리적 RAM이 부족해도 더 큰 모델을 실행할 수 있지만, 성능은 저하됩니다.

VPS에서 11434 포트를 외부에 노출해도 안전합니까?

아니요. Ollama는 어떠한 인증 기능도 제공하지 않으므로, 해당 포트에 접근할 수 있는 사람은 누구나 모델 목록을 확인하거나, 삭제하거나, 새로운 모델을 디스크에 다운로드하고, 사용자의 CPU와 대역폭을 사용하여 추론을 실행할 수 있습니다. 또한 인터넷을 통한 일반 HTTP 통신은 모든 프롬프트와 응답을 평문으로 전송합니다. 호스트 측 포트를 127.0.0.1로 바인딩하고 PublishPort=127.0.0.1:11434:11434을 사용하십시오. ss -ltnp | grep 11434로 이를 확인한 뒤, SSH 터널이나 비밀번호 인증이 포함된 리버스 프록시를 통해서만 접근하십시오.

이 글이 도움이 되었나요?