SSD Nodes Learn Hosting plans →
가이드 Matt Connor작성자 Matt Connor

Ollama pull과 run 차이점 및 모델 저장 경로 확인

ollama pull은 모델 다운로드 후 종료하며, ollama run은 대화 세션을 시작합니다. 모델 파일이 VPS 루트 디스크를 점유하는 이유와 저장 경로를 변경하는 방법을 상세히 설명합니다. 용량 부족 문제를 해결하고 효율적으로 모델을 관리하는 최적의 가이드를 확인하십시오.

ollama pull과 ollama run의 차이

ollama pull는 모델을 다운로드하고 종료합니다. 로컬 채팅 모델의 경우, ollama run은 모델이 없을 때만 다운로드한 뒤 메모리에 로드하고 대화형 채팅을 시작합니다. 다운로드 과정은 동일하며 파일은 같은 위치에 저장됩니다. 오직 run만이 그 이후에도 계속 실행 상태를 유지합니다. 임베딩 모델은 채팅과 관련하여 예외가 있습니다. 공식 문서에 따르면 ollama run embeddinggemma "Hello world"는 응답 대신 임베딩을 JSON 배열로 출력합니다. 입력 텍스트가 없으면 ollama run은 임베딩 모델을 embedding models require input text 오류와 함께 거부합니다.

이러한 차이점 하나가 스크립트에 적합한 명령어와 키보드 입력에 적합한 명령어를 결정합니다.

ollama pull gemma4
ollama run gemma4
ollama run gemma4 "Reply with one word: ready"

첫 번째 줄은 모델을 가져온 뒤 종료하므로 프로비저닝이나 systemd 유닛에서 사용하기에 안전합니다. 두 번째 줄은 채팅 세션을 엽니다. 종료하려면 /bye을 입력하거나 Ctrl+D를 누르십시오. 세 번째 줄은 단일 프롬프트를 전송하고 답변을 출력한 뒤 종료합니다. 이는 세션이 아닌 답변이 필요한 스크립트에서 사용하는 형태입니다. 이 세 번째 형태는 답변의 길이를 전적으로 모델에 맡기므로, 한 줄짜리 질문이 세 문단으로 돌아올 수 있습니다. 따라서 num_predict로 답변 제한하기를 사용해야 스크립트 내의 run가 호출자가 실제로 사용할 수 있는 크기 내에서 유지됩니다. 모델 이름은 빠르게 변하므로 여기서 gemma4은 자리 표시자로 취급하십시오. 이는 2026년 10월 기준 공식 Ollama 문서에서 사용하는 예시입니다. 동일한 워크플로우를 위해 다른 로컬 채팅 모델로 대체하십시오. :cloud로 끝나는 태그(예: gemma4:cloud)는 다릅니다. Ollama는 모델 가중치를 다운로드하지 않고 자체 서버에서 이를 실행하므로, 아래의 디스크 공간은 로컬 모델을 위한 것입니다. 이미 실제 서버에 맞춰 크기가 조정된 모델을 사용하고 싶다면, VPS에서 Nemotron 3.5 Lightning 실행하기를 참조하여 가져올 정확한 태그와 예상 메모리 요구량을 확인하십시오.

첫 ollama run 실행 시 멈춘 것처럼 보이는 이유

새로 구축한 VPS에서 처음 run을 실행하면 몇 분 동안 아무런 출력도 나타나지 않을 수 있습니다. 이는 오류가 아닙니다. 모델이 디스크에 저장되고 메모리에 로드되기 전까지는 채팅 프롬프트가 표시될 수 없으므로, run는 사용자에게 무언가를 보여주기 전에 수 기가바이트에 달하는 데이터를 다운로드하고 있는 것입니다.

이 작업이 눈에 보이지 않는 이유는 두 가지입니다. Ollama는 진행률 표시줄을 표준 에러(standard error)로 출력하는데, 2>/dev/null로 끝나는 스크립트나 cron 작업처럼 해당 스트림이 버려지거나 나중에 읽히는 환경에서는 다운로드 진행 상황을 알 수 없습니다. 또한 데이터 다운로드가 완료된 후에도 첫 번째 토큰이 생성되려면 파일을 디스크에서 RAM으로 읽어 들여야 하는데, 사양이 낮은 VPS에서는 이 읽기 작업이 느립니다. 만약 서버에 모델을 올릴 메모리가 부족하면 커널이 스왑(swap)을 시작하여 대기 시간이 훨씬 길어집니다.

추측하는 대신 다른 세션에서 상태를 확인하십시오.

df -h /
watch -n5 df -h /

새 서버에서 여유 공간이 단계적으로 줄어든다면 다운로드가 진행 중이라는 의미입니다. 명령어가 실행 중인데 여유 공간 감소가 멈췄다고 해서 로딩이 시작된 것은 아닙니다. 다운로드 후 Ollama는 별도의 verifying sha256 digest 단계를 거쳐 파일을 읽고 매니페스트를 작성한 뒤 풀(pull)을 완료합니다. 이미 모델이 저장된 서버의 경우 Ollama 0.40.2 버전에서는 혼동이 생길 수 있습니다. 이전 버전으로 다운로드한 모델을 처음 실행하면 백그라운드에서 업그레이드된 복사본을 작성하고 원본을 백업으로 유지하기 때문에, 실제 다운로드가 없어도 여유 공간이 줄어들 수 있습니다. 2026년 10월 11일에 출시된 Ollama 0.40.3에서는 이 백그라운드 업그레이드 작업이 일시 중단되었습니다.

이것이 미리 모델을 받아두어야 하는 이유입니다. ollama run을 입력하는 사용자가 다운로드 시간을 기다리는 상황은 없어야 합니다.

요청이 들어오기 전에 모델을 미리 내려받기

사람이 아닌 대상도 마찬가지입니다. Ollama 엔드포인트를 바라보는 코딩 에이전트는 요청한 로컬 모델이 내려받아져 있지 않으면 모델을 찾을 수 없다는 오류를 반환합니다. 추론 요청은 모델을 자동으로 내려받지 않기 때문입니다. 새 서버를 구축할 때는 서버를 설치하는 스크립트에 모델을 내려받는 명령을 함께 포함하십시오.

curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4

서버를 처음 구축하는 경우 VPS에 Ollama 전체 설치하기 문서를 참고하여 서비스 자체와 접근 권한을 설정하십시오. 그 후에는 터미널 세션이 종료되어도 유지되는 다운로드 방식을 설정하는 것이 좋습니다. 다운로드가 중간에 중단되면 모델 저장소가 불완전하게 채워지기 때문입니다.

tmux 내부에서 실행하거나, 부팅 시 한 번만 실행되는 systemd one-shot 유닛으로 등록하십시오. /etc/systemd/system/ollama-pull.service를 작성합니다.

[Unit]
Description=Pre-pull Ollama models
Wants=ollama.service network-online.target
After=ollama.service network-online.target

[Service]
Type=oneshot
RemainAfterExit=yes
ExecStart=/bin/sh -c 'until ollama list >/dev/null 2>&1; do sleep 2; done'
ExecStart=/bin/sh -c 'ollama pull gemma4'

[Install]
WantedBy=multi-user.target

두 명령어 모두 의도적으로 /bin/sh -c을 거쳐 실행됩니다. 단순히 ExecStart=만 사용하면 절대 경로를 입력하거나 systemd의 고정된 검색 경로에서 실행 파일을 찾습니다. command -v ollama를 입력하면 현재 셸이 인식하는 경로를 확인할 수 있습니다. 셸을 거치면 가이드에서 복사한 경로 대신 서비스의 PATH 환경 변수를 사용하게 됩니다. 첫 번째 ExecStart도 중요합니다. After=ollama.service는 서버 유닛이 시작되었다는 의미이지, 서비스가 준비되었다는 뜻은 아닙니다. 따라서 루프를 사용하여 ollama list가 응답할 때까지 기다린 후 내려받기를 시작합니다.

sudo systemctl daemon-reload
sudo systemctl enable --now ollama-pull.service
journalctl -u ollama-pull.service

저널 로그를 확인하면 오류 없이 내려받기가 완료된 것을 볼 수 있으며, ollama list을 실행하면 모델이 표시됩니다. 태그가 업데이트되는 모델을 최신 상태로 유지하려면 systemd 타이머나 주간 cron 항목을 추가하여 동일한 내려받기 명령을 실행하십시오. 업데이트된 태그를 다시 내려받으면 새로운 레이어가 다운로드되며, 대부분의 모델은 내려받기가 끝날 때 사용하지 않는 이전 레이어를 자동으로 삭제합니다.

풀(pull) 작업이 중단되면 발생하는 일

모델의 각 레이어는 해당 콘텐츠의 해시값으로 저장됩니다. 따라서 풀 작업이 중단되어도 작업이 헛수고가 되지는 않습니다. 동일한 ollama pull 명령을 다시 실행하면 이미 완료된 레이어는 인식되어 건너뛰게 되며, 중단되었던 레이어부터 다운로드가 계속됩니다.

이러한 진행 상황을 무효화하는 동작이 하나 있습니다. Ollama 서버가 시작될 때, 어떤 모델 매니페스트에서도 참조하지 않는 부분 다운로드 파일과 저장된 레이어를 삭제하는데, 중단된 풀 작업으로 남은 조각들이 바로 이에 해당합니다. 현재 릴리스(0.40.11, 2026년 10월 26일 기준)에서는 마지막 1시간 이내에 작성된 파일은 건너뛰므로 풀 작업이 중단된 직후에 재시작하는 것은 문제가 없으나, 몇 시간 뒤에 재시작하면 이미 다운로드한 조각이 삭제됩니다. 풀 작업을 먼저 재시도한 후 나중에 재시작하십시오. 부분 다운로드 파일이 재시작 후에도 반드시 유지되어야 한다면 서비스 환경 변수에 OLLAMA_NOPRUNE=1을 설정하십시오. 단, 작업 후에는 다시 제거해야 합니다. 해당 변수는 각 풀 작업 종료 시 수행되는 정리 작업도 비활성화하는데, 이 정리 작업들이 디스크에 고아 레이어가 쌓이지 않게 막아주는 역할을 하기 때문입니다.

풀 작업이 no space left on device 오류로 중단되었다면 재시도하기 전에 여유 공간을 확보하십시오. df 명령으로 디스크가 꽉 찼다고 나오는데 모델 디렉터리의 du 결과로는 그만큼의 용량이 확인되지 않는다면, 공간을 점유하는 다른 원인이 있는 것입니다. 무언가를 삭제하기 전에 df와 du의 결과가 일치하지 않는 이유를 읽어보는 것이 좋습니다.

Ollama는 VPS의 어디에 모델을 저장합니까?

어떤 가이드의 경로를 맹신하기보다 직접 서버에서 확인하십시오. 설치 방식이 패키지인지 컨테이너인지에 따라 위치가 다르며, 누군가 OLLAMA_MODELS을 설정했다면 또 달라집니다.

systemctl cat ollama.service
getent passwd ollama
sudo find / -xdev -type d -name blobs 2>/dev/null

systemctl cat은 모든 드롭인 파일을 포함한 유닛 파일을 출력하므로, 사용자가 설정했거나 이미지에 포함된 OLLAMA_MODELS 라인이 있다면 그곳에서 확인할 수 있습니다. 별도의 설정이 없다면 서비스가 실행되는 계정의 홈 디렉터리 아래에 저장되며, getent passwd은 콜론으로 구분된 여섯 번째 필드에서 해당 홈 디렉터리를 출력합니다. find은 파일 시스템에서 blobs 디렉터리를 검색하며, 실제 레이어 파일은 이곳에 기록됩니다. 모델이 이미 별도의 마운트 지점에 있을 수 있다면 -xdev을 생략하십시오.

이제 직접 측정하고 수치를 확인하십시오:

ollama list
df -h /
sudo du -sh /the/directory/you/found
sudo du -h -d1 /the/directory/you/found

저장소에는 두 가지 종류의 콘텐츠가 있습니다. 매니페스트 디렉터리(manifests, 최신 릴리스에서는 manifests-v2로 통합됨)에는 각 모델 태그를 구성하는 레이어 목록이 담긴 작은 파일들이 저장됩니다. blobs에는 레이어 자체가 저장되며, 각 파일은 콘텐츠의 해시값으로 이름이 지정됩니다. 전체 용량의 대부분은 여기서 차지합니다. 레이어는 태그 간에 공유되므로, 동일한 가중치를 기반으로 빌드된 두 모델은 ollama list에서 각각 자신의 크기를 보고하지만 실제 디스크 공간은 한 번만 차지합니다. 따라서 나열된 크기의 합계가 du이 보고하는 디렉터리 크기보다 클 수 있습니다. 반대로 Ollama 0.40.2 버전에서는 예상치 못한 상황이 발생할 수 있습니다. 백그라운드에서 업그레이드된 모델은 원본 복사본을 백업으로 디스크에 남겨두는데, ollama list는 이를 두 번 보여주지 않으므로 du은 목록에서 예상하는 것보다 훨씬 큰 용량을 보고할 수 있습니다. 0.40.2 릴리스 노트에는 이러한 백업 파일만 삭제하는 스크립트가 포함되어 있습니다.

모델 파일은 설치할 수 있는 그 어떤 항목보다 빠르게 소규모 VPS의 루트 파일 시스템을 가득 채웁니다. 모델 크기를 결정하는 가장 큰 요소는 가중치 형식입니다. q4, q8, fp16 선택하기를 통해 모델당 기가바이트 단위의 용량을 절약할 수 있습니다.

OLLAMA_MODELS를 사용하여 모델을 데이터 볼륨으로 이동하기

플랜에 두 번째 디스크나 더 큰 데이터 볼륨이 있다면 루트 파일시스템이 가득 차기 전에 저장소를 이동하십시오. 서버를 먼저 중지하여 쓰기 작업 중인 파일이 복사되지 않도록 합니다.

sudo systemctl stop ollama
sudo mkdir -p /mnt/data/ollama-models
sudo rsync -a /the/directory/you/found/ /mnt/data/ollama-models/
sudo chown -R ollama:ollama /mnt/data/ollama-models
sudo systemctl edit ollama.service

systemctl edit는 드롭인 파일에서 편집기를 엽니다. 이렇게 하면 패키지된 유닛은 그대로 유지되므로 패키지 업그레이드 시 변경 사항이 덮어쓰이지 않습니다. 다음 두 줄을 추가하십시오.

[Service]
Environment="OLLAMA_MODELS=/mnt/data/ollama-models"
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment
ollama list

systemctl show은 새로운 경로를 출력해야 하며, ollama list는 이동 전과 동일한 모델을 보여주어야 합니다. 목록이 비어 있다면 새로운 디렉터리에 복사된 저장소가 포함되어 있는지, 그리고 서버가 해당 디렉터리를 읽을 수 있는지 확인하십시오. 서비스는 ollama 사용자로 실행되므로, 해당 사용자는 대상 경로에 대한 읽기 및 쓰기 권한이 필요합니다. 이는 위에서 언급한 chown 라인의 역할입니다. 새로운 경로를 가리키는 권한 오류가 있는지 journalctl -e -u ollama을 확인하십시오. 이동이 실패한 상태에서 원본을 삭제하면 모든 데이터를 다시 다운로드해야 하므로, 목록이 올바르게 표시된 후에만 이전 복사본을 삭제하십시오.

다른 방법은 원래 경로를 유지하고 그 위에 데이터 볼륨을 마운트하는 것입니다.

echo '/mnt/data/ollama-models /the/directory/you/found none bind 0 0' | sudo tee -a /etc/fstab
sudo mount -a
findmnt /the/directory/you/found
df -h /

findmnt이 마운트 정보를 출력하면 바인드 마운트가 활성화된 것입니다. 바인드 마운트는 시스템의 다른 요소가 이미 기본 위치를 참조하고 있을 때 유용합니다. 주의할 점이 하나 있습니다. 복사해 낸 파일들은 여전히 루트 디스크의 마운트 지점 아래에 남아 있으며 마운트에 의해 가려져 있을 뿐입니다. 따라서 마운트를 해제하고 파일을 삭제하기 전까지는 디스크 공간이 확보되지 않습니다. 환경 변수를 사용하는 방식이 다음에 로그인할 사용자에게 설명하기 더 쉽습니다.

컨테이너가 데이터를 보관하는 위치

공식 이미지는 사용자가 마운트한 곳에 모델을 저장하며, ollama 사용자의 호스트 디렉터리를 사용하지 않습니다. 문서화된 실행 명령은 다음과 같습니다.

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

콜론 앞의 ollama은 명명된 Docker 볼륨이며, /root/.ollama는 컨테이너 내부에서 서버가 데이터를 기록하는 경로입니다. 따라서 이전 섹션의 경로를 대상으로 du를 실행해도 아무것도 찾을 수 없습니다. 실제 위치와 크기를 확인하려면 다음을 실행하십시오.

docker volume inspect ollama
docker system df -v
docker exec -it ollama ollama list

docker volume inspect에서 Mountpoint 필드를 읽은 뒤, 해당 경로를 대상으로 sudo du -sh을 실행하십시오. 모델을 데이터 볼륨에 저장하려면 명명된 볼륨을 호스트 디렉터리(-v /mnt/data/ollama:/root/.ollama)로 교체하고 컨테이너를 다시 생성하십시오. 컨테이너는 root 권한으로 기록하므로 해당 호스트 디렉터리의 소유자는 root가 됩니다. rootless Podman 환경에서는 컨테이너의 root가 기본적으로 호스트 사용자의 UID 및 GID로 매핑되며, 다른 컨테이너 ID는 하위 범위를 사용합니다. rootless Podman에서 Ollama 실행하기에서 해당 매핑을 다룹니다.

정리 작업 시 주의사항이 있습니다. 단순히 docker volume prune을 실행하면 익명 볼륨만 제거되므로 명명된 ollama 볼륨은 유지됩니다. 하지만 docker volume prune --all는 컨테이너가 참조하지 않는 모든 볼륨을 제거하며, 여기에는 명명된 볼륨도 포함됩니다. 볼륨 없이 ollama 컨테이너를 제거하거나 다시 생성한 뒤 prune --all을 실행하면 다운로드한 모든 모델이 삭제되며, 다시 다운로드하는 방법 외에는 복구할 수 없습니다. 모델을 호스팅하는 서버에서 prune 명령을 실행하기 전에 VPS에서 Docker 디스크 사용량 정리하기를 읽어보십시오.

ollama rm을 사용하여 모델 삭제하기 (rm 명령어 사용 금지)

ollama list
ollama rm gemma4
ollama list
df -h /

ollama rm은 해당 태그의 매니페스트를 삭제한 뒤, 더 이상 어떤 매니페스트도 참조하지 않는 레이어를 삭제합니다. 해당 파일들의 연결이 해제되는 즉시 디스크 공간이 확보되므로 df는 즉시 반영됩니다. 레이어는 공유되기 때문에, 밀접하게 연관된 두 태그 중 하나를 삭제해도 ollama list 옆에 표시된 크기보다 훨씬 적은 공간만 확보될 수 있습니다. 이는 삭제 실패가 아니라 정상적인 동작입니다.

파일을 직접 삭제하면 이 쌍이 깨집니다. rm로 블롭(blob)을 삭제해도 매니페스트에는 여전히 해당 항목이 남아 있으므로, ollama list는 계속해서 모델을 표시하며 누락된 레이어를 읽으려 할 때마다 사용 시도가 실패합니다. 매니페스트를 직접 삭제하면 레이어는 디스크에 그대로 남지만 이를 가리키는 항목이 없어지며, Ollama 명령어로도 확인할 수 없는 공간을 차지하게 됩니다. 이미 블롭을 삭제했다면 해당 태그에 대해 ollama rm을 실행하여 남은 항목을 정리하십시오. 매니페스트를 삭제했다면 삭제할 태그 항목조차 남지 않게 됩니다. 서버를 재시작하면 1시간 이상 경과한, 참조되지 않는 레이어들이 정리됩니다.

마지막으로, 두 개념이 자주 혼동되므로 명확히 구분해야 합니다. ollama rm은 디스크와 관련이 있습니다. ollama stop gemma4은 메모리에서 모델을 내릴 뿐 디스크 공간을 전혀 확보하지 않습니다. 다운로드가 완료된 후 모델이 RAM에 얼마나 오래 상주할지는 별도의 설정이며, 요청마다 모델을 다시 불러오지 않고 상주시키는 방법에서 다룹니다.

FAQ

ollama pull과 ollama run의 차이점은 무엇입니까?

ollama pull는 모델을 디스크에 다운로드한 뒤 종료합니다. ollama run은 모델이 디스크에 있는지 확인하고, 없으면 다운로드한 다음 메모리에 로드합니다. 채팅 모델인 경우 대화형 세션을 엽니다. 두 명령어 모두 같은 디렉터리에 동일한 파일을 기록합니다. 프로비저닝이나 스크립트에는 pull을 사용하고, 사용자가 직접 조작할 때는 run를 사용하십시오. ollama run <model> "your prompt"은 프롬프트 하나를 전송하고 종료하며, 이는 run를 스크립트에서 사용하기 적합하게 만든 형태입니다.

ollama run을 처음 실행하면 왜 멈춘 것처럼 보입니까?

모델을 다운로드하거나, 다운로드한 파일을 검증하거나, 메모리에 로드하는 중일 수 있습니다. 모델이 디스크에 저장되고 메모리에 로드되기 전까지는 채팅 프롬프트가 나타나지 않으며, 모델 크기는 수 기가바이트에 달합니다. Ollama는 진행률 표시줄을 표준 에러(standard error)로 출력하므로, 해당 스트림을 버리는 스크립트 내부나 cron 작업에서 run를 실행하면 작업 중 아무런 정보도 볼 수 없습니다. 두 번째 세션을 열고 watch -n5 df -h /을 실행하십시오. 새로 설치한 환경이라면 여유 공간이 단계적으로 줄어드는 것으로 다운로드가 진행 중임을 알 수 있습니다. 다운로드와 검증 대기 시간을 없애려면 모델을 미리 pull 하십시오. 다만, 로드하는 데는 여전히 시간이 걸립니다.

Ollama는 모델을 어디에 저장합니까?

저장 위치는 설치 방식에 따라 다르므로 추측하지 말고 직접 확인해야 합니다. systemctl cat ollama.service을 실행하여 unit 파일이나 drop-in 파일에 OLLAMA_MODELS이 설정되어 있는지 확인하십시오. 설정되어 있지 않다면 서비스가 실행되는 계정의 홈 디렉터리 아래에 저장되며, getent passwd ollama를 통해 확인할 수 있습니다. sudo find / -xdev -type d -name blobs 2>/dev/null은 레이어 디렉터리 위치를 직접 알려줍니다. 컨테이너 이미지의 경우 저장소는 마운트된 볼륨 내부에 있으며, docker volume inspect ollama은 호스트의 Mountpoint 경로를 출력합니다.

Ollama 모델을 다른 디스크로 옮기려면 어떻게 합니까?

서비스를 중지하고 rsync -a을 사용하여 저장소를 새 위치로 복사한 뒤, sudo chown -R ollama:ollama <directory>를 사용하여 해당 디렉터리의 소유권을 서비스 계정으로 변경하십시오. 그 후 sudo systemctl edit ollama.service를 실행하여 [Service] 라인 아래에 Environment="OLLAMA_MODELS=<directory>"을 추가합니다. sudo systemctl daemon-reload로 설정을 다시 불러온 뒤 서비스를 재시작하십시오. systemctl show ollama --property=Environment와 ollama list으로 확인합니다. 목록이 비어 있다면 새 디렉터리에 복사된 저장소가 있는지, ollama 사용자가 읽을 수 있는지 확인하십시오. 권한 오류는 journalctl -e -u ollama에서 확인할 수 있습니다.

모델 파일을 삭제하면 공간이 확보됩니까?

파일을 직접 삭제하면 용량은 확보되지만 저장소의 일관성이 깨집니다. blob을 삭제해도 매니페스트에는 해당 모델이 남아 있어 ollama list 목록에 계속 표시되며, 사용 시 오류가 발생합니다. 매니페스트를 삭제하면 참조하는 곳이 없는 레이어들이 디스크에 남게 됩니다. 매니페스트를 삭제하고 다른 모델이 사용하지 않는 레이어까지 정리해 주는 ollama rm <model>를 사용하십시오. 만약 blob을 이미 수동으로 삭제했다면, 해당 태그에 ollama rm를 실행하여 항목을 정리하십시오. 매니페스트가 이미 삭제되었다면 제거할 태그 항목이 남아 있지 않습니다. 서버를 재시작하면 참조하는 매니페스트가 없는 레이어 중 생성된 지 1시간이 지난 것들이 삭제됩니다.

이 글이 도움이 되었나요?