SSD Nodes Learn Hosting plans →
Panduan Matt ConnorOleh Matt Connor

Ollama pull vs run dan lokasi penyimpanan model

Pahami beda ollama pull yang berhenti dan ollama run yang membuka chat, termasuk error embedding models require input text serta cara memindahkan model dari disk root VPS.

ollama pull vs ollama run

ollama pull mengunduh model lalu berhenti. Untuk model chat lokal, ollama run hanya mengunduh model jika belum tersedia, kemudian memuatnya ke memori dan membuka chat interaktif. Proses pengunduhannya sama dan file disimpan di lokasi yang sama. Hanya run yang terus berjalan setelah itu. Model embedding merupakan pengecualian untuk bagian chat: dokumentasi resmi menunjukkan ollama run embeddinggemma "Hello world" mencetak embedding sebagai array JSON, bukan sebagai balasan. Tanpa teks input, ollama run menolak model embedding dengan embedding models require input text.

Perbedaan ini menentukan perintah yang digunakan dalam skrip dan perintah yang digunakan pada terminal secara interaktif.

ollama pull gemma4
ollama run gemma4
ollama run gemma4 "Reply with one word: ready"

Baris pertama mengambil model lalu keluar, sehingga aman digunakan dalam provisioning dan unit systemd. Baris kedua membuka sesi chat; ketik /bye atau tekan Ctrl+D untuk mengakhirinya. Baris ketiga mengirim satu prompt, mencetak jawaban, lalu keluar. Bentuk ini sesuai untuk skrip yang memerlukan jawaban, bukan sesi interaktif. Bentuk ketiga tersebut tetap menyerahkan panjang jawaban sepenuhnya kepada model. Karena itu, pertanyaan satu baris dapat menghasilkan tiga paragraf. membatasi jawaban dengan num_predict menjaga run dalam ukuran yang benar-benar dapat digunakan oleh pemanggil. Nama model berubah dengan cepat, jadi anggap gemma4 di sini sebagai placeholder. Nama tersebut adalah contoh yang digunakan dalam dokumentasi resmi Ollama per Oktober 2026. Ganti dengan model chat lokal lain untuk alur kerja yang sama. Tag yang diakhiri :cloud, seperti gemma4:cloud, berbeda: Ollama menjalankannya di servernya sendiri tanpa mengunduh bobot model. Karena itu, penggunaan ruang disk di bawah hanya berlaku untuk model lokal. Jika Anda ingin mengganti model dengan model yang telah diuji berdasarkan spesifikasi server nyata, menjalankan Nemotron 3.5 Lightning pada VPS memberikan tag yang tepat untuk di-pull dan kapasitas memori yang perlu tersedia.

Mengapa eksekusi ollama pertama tampak macet

Eksekusi pertama run pada VPS baru dapat berhenti tanpa menampilkan output selama beberapa menit. Tidak ada yang rusak. Prompt chat tidak dapat ditampilkan sampai model tersimpan di disk dan dimuat ke memori, sehingga run sedang mengunduh beberapa gigabita data sebelum menampilkan apa pun.

Ada dua hal yang menyembunyikan proses tersebut. Ollama menulis bilah progres ke standard error. Karena itu, jika stream tersebut dibuang atau baru dibaca setelah proses selesai, misalnya pada skrip yang diakhiri dengan 2>/dev/null atau pada cron job, tidak ada indikasi bahwa pengunduhan sedang berlangsung. Setelah seluruh data tersimpan, file masih harus dibaca dari disk ke RAM sebelum token pertama dihasilkan. Pada VPS kecil, proses ini berlangsung lambat. Jika mesin tidak memiliki memori yang cukup untuk model, kernel mulai menggunakan swap dan waktu tunggu menjadi jauh lebih lama.

Pantau proses tersebut dari sesi kedua, bukan dengan menebak:

df -h /
watch -n5 df -h /

Pada mesin baru, ruang kosong yang berkurang secara bertahap menunjukkan bahwa pengunduhan masih berlangsung. Ruang kosong yang berhenti berkurang saat perintah masih sibuk tidak membuktikan bahwa proses pemuatan sudah dimulai. Setelah mengunduh, Ollama menjalankan fase verifying sha256 digest terpisah yang membaca file sebelum menulis manifest dan menyelesaikan proses pull. Mesin yang sudah menyimpan model dapat memberikan gambaran yang keliru pada Ollama 0.40.2. Eksekusi pertama model yang diunduh dengan versi lama menulis salinan yang telah diperbarui di latar belakang dan mempertahankan salinan asli sebagai cadangan. Akibatnya, ruang kosong dapat berkurang tanpa adanya pengunduhan. Ollama 0.40.3, yang dirilis pada 11 October 2026, menghentikan proses pembaruan di latar belakang tersebut.

Inilah alasan Anda sebaiknya menjalankan pull terlebih dahulu. Orang yang mengetik ollama run seharusnya tidak menjadi pihak yang menunggu proses pengunduhan.

Unduh model sebelum ada yang memintanya

Hal yang sama berlaku untuk apa pun yang bukan manusia: coding agent yang diarahkan ke endpoint Ollama Anda akan menerima error model-not-found jika model lokal yang diminta belum diunduh; inference request tidak akan mengunduhnya. Pada server baru, lakukan pull dalam script yang sama dengan script untuk menginstal server:

curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4

Jika Anda menyiapkan server untuk pertama kalinya, panduan lengkap instalasi Ollama pada VPS membahas service itu sendiri dan pihak yang diizinkan untuk mengaksesnya. Setelah itu, langkah yang perlu disiapkan adalah proses pull yang tetap berjalan setelah terminal ditutup, karena unduhan yang terhenti di tengah jalan dapat membuat model store hanya terisi sebagian.

Jalankan proses tersebut di dalam tmux, atau serahkan kepada systemd sebagai unit one-shot yang berjalan saat boot. Tulis /etc/systemd/system/ollama-pull.service:

[Unit]
Description=Pre-pull Ollama models
Wants=ollama.service network-online.target
After=ollama.service network-online.target

[Service]
Type=oneshot
RemainAfterExit=yes
ExecStart=/bin/sh -c 'until ollama list >/dev/null 2>&1; do sleep 2; done'
ExecStart=/bin/sh -c 'ollama pull gemma4'

[Install]
WantedBy=multi-user.target

Kedua command sengaja dijalankan melalui /bin/sh -c. ExecStart= tanpa argumen tambahan menerima absolute path atau nama executable sederhana yang dicari melalui fixed search path milik systemd; command -v ollama menampilkan path yang ditemukan oleh shell Anda saat ini. Penggunaan shell membuat proses memakai PATH milik service, bukan path yang disalin dari sebuah panduan. ExecStart pertama juga penting: After=ollama.service berarti unit server sudah dimulai, bukan berarti server sudah siap, sehingga loop menunggu hingga ollama list memberikan respons sebelum pull dimulai.

sudo systemctl daemon-reload
sudo systemctl enable --now ollama-pull.service
journalctl -u ollama-pull.service

Journal seharusnya menunjukkan bahwa proses pull selesai tanpa error, dan ollama list kemudian seharusnya menampilkan model tersebut. Untuk menjaga tag yang terus berubah tetap mutakhir, tambahkan systemd timer atau entri cron mingguan yang menjalankan pull yang sama. Menjalankan pull ulang untuk tag yang telah berubah akan mengunduh layer baru dan, pada sebagian besar model, menghapus layer lama yang tidak lagi digunakan apa pun pada akhir pull yang sama.

Apa yang terjadi ketika pull terhenti

Setiap layer model disimpan berdasarkan hash dari kontennya sendiri. Karena itu, pull yang terhenti tidak membuang pekerjaan yang sudah dilakukan: jalankan kembali ollama pull yang sama, lalu layer yang sudah selesai akan dikenali dan dilewati sehingga pengunduhan dilanjutkan dari layer yang terputus.

Satu tindakan dapat menghapus progres tersebut. Saat server Ollama dimulai, server menghapus unduhan parsial dan layer tersimpan yang tidak dirujuk oleh manifest model mana pun. Potongan yang ditinggalkan oleh pull yang terhenti termasuk dalam kategori tersebut. Rilis saat ini (0.40.11, diperiksa pada 26 October 2026) melewati file yang ditulis dalam satu jam terakhir. Karena itu, restart segera setelah pull terhenti tidak menimbulkan masalah, tetapi restart beberapa jam kemudian akan membuang potongan yang sudah diunduh. Coba pull kembali terlebih dahulu, lalu lakukan restart. Jika unduhan parsial benar-benar harus tetap ada setelah restart, tetapkan OLLAMA_NOPRUNE=1 di environment service, lalu hapus kembali setelahnya. Variabel tersebut juga menonaktifkan pembersihan pada akhir setiap pull. Kedua proses pembersihan itu diperlukan agar layer yatim tidak menumpuk di disk.

Jika pull terhenti dengan no space left on device, kosongkan ruang sebelum mencoba kembali. Jika df melaporkan disk penuh dan du pada direktori model tidak menjelaskan penggunaan tersebut, berarti ruang itu digunakan di lokasi lain. Baca alasan df dan du memberikan hasil berbeda sebelum menghapus apa pun.

Di mana Ollama menyimpan model pada VPS?

Periksa server Anda sendiri, bukan mengandalkan path dari panduan mana pun, termasuk panduan ini. Lokasinya berbeda antara instalasi paket dan container. Lokasi tersebut juga berubah jika seseorang telah menetapkan OLLAMA_MODELS.

systemctl cat ollama.service
getent passwd ollama
sudo find / -xdev -type d -name blobs 2>/dev/null

systemctl cat menampilkan unit file beserta semua drop-in. Dengan demikian, baris OLLAMA_MODELS yang Anda tetapkan atau yang sudah disertakan dalam image akan terlihat di sana. Jika baris tersebut tidak ada, penyimpanan berada di bawah home directory akun yang menjalankan service. getent passwd menampilkan home directory tersebut pada field keenam yang dipisahkan oleh titik dua. find mencari direktori blobs pada satu filesystem. Di sanalah layer sebenarnya ditulis. Hapus -xdev jika model mungkin sudah berada pada mount terpisah.

Selanjutnya, ukur penggunaannya dan baca hasil Anda sendiri:

ollama list
df -h /
sudo du -sh /the/directory/you/found
sudo du -h -d1 /the/directory/you/found

Penyimpanan ini berisi dua jenis konten. Direktori manifest (manifests, yang digabungkan oleh manifests-v2 pada rilis saat ini) berisi file-file kecil yang mencatat layer penyusun setiap model tag. blobs berisi layer itu sendiri. Setiap layer diberi nama berdasarkan hash kontennya, dan hampir seluruh penggunaan ruang berada di sana. Karena layer digunakan bersama oleh beberapa tag, dua model yang dibangun dari weight yang sama masing-masing melaporkan ukurannya sendiri dalam ollama list, meskipun ruang tersebut hanya digunakan sekali pada disk. Oleh karena itu, ukuran yang tercantum dapat berjumlah lebih besar daripada ukuran yang dilaporkan du untuk direktori tersebut. Kejutan sebaliknya muncul pada Ollama 0.40.2: model yang diperbarui di background menyimpan salinan aslinya pada disk sebagai backup. Salinan ini tidak ditampilkan dua kali oleh ollama list, sehingga du dapat melaporkan ukuran yang jauh lebih besar daripada hasil daftar. Catatan rilis 0.40.2 menyertakan script yang hanya menghapus backup tersebut.

File model dapat memenuhi root filesystem VPS kecil lebih cepat daripada hampir semua hal lain yang mungkin Anda instal. Faktor terbesar yang menentukan ukurannya adalah format weight. Memilih antara q4, q8, dan fp16 dapat menghemat atau menggunakan beberapa gigabyte per model.

Pindahkan model ke volume data dengan OLLAMA_MODELS

Jika rencana Anda mencakup disk kedua atau volume data yang lebih besar, pindahkan penyimpanan sebelum filesystem root penuh. Hentikan server terlebih dahulu agar Anda tidak menyalin file yang masih sedang ditulis.

sudo systemctl stop ollama
sudo mkdir -p /mnt/data/ollama-models
sudo rsync -a /the/directory/you/found/ /mnt/data/ollama-models/
sudo chown -R ollama:ollama /mnt/data/ollama-models
sudo systemctl edit ollama.service

systemctl edit membuka editor pada file drop-in. Dengan demikian, unit yang disediakan paket tetap tidak berubah dan pembaruan paket tidak dapat menimpa perubahan Anda. Tambahkan dua baris berikut:

[Service]
Environment="OLLAMA_MODELS=/mnt/data/ollama-models"
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment
ollama list

systemctl show harus menampilkan path baru, dan ollama list harus menampilkan model yang sama seperti sebelum pemindahan. Jika daftarnya kosong, pastikan direktori baru berisi penyimpanan yang telah disalin dan server dapat membacanya. Service berjalan sebagai pengguna ollama, sehingga pengguna tersebut memerlukan akses baca dan tulis ke tujuan. Akses ini diatur oleh baris chown di atas. Periksa journalctl -e -u ollama untuk melihat error izin yang menyebutkan path baru. Hapus salinan lama hanya setelah daftar model sudah benar. Pemindahan yang gagal lalu diikuti penghapusan sumber akan mengharuskan Anda mengunduh semuanya lagi.

Pilihan lain mempertahankan path asli dan memasang volume data pada path tersebut:

echo '/mnt/data/ollama-models /the/directory/you/found none bind 0 0' | sudo tee -a /etc/fstab
sudo mount -a
findmnt /the/directory/you/found
df -h /

Jika findmnt menampilkan mount tersebut, berarti bind mount sudah aktif. Bind mount berguna jika ada komponen lain pada server yang sudah mengharapkan lokasi default. Namun, ada satu hal yang perlu diperhatikan: file yang Anda salin masih berada di bawah mount point pada disk root dan tersembunyi oleh mount tersebut. Ruang disk tidak akan tersedia kembali sampai Anda melakukan unmount dan menghapus file-file itu. Variabel lingkungan lebih mudah dijelaskan kepada pengguna yang masuk setelahnya.

Tempat penyimpanan container

Image resmi menyimpan model di lokasi yang Anda mount, bukan di direktori host mana pun milik pengguna ollama. Perintah run yang didokumentasikan adalah:

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

ollama sebelum tanda titik dua adalah named Docker volume, sedangkan /root/.ollama adalah lokasi tempat server menulis di dalam container. Karena itu, du terhadap path dari bagian sebelumnya tidak menemukan apa pun. Tidak ada data di sana. Tampilkan lokasi dan ukurannya yang sebenarnya:

docker volume inspect ollama
docker system df -v
docker exec -it ollama ollama list

Baca field Mountpoint dari docker volume inspect, lalu jalankan sudo du -sh terhadap lokasi tersebut. Untuk menyimpan model pada data volume, ganti named volume dengan direktori host (-v /mnt/data/ollama:/root/.ollama), lalu buat ulang container. Container menulis sebagai root, sehingga direktori host tersebut akan dimiliki oleh root. Dalam rootless Podman, root di dalam container secara default dipetakan ke UID dan GID pengguna host Anda, sedangkan ID container lainnya menggunakan rentang subordinate: menjalankan Ollama dengan rootless Podman membahas pemetaan tersebut.

Perhatikan satu hal terkait pembersihan. docker volume prune biasa hanya menghapus anonymous volume, sehingga named ollama volume tetap ada. Namun, docker volume prune --all menghapus setiap volume yang tidak dirujuk oleh container mana pun, termasuk named volume. Jika Anda menghapus atau membuat ulang container ollama tanpa volume-nya, prune --all berikutnya akan menghapus semua model yang telah Anda unduh. Tidak ada cara untuk memulihkannya selain mengunduhnya lagi. Baca cara memangkas penggunaan disk Docker pada VPS sebelum menjalankan prune pada server yang menyimpan model.

Hapus model dengan ollama rm, bukan dengan rm

ollama list
ollama rm gemma4
ollama list
df -h /

ollama rm menghapus manifest untuk tag tersebut, lalu menghapus layer yang tidak lagi dirujuk oleh manifest mana pun. Ruang disk tersedia kembali segera setelah file-file tersebut di-unlink, sehingga df langsung mencerminkan perubahan. Karena layer digunakan bersama, menghapus salah satu dari dua tag yang sangat terkait dapat membebaskan ruang yang jauh lebih kecil daripada ukuran yang tercetak di sampingnya, yaitu ollama list. Ini adalah perilaku yang benar, bukan kegagalan penghapusan.

Menghapus file secara manual merusak pasangan tersebut. Hapus blob dengan rm, tetapi manifest masih mencantumkannya. Akibatnya, ollama list tetap menampilkan model dan setiap upaya untuk menggunakannya gagal saat layer yang hilang dibaca. Hapus manifest secara manual, tetapi layer-nya tetap tersimpan di disk tanpa rujukan apa pun. Layer tersebut tetap menggunakan ruang yang tidak akan dilaporkan oleh perintah Ollama mana pun. Jika Anda sudah menghapus blob, jalankan ollama rm pada tag tersebut untuk menghapus entri yang tersisa. Jika Anda menghapus manifest, tidak ada lagi entri tag yang dapat dihapus. Me-restart server akan menghapus layer yang tidak memiliki rujukan setelah layer tersebut berusia lebih dari satu jam.

Ada satu perbedaan terakhir karena keduanya sering tertukar. ollama rm berkaitan dengan disk. ollama stop gemma4 mengeluarkan model dari memori dan sama sekali tidak membebaskan ruang disk. Durasi model tetap berada di RAM setelah pengunduhan selesai merupakan pengaturan terpisah. Mempertahankan model tetap dimuat daripada memuatnya ulang pada setiap permintaan membahas pengaturan tersebut.

FAQ

Apa perbedaan antara ollama pull dan ollama run?

ollama pull mengunduh model ke disk lalu keluar. ollama run memeriksa apakah model sudah ada di disk, mengunduhnya jika belum ada, memuatnya ke memori, lalu untuk model chat membuka sesi chat interaktif. Keduanya menulis file yang sama ke direktori yang sama. Gunakan pull dalam provisioning dan skrip, lalu gunakan run ketika seseorang bekerja langsung di terminal. ollama run <model> "your prompt" mengirim satu prompt lalu keluar. Ini adalah bentuk run yang dapat digunakan dalam skrip.

Mengapa ollama run pertama saya tampak macet?

Prosesnya mungkin sedang mengunduh, memverifikasi unduhan, atau memuat model. Prompt chat tidak dapat muncul sebelum model tersimpan di disk dan dimuat ke memori. Ukuran model dapat mencapai beberapa gigabyte. Ollama menulis progress bar ke standard error. Karena itu, run di dalam skrip yang membuang stream tersebut, atau di dalam cron job, tidak menampilkan apa pun selama proses berjalan. Buka sesi kedua dan jalankan watch -n5 df -h /. Pada mesin yang baru disiapkan, ruang kosong yang berkurang secara bertahap menunjukkan bahwa unduhan sedang berlangsung. Pull model terlebih dahulu untuk menghilangkan waktu tunggu pengunduhan dan verifikasi. Proses pemuatan tetap memerlukan waktu.

Di mana Ollama menyimpan modelnya?

Lokasinya bergantung pada metode instalasi. Karena itu, tampilkan lokasinya, bukan mengasumsikannya. Jalankan systemctl cat ollama.service untuk melihat apakah OLLAMA_MODELS ditetapkan dalam unit atau drop-in. Jika tidak, penyimpanan berada di bawah direktori home akun yang digunakan service untuk berjalan. getent passwd ollama menampilkan akun tersebut. sudo find / -xdev -type d -name blobs 2>/dev/null menemukan direktori layer secara langsung. Untuk container image, penyimpanan berada di dalam volume yang di-mount. docker volume inspect ollama menampilkan Mountpoint pada host.

Bagaimana cara memindahkan model Ollama ke disk lain?

Hentikan service. Salin penyimpanan ke lokasi baru dengan rsync -a. Berikan kepemilikan direktori kepada akun service dengan sudo chown -R ollama:ollama <directory>. Jalankan sudo systemctl edit ollama.service, lalu tambahkan Environment="OLLAMA_MODELS=<directory>" di bawah baris [Service]. Muat ulang konfigurasi dengan sudo systemctl daemon-reload dan lakukan restart. Konfirmasikan dengan systemctl show ollama --property=Environment dan ollama list. Jika daftarnya kosong, periksa apakah direktori baru berisi penyimpanan yang telah disalin dan apakah user ollama dapat membacanya. Periksa journalctl -e -u ollama untuk melihat error izin.

Apakah menghapus file model membebaskan ruang disk?

Menghapus file secara manual memang membebaskan byte, tetapi membuat penyimpanan tidak konsisten. Jika sebuah blob dihapus, manifest masih mencantumkan model tersebut. Akibatnya, model tetap muncul di ollama list dan gagal saat digunakan. Jika sebuah manifest dihapus, layer-nya tetap berada di disk tanpa ada yang merujuknya. Gunakan ollama rm <model>. Perintah ini menghapus manifest, lalu menghapus layer yang tidak diperlukan model lain. Jika sebuah blob sudah dihapus secara manual, jalankan ollama rm pada tag tersebut untuk menghapus entrinya. Jika manifest sudah dihapus, tidak ada entri tag yang tersisa untuk dihapus. Restart server untuk menghapus layer yang tidak dirujuk oleh manifest mana pun setelah layer tersebut berusia lebih dari satu jam.

Apakah artikel ini bermanfaat?