ollama pull vs run: де зберігаються моделі
Порівняння ollama pull і ollama run: що завантажує кожна команда, помилка `embedding models require input text`, розташування файлів і перенесення з root диска VPS.
ollama pull vs ollama run
ollama pull завантажує модель і завершує роботу. Для локальної chat-моделі ollama run завантажує модель лише за потреби, потім завантажує її в пам’ять і відкриває інтерактивний чат. Завантаження відбувається однаково, а файли зберігаються в тому самому місці. Лише run продовжує роботу після цього. Для embedding-моделей частина з чатом є винятком: в офіційній документації показано, як ollama run embeddinggemma "Hello world" виводить embedding у форматі JSON-масиву, а не відповідь. Без вхідного тексту ollama run відхиляє embedding-модель із повідомленням embedding models require input text.
Ця відмінність визначає, яку команду використовувати у скрипті, а яку — в інтерактивному терміналі.
ollama pull gemma4
ollama run gemma4
ollama run gemma4 "Reply with one word: ready"Перший рядок завантажує модель і завершує роботу, тому його безпечно використовувати під час підготовки системи та в unit systemd. Друга команда відкриває сеанс чату; введіть /bye або натисніть Ctrl+D, щоб вийти. Третя команда надсилає один prompt, виводить відповідь і завершує роботу. Саме такий формат потрібен скрипту, коли він має отримати відповідь, а не відкрити сеанс. Ця третя форма все одно залишає довжину відповіді повністю на розсуд моделі. Тому на однорядкове запитання можна отримати три абзаци. Обмеження відповіді за допомогою num_predict дає змогу залишити scripted run у межах розміру, який фактично може використати викликач. Назви моделей швидко змінюються, тому вважайте gemma4 заповнювачем. Це приклад, який офіційна документація Ollama використовує станом на October 2026; для цього самого процесу підставте іншу локальну chat-модель. Теги, що закінчуються на :cloud, наприклад gemma4:cloud, відрізняються: Ollama запускає їх на власних серверах без завантаження ваг моделі, тому наведені нижче вимоги до дискового простору стосуються локальних моделей. Якщо ви хочете використати модель, параметри якої вже перевірено на реальному сервері, у матеріалі Запуск Nemotron 3.5 Lightning на VPS наведено точний тег для завантаження та обсяг пам’яті, який має бути доступний.
Чому перший запуск ollama виглядає завислим
Перший run на новому VPS може кілька хвилин не виводити нічого. Це не означає, що щось зламалося. Запрошення чату не з’явиться, доки модель не буде завантажена на диск і в пам’ять, тому run спочатку завантажує кілька гігабайтів даних і лише потім може щось показати.
Цю роботу приховують дві обставини. Ollama записує індикатор виконання у стандартний потік помилок, тому там, де цей потік відкидається або читається лише після завершення, наприклад у скрипті, який завершується командою 2>/dev/null, або в cron job, ви не бачите, що завантаження триває. Після запису даних на диск файл потрібно прочитати з диска в RAM, перш ніж з’явиться перший токен. На невеликому VPS це читання може бути повільним. Якщо на сервері недостатньо пам’яті для моделі, kernel починає використовувати swap, і очікування значно збільшується.
Спостерігайте за процесом із другої сесії, а не робіть припущення:
df -h /
watch -n5 df -h /На новому сервері поетапне зменшення вільного місця означає, що завантаження триває. Якщо вільне місце перестало зменшуватися, а команда все ще працює, це не доводить, що почалося завантаження моделі в пам’ять: після завантаження Ollama виконує окрему фазу verifying sha256 digest, під час якої читає файли, а потім записує manifest і завершує pull. Сервер, на якому моделі вже були збережені, може ввести в оману в Ollama 0.40.2: під час першого запуску моделі, завантаженої старішою версією, у фоновому режимі створювалася оновлена копія, а оригінал зберігався як резервна копія, тому вільне місце могло зменшуватися без нового завантаження. У Ollama 0.40.3, випущеній 11 October 2026, це фонове оновлення призупинили.
Саме тому моделі варто завантажувати заздалегідь. Користувач, який вводить ollama run, не повинен чекати завершення цього завантаження.
Завантажте модель до першого запиту
Те саме стосується всього, що не є людиною: coding agent, підключений до вашого Ollama endpoint, отримає помилку model-not-found, якщо запитувану локальну модель ще не завантажено; inference-запит не завантажує її. На новому сервері додайте завантаження до того самого скрипту, який встановлює сервер:
curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4Якщо ви вперше розгортаєте сервер, у повній інструкції зі встановлення Ollama на VPS описано сам сервіс і те, кому дозволено до нього підключатися. Після цього варто налаштувати завантаження, яке не залежить від вашого термінала, оскільки перерване посередині завантаження часто залишає сховище моделей заповненим лише частково.
Запустіть його всередині tmux або передайте systemd як one-shot unit, що запускається під час завантаження системи. Запишіть /etc/systemd/system/ollama-pull.service:
[Unit]
Description=Pre-pull Ollama models
Wants=ollama.service network-online.target
After=ollama.service network-online.target
[Service]
Type=oneshot
RemainAfterExit=yes
ExecStart=/bin/sh -c 'until ollama list >/dev/null 2>&1; do sleep 2; done'
ExecStart=/bin/sh -c 'ollama pull gemma4'
[Install]
WantedBy=multi-user.targetОбидві команди навмисно запускаються через /bin/sh -c. Звичайний ExecStart= приймає абсолютний шлях або просте ім’я виконуваного файла, яке systemd шукає у своєму фіксованому search path; command -v ollama показує шлях, за яким поточна оболонка знаходить команду. Запуск через оболонку використовує PATH сервісу, а не шлях, скопійований з інструкції. Перша ExecStart також важлива: After=ollama.service означає, що unit сервера запущено, але це не означає, що сервер уже готовий. Тому цикл очікує, доки ollama list не почне відповідати, і лише після цього запускає завантаження.
sudo systemctl daemon-reload
sudo systemctl enable --now ollama-pull.service
journalctl -u ollama-pull.serviceУ журналі має з’явитися повідомлення про завершення завантаження без помилки, а ollama list після цього має показати модель. Щоб підтримувати змінний тег актуальним, додайте systemd timer або щотижневий cron-запис, який запускає те саме завантаження. Повторне завантаження тегу, який змінився, завантажує нові шари та, для більшості моделей, наприкінці цього самого завантаження видаляє старі шари, які більше нічим не використовуються.
Що відбувається після переривання pull
Кожен шар моделі зберігається під хешем власного вмісту. Тому перерваний pull не означає втрату вже виконаної роботи: знову запустіть той самий ollama pull, і вже завантажені шари буде розпізнано та пропущено. Завантаження продовжиться з перерваного шару.
Одна дія може знищити цей прогрес. Під час запуску сервер Ollama видаляє незавершені завантаження та збережені шари, на які не посилається маніфест жодної моделі. Фрагменти, що залишилися після перерваного pull, належать саме до цієї категорії. Поточні релізи (0.40.11, перевірено 26 October 2026) пропускають файли, записані протягом останньої години. Тому перезапуск невдовзі після переривання pull безпечний, але перезапуск через кілька годин видалить уже завантажений фрагмент. Спочатку повторіть pull, а потім виконайте перезапуск. Якщо незавершене завантаження справді має зберегтися після перезапуску, задайте OLLAMA_NOPRUNE=1 у середовищі сервісу, а потім видаліть цю змінну. Вона також вимикає очищення після завершення кожного pull. Саме ці два механізми очищення не дають непотрібним шарам накопичуватися на диску.
Якщо pull завершився з помилкою no space left on device, перед повторною спробою звільніть місце. Якщо df повідомляє про заповнений диск, а du для каталогу моделі не пояснює використаний простір, це місце зайняте в іншому розташуванні. Перед видаленням будь-яких даних перегляньте причини розбіжностей між df і du.
Де Ollama зберігає моделі на VPS?
Перевірте власний сервер, а не покладайтеся на шлях із будь-якого посібника, зокрема цього. Розташування відрізняється для встановлення з пакета та контейнера. Воно також змінюється, якщо хтось задав OLLAMA_MODELS.
systemctl cat ollama.service
getent passwd ollama
sudo find / -xdev -type d -name blobs 2>/dev/nullsystemctl cat виводить unit-файл разом з усіма drop-in-конфігураціями. Тому встановлений вами або вбудований у ваш образ рядок OLLAMA_MODELS буде видно в цьому виводі. Якщо такого рядка немає, сховище розташоване в домашньому каталозі облікового запису, від імені якого працює сервіс. getent passwd виводить цей домашній каталог у шостому полі, розділеному двокрапкою. Команда find шукає каталог blobs в одній файловій системі. Саме там фактично записуються шари. Приберіть -xdev, якщо моделі можуть уже зберігатися на окремій точці монтування.
Тепер виміряйте розмір і проаналізуйте власні значення:
ollama list
df -h /
sudo du -sh /the/directory/you/found
sudo du -h -d1 /the/directory/you/foundСховище містить два типи даних. Каталоги маніфестів (manifests, об’єднані через manifests-v2 у поточних релізах) містять невеликі файли зі списком шарів, з яких складається кожен тег моделі. blobs містить самі шари. Кожен шар названо хешем його вмісту, і майже весь розмір припадає саме на них. Оскільки шари спільно використовуються різними тегами, дві моделі, побудовані на однакових weights, окремо показують свій розмір у ollama list, але займають цей простір на диску лише один раз. Тому сума зазначених розмірів може перевищувати значення, яке du показує для каталогу. Інша особливість стосується Ollama 0.40.2: моделі, які воно оновило у фоновому режимі, зберігають початкову копію на диску як резервну. ollama list не враховує цю копію двічі, тому du може показати значно більший розмір, ніж випливає зі списку. У примітках до релізу 0.40.2 наведено скрипт, який видаляє лише ці резервні копії.
Файли моделей заповнюють кореневу файлову систему невеликого VPS швидше за будь-які інші компоненти, які ви, ймовірно, встановлюватимете. Найбільше на їхній розмір впливає формат weights. Як вибрати між q4, q8 і fp16 може заощадити гігабайти для кожної моделі.
Переміщення моделей на том даних за допомогою OLLAMA_MODELS
Якщо в плані передбачено другий диск або більший том даних, перемістіть сховище до того, як заповниться коренева файлова система. Спочатку зупиніть сервер, щоб не копіювати файл, який ще записується.
sudo systemctl stop ollama
sudo mkdir -p /mnt/data/ollama-models
sudo rsync -a /the/directory/you/found/ /mnt/data/ollama-models/
sudo chown -R ollama:ollama /mnt/data/ollama-models
sudo systemctl edit ollama.servicesystemctl edit відкриває редактор для drop-in-файлу. Тому пакетний unit залишається незмінним, а оновлення пакета не перезапише ваші зміни. Додайте ці два рядки:
[Service]
Environment="OLLAMA_MODELS=/mnt/data/ollama-models"sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment
ollama listsystemctl show має вивести новий шлях, а ollama list — показати ті самі моделі, що й до переміщення. Якщо список порожній, перевірте, чи містить новий каталог скопійоване сховище та чи може сервер його прочитати. Сервіс працює від імені користувача ollama, тому цей користувач має мати доступ на читання та запис до цільового каталогу. Це забезпечує рядок chown вище. Перевірте journalctl -e -u ollama на наявність помилок доступу, у яких указано новий шлях. Видаляйте стару копію лише після перевірки списку. Якщо переміщення не вдалося, а вихідне сховище вже видалено, доведеться завантажувати все повторно.
Інший варіант зберігає початковий шлях і монтує том даних у нього:
echo '/mnt/data/ollama-models /the/directory/you/found none bind 0 0' | sudo tee -a /etc/fstab
sudo mount -a
findmnt /the/directory/you/found
df -h /Якщо findmnt виводить змонтований том, bind mount активний. Bind mount зручний, коли інший компонент на сервері вже очікує стандартний шлях. Але є одна особливість: скопійовані файли все ще зберігаються під точкою монтування на кореневому диску. Монтування приховує їх, тому місце не звільниться, доки ви не демонтуєте том і не видалите ці файли. Змінну середовища простіше пояснити тому, хто наступним увійде на сервер.
Де контейнер зберігає їх насправді
Офіційний image зберігає моделі в тому сховищі, яке ви монтуєте, а не в будь-якому каталозі хоста, що належить користувачу ollama. Документована команда запуску має такий вигляд:
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollamaollama ліворуч від двокрапки — це іменований Docker volume, а /root/.ollama — шлях, за яким сервер записує дані всередині контейнера. Тому du за шляхами з попереднього розділу нічого не знаходить, оскільки там нічого немає. Виведіть фактичне розташування та розмір:
docker volume inspect ollama
docker system df -v
docker exec -it ollama ollama listПрочитайте поле Mountpoint з docker volume inspect, а потім виконайте sudo du -sh для цього шляху. Щоб зберігати моделі на томі з даними, замініть іменований volume на каталог хоста (-v /mnt/data/ollama:/root/.ollama) і створіть контейнер повторно. Контейнер записує дані від імені root, тому цей каталог на хості зрештою належатиме root. У rootless Podman root контейнера за замовчуванням відповідає UID і GID вашого користувача на хості, а інші ідентифікатори контейнера використовують додаткові діапазони: у матеріалі запуск Ollama у rootless Podman описано це зіставлення.
Важливе застереження щодо очищення. Звичайна команда docker volume prune видаляє лише анонімні томи, тому не чіпає іменований том ollama, але docker volume prune --all видаляє всі томи, на які не посилається жоден контейнер, зокрема іменовані. Якщо видалити або повторно створити контейнер ollama без його тому, наступна команда prune --all видалить усі завантажені моделі. Відновити їх можна буде лише повторним завантаженням. Перед запуском prune на сервері, де зберігаються моделі, прочитайте як очищати використання диска Docker на VPS.
Видаляйте модель за допомогою ollama rm, а не за допомогою rm
ollama list
ollama rm gemma4
ollama list
df -h /ollama rm видаляє маніфест для цього тегу, а потім видаляє шари, на які більше не посилається жоден маніфест. Вільне місце з’являється одразу після від’єднання цих файлів, тому df завершується без затримки. Оскільки шари спільно використовуються, видалення одного з двох близьких тегів може звільнити значно менше місця, ніж розмір, указаний поруч із ним у ollama list. Це штатна поведінка, а не помилка видалення.
Видалення файлів вручну порушує відповідність між ними. Видаліть blob за допомогою rm — маніфест і далі міститиме посилання на нього, тому ollama list продовжить показувати модель, але будь-яка спроба використати її завершиться помилкою під час читання відсутнього шару. Видаліть маніфест вручну — його шари залишаться на диску без посилань і займатимуть місце, яке жодна команда Ollama не покаже. Якщо ви вже видалили blob, виконайте ollama rm для цього тегу, щоб очистити залишковий запис. Якщо ви видалили маніфест, запису тегу для видалення вже не залишиться. Після перезапуску сервера видаляються шари, на які ніхто не посилається, якщо вони залишаються невикористаними понад годину.
Насамкінець важливо розрізняти ці дві операції, оскільки їх часто плутають. ollama rm працює з дисковим простором. ollama stop gemma4 вивантажує модель із пам’яті й зовсім не звільняє місце на диску. Час, протягом якого модель залишається в RAM після завершення завантаження, визначається окремим параметром. Це описано в розділі як залишити модель завантаженою замість повторного завантаження для кожного запиту.
FAQ
У чому різниця між ollama pull і ollama run?
ollama pull завантажує модель на диск і завершує роботу. ollama run перевіряє, чи вже є модель на диску, завантажує її, якщо її немає, завантажує її в пам’ять, а потім для chat-моделі відкриває інтерактивний сеанс чату. Обидві команди записують ті самі файли в той самий каталог. Використовуйте pull під час підготовки системи та в скриптах, а run — коли за клавіатурою працює людина. ollama run <model> "your prompt" надсилає один prompt і завершує роботу. Це форма run, придатна для використання у скриптах.
Чому перший запуск ollama run, здається, зависає?
Команда може завантажувати дані, перевіряти завантаження або завантажувати модель у пам’ять. Prompt чату не з’явиться, доки модель не буде записана на диск і завантажена в пам’ять. Розмір моделі може становити кілька гігабайтів. Ollama записує індикатор прогресу до стандартного потоку помилок, тому run у скрипті, який відкидає цей потік, або в cron job не показує нічого під час роботи. Відкрийте другий сеанс і виконайте watch -n5 df -h /. На щойно налаштованій системі поетапне зменшення вільного місця означає, що завантаження триває. Завчасно завантажте модель, щоб не чекати на завантаження та перевірку. Завантаження моделі в пам’ять усе одно потребує часу.
Де Ollama зберігає свої моделі?
Розташування залежить від способу встановлення, тому виведіть його, а не визначайте навмання. Виконайте systemctl cat ollama.service, щоб перевірити, чи задано OLLAMA_MODELS в unit або drop-in-конфігурації. Якщо змінну не задано, сховище розташоване в домашньому каталозі облікового запису, від імені якого працює сервіс; цей каталог виводить getent passwd ollama. sudo find / -xdev -type d -name blobs 2>/dev/null безпосередньо знаходить каталог шарів. У container image сховище розташоване всередині змонтованого тому, а docker volume inspect ollama виводить його Mountpoint на хості.
Як перенести моделі Ollama на інший диск?
Зупиніть сервіс, скопіюйте сховище в нове розташування за допомогою rsync -a, надайте каталог обліковому запису сервісу за допомогою sudo chown -R ollama:ollama <directory>, потім виконайте sudo systemctl edit ollama.service і додайте Environment="OLLAMA_MODELS=<directory>" під рядком [Service]. Виконайте перезавантаження конфігурації за допомогою sudo systemctl daemon-reload та перезапустіть сервіс. Перевірте результат за допомогою systemctl show ollama --property=Environment і ollama list. Якщо список порожній, переконайтеся, що новий каталог містить скопійоване сховище, а користувач ollama може його читати. Перевірте journalctl -e -u ollama на наявність помилок доступу.
Чи звільняться дисковий простір після видалення файлів моделей?
Ручне видалення файлів звільняє місце, але залишає сховище в непослідовному стані. Якщо видалити blob, manifest і далі міститиме посилання на цю модель, тому вона продовжить відображатися в ollama list і не працюватиме під час використання. Якщо видалити manifest, його шари залишаться на диску без посилань на них. Використовуйте ollama rm <model>. Ця команда видаляє manifest, а потім шари, які більше не потрібні жодній моделі. Якщо blob уже видалено вручну, виконайте ollama rm для tag, щоб очистити запис. Якщо manifest видалено, запису tag для видалення вже не залишиться. Перезапустіть сервер, щоб видалити шари, на які не посилається жоден manifest і яким виповнилося понад годину.