SSD Nodes Learn Hosting plans →
Посібники Matt ConnorВід Matt Connor

Ollama у rootless Podman на VPS: налаштування

Налаштуйте Ollama у rootless Podman на VPS: окремий користувач, lingering, Quadlet після перезавантаження, SELinux і закритий порт 11434.

Запуск Ollama у rootless Podman на VPS

Щоб запустити Ollama у rootless Podman на сервері, мають виконуватися п’ять умов, які в інструкції для desktop можна пропустити. Виділений непривілейований користувач має володіти контейнером. Для цього користувача потрібно ввімкнути lingering, щоб контейнер продовжував працювати після виходу із системи. Файл Quadlet передає контейнер під керування systemd, тому він запускається знову після перезавантаження. Каталог моделей має потрібну мітку SELinux у дистрибутивах, де SELinux увімкнено. API слухає лише loopback, а доступ до нього здійснюється через тунель SSH (secure shell).

Ollama — це сервер для великих мовних моделей (LLM). Він зберігає ваги моделей на диску, завантажує їх у пам’ять і обробляє HTTP-запити на порту 11434. Його локальний API не потребує входу або API key, тому єдиним контролем доступу тут є мережа. Podman запускає контейнери без daemon і без root, тому все, що вийде за межі контейнера, спочатку працює від імені звичайного непривілейованого користувача. Якщо спочатку потрібне порівняння runtime, прочитайте чим Podman відрізняється від Docker на VPS. Якщо ви хочете повністю відмовитися від контейнерів, встановлення Ollama безпосередньо на VPS буде коротшим шляхом.

Fedora постачається з Podman і SELinux (security-enhanced Linux) за замовчуванням. Наведені нижче команди передбачають Podman 5 або новішої версії. Крім того, unit Quadlet потребує cgroup v2, яку документація Podman визначає як вимогу для Quadlet незалежно від версії Podman. Перевірте обидві умови перед початком: podman --version для першої та podman info | grep -i cgroup для другої. Рядок cgroupVersion має містити v2. В Ubuntu 24.04 пакет podman в архіві має версію 4.9.3, яка старіша за зазначену версію, тому спочатку перевірте версію саме там.

Чому версія для ноутбука потребує змін на сервері

5 August 2026 року Fedora Magazine опублікував зрозумілий посібник із цим стеком: Локальний запуск Ollama за допомогою Podman у Fedora Linux, автор — Yazan Monshed. Це хороший спосіб познайомитися з інструментами протягом першої години. Водночас посібник орієнтований на ноутбук, а чотири його рішення працюють інакше на машині з публічною IP-адресою.

  • Контейнер запускається за допомогою звичайного podman run -d. Контейнер, запущений вручну, не запускається після перезавантаження, оскільки його ніколи не налаштовували на автоматичний запуск.
  • Використовується рухомий тег ollama/ollama. На ноутбуці ви помітите день, коли поведінка зміниться. На сервері першою ознакою може стати скрипт, який раптово перестав працювати.
  • Публікація виконується за допомогою -p 11434:11434, який прив’язує сервіс до всіх інтерфейсів. За домашнім маршрутизатором сервіс недоступний з інтернету. На VPS це публічний API для інференсу без пароля.
  • Контейнер запускається від вашого облікового запису. На сервері обліковий запис, якому належить контейнер, не повинен володіти нічим іншим, щоб у разі виходу з контейнера зловмисник потрапив у порожній домашній каталог.

Для машини, для якої це було написано, жоден із цих підходів не є неправильним. Кожне з цих рішень просто потрібно переглянути, коли сервер доступний з будь-якої мережі, а поруч немає користувача, який може одразу втрутитися.

Створіть непривілейованого користувача та перевірте subuid

Rootless Podman зіставляє внутрішні ідентифікатори користувачів контейнера (UID) із блоком невикористаних ідентифікаторів на хості. Цей блок визначається у /etc/subuid та /etc/subgid. Podman також підтримує режим з одним UID, але для цієї конфігурації налаштуйте діапазони subordinate UID.

sudo dnf install -y podman        # or: sudo apt install -y podman
sudo useradd --create-home --shell /bin/bash --comment "Ollama container owner" ollama
sudo passwd --lock ollama
grep ollama /etc/subuid /etc/subgid

Команда grep має вивести два рядки — по одному з кожного файлу. У кожному рядку має бути вказано діапазон із 65536 ідентифікаторів:

/etc/subuid:ollama:100000:65536
/etc/subgid:ollama:100000:65536

Початкове число у вас буде іншим, і це нормально. Якщо команда grep нічого не виводить, useradd не виділив діапазон. Podman повідомляє про відсутнє зіставлення приблизно таким повідомленням:

Error: cannot find UID/GID for user ollama: no subuid ranges found for user "ollama" in /etc/subuid

Призначте діапазон, який не використовується жодним іншим користувачем, а потім повідомте Podman, що його старе зіставлення застаріло:

sudo usermod --add-subuids 100000-165535 --add-subgids 100000-165535 ollama
sudo -iu ollama podman system migrate

Блокування пароля забороняє вхід за паролем як ollama, але не забороняє інші методи автентифікації, наприклад SSH keys. Перейти до цього облікового запису з облікового запису адміністратора можна за допомогою sudo -iu ollama.

Увімкнення lingering, щоб сервіс працював після виходу із системи

Екземпляр systemd користувача зазвичай запускається під час входу в систему й зупиняється після виходу з останньої сесії, а разом із ним видаляється /run/user/<uid>. Сервіси, якими керує цей екземпляр, також зупиняються. Lingering залишає екземпляр користувача запущеним без прив’язаної сесії.

sudo loginctl enable-linger ollama
loginctl show-user ollama --property=Linger

Команда має вивести Linger=yes. Увімкніть lingering до створення unit, щоб user manager і його runtime directory були доступні без сесії користувача.

Є ще один крок, якого зазвичай не очікують. sudo -iu ollama надає shell, але не session bus, тому systemctl --user одразу завершується з помилкою:

Failed to connect to bus: $DBUS_SESSION_BUS_ADDRESS and $XDG_RUNTIME_DIR not defined

systemd шукає user bus у $XDG_RUNTIME_DIR/bus, але sudo -i не встановлює цю змінну. Встановлюйте її вручну в кожній адміністративній shell, у якій керуєте цим сервісом:

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user status

Де зберігаються файли моделей і скільки дискового простору потрібно запланувати

Ollama записує ваги в /root/.ollama/models усередині контейнера. Підключіть каталог із домашньої директорії користувача до цього шляху, і файли зберігатимуться в місці, розмір якого можна виміряти: /home/ollama/ollama-data/models. Файли blob зберігаються в models/blobs як файли з адресацією за вмістом, а models/manifests містить невеликий індекс із їхніми іменами. Якщо замість цього використати іменований volume, як у статті Fedora Magazine, саме це дерево каталогів буде розташоване в /home/ollama/.local/share/containers/storage/volumes/<volume>/_data. У будь-якому разі ollama pull і ollama run записують ваги в одне й те саме дерево, а різниця між цими двома командами полягає лише в тому, чи відкривається chat session після завершення завантаження.

Оцініть потрібний дисковий простір до завантаження будь-яких файлів. Опубліковані розміри завантажень задають мінімальну потребу.

ГрафікPublished download size per Ollama model tag, ollama.com/library, checked 27 October 2026
Дані, на яких побудовано графік
[
  {
    "label": "gemma3:4b",
    "download_gb": 3.4
  },
  {
    "label": "mistral:7b",
    "download_gb": 4.4
  },
  {
    "label": "qwen3:8b",
    "download_gb": 5.2
  },
  {
    "label": "gemma3:12b",
    "download_gb": 8.2
  },
  {
    "label": "qwen3:14b",
    "download_gb": 9.3
  },
  {
    "label": "gemma3:27b",
    "download_gb": 17
  },
  {
    "label": "qwen3:30b",
    "download_gb": 19
  }
]

Усі 7 рядків містять дані, опубліковані на ollama.com/library, а не розміри, виміряні на диску. Найменший tag у цьому списку, gemma3:4b, завантажує 3.4 GB. Найбільший, qwen3:30b, завантажує 19 GB. Сам container image додатково займає місце у власному сховищі Podman, тому перевірте обидва значення разом за допомогою podman system df і df -h /home. Для належної продуктивності заплануйте в RAM приблизно обсяг файлу моделі та додатковий простір для context window. Обсяг фізичної RAM не є жорстким обмеженням: memory mapping із підтримкою диска або достатній swap можуть дозволити запустити модель розміром 19 GB на VPS із 16 GB RAM, але продуктивність буде нижчою.

Зафіксуйте тег образу та використовуйте повне ім’я реєстру

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
mkdir -p ~/ollama-data ~/.config/containers/systemd
podman pull docker.io/ollama/ollama:0.32.9

Використовуйте тег випущеної версії, 0.32.9 станом на August 2026, а не latest. Відтоді вийшли новіші релізи: 30 October 2026 найновішим звичайним тегом версії на Docker Hub є 0.40.13. Перевірте сторінку тегів і використовуйте поточний реліз однаково в команді pull та в рядку Image=. Зафіксований тег версії не дає релізам, які ви не обирали, потрапити на сервер. Тому зміна поведінки зазвичай означає зміну, яку внесли ви. Однак тег — це лише вказівник, а не відбиток: реєстр переміщує його на інший образ, коли хтось знову виконує push під тим самим іменем. Незмінним є лише digest. Podman приймає обидві форми в Image=. Якщо перезапуск о 04:00 має запускати саме перевірений вами бінарний файл, виконайте podman images --digests docker.io/ollama/ollama після pull і натомість запишіть Image=docker.io/ollama/ollama@sha256:<digest>. Docker Hub також публікує теги -rc і -rocm для тих самих версій. Вибирайте звичайний тег, якщо у вас немає AMD GPU.

Також укажіть хост реєстру. У Fedora коротке ім’я в systemd unit не може запитати підтвердження в терміналі, тому unit завершується помилкою:

Error: short-name "ollama/ollama" did not resolve to an alias and no unqualified-search registries are defined

Спочатку виконати pull вручну необов’язково, але це корисно: завантаження кількох гігабайтів не відбуватиметься протягом timeout запуску unit.

Юніт Quadlet, який переживає перезавантаження

Quadlet — це systemd generator для Podman. Ви створюєте файл .container, systemd перетворює його на сервіс під час завантаження, і podman generate systemd більше не потрібен. Збережіть його як /home/ollama/.config/containers/systemd/ollama.container від імені користувача ollama.

[Unit]
Description=Ollama API (rootless)
After=network-online.target
Wants=network-online.target

[Container]
Image=docker.io/ollama/ollama:0.32.9
ContainerName=ollama
PublishPort=127.0.0.1:11434:11434
Volume=/home/ollama/ollama-data:/root/.ollama:Z
Environment=OLLAMA_KEEP_ALIVE=30m
Environment=OLLAMA_MAX_LOADED_MODELS=1

[Service]
Restart=always
TimeoutStartSec=900

[Install]
WantedBy=default.target

Ім’я файлу визначає ім’я сервісу, тому ollama.container стає ollama.service.

systemctl --user daemon-reload
systemctl --user start ollama.service
systemctl --user status ollama.service

status має показати active (running). Не запускайте systemctl --user enable ollama.service. Юніт не існує як файл на диску, тому systemd відмовляється:

Failed to enable unit: Unit file /run/user/1001/systemd/generator/ollama.service is transient or generated.

Секція [Install] уже виконує цю функцію. Quadlet сам створює посилання для запуску під час завантаження в межах daemon-reload, тому ця команда обов’язкова. TimeoutStartSec=900 охоплює перший запуск, під час якого ще потрібно завантажити image, оскільки стандартних 90 секунд недостатньо для завантаження обсягом у кілька гігабайт, і systemd завершить запуск із помилкою. OLLAMA_KEEP_ALIVE=30m зберігає модель у пам’яті між запитами, а не вивантажує її через п’ять хвилин. Компроміси описано в матеріалі як залишити модель Ollama завантаженою в пам’яті. Якщо якась термінологія systemd тут вам незнайома, у матеріалі як працюють сервіси й таймери systemd на VPS описано самі юніти.

Чому каталог моделей повертає permission denied у SELinux

У Fedora, RHEL, Rocky та AlmaLinux SELinux типово працює в режимі enforcing. Процес контейнера працює в домені container_t, а каталог у домашньому каталозі користувача має мітку user_home_t. Політика не дозволяє цим контекстам взаємодіяти, тому Ollama не може створити дерево моделей, і контейнер завершує роботу. У цих системах getenforce виводить Enforcing, а відмову доступу записано в журнал:

sudo ausearch -m avc -ts recent

Ви побачите рядок із назвою домену та цільової мітки:

avc:  denied  { write } for  pid=1842 comm="ollama" name="models" dev="vda1" ino=131077 scontext=system_u:system_r:container_t:s0:c214,c827 tcontext=unconfined_u:object_r:user_home_t:s0 tclass=dir permlisted=0

:Z наприкінці рядка Volume= усуває цю проблему. Команда повторно маркує каталог хоста як container_file_t і призначає йому приватну категорію MCS (multi-category security), яку має лише цей контейнер. Варіант :z у нижньому регістрі використовує спільну мітку. Він потрібен, коли два контейнери читають один і той самий каталог.

Врахуйте особливості :Z, оскільки ця команда рекурсивно змінює мітки без додаткового повідомлення. Якщо вказати їй /home/ollama, буде повторно перемарковано кожен файл у цьому домашньому каталозі. Це порушить доступ до SSH-ключів користувача. Завжди передавайте :Z окремий підкаталог, у якому немає інших даних. Іменованим томам ця команда не потрібна, оскільки Podman правильно маркує їх під час створення. Докладніше про це написано в матеріалі Основи SELinux для сервера, де пояснюються контексти та булеві параметри. В Ubuntu та Debian натомість використовується AppArmor, :Z там нічого не робить, тому його наявність у unit-файлі не створює проблем.

Закрийте порт 11434 і звертайтеся до API через SSH

PublishPort=127.0.0.1:11434:11434 прив’язує порт на стороні хоста до loopback. Перевірте це:

ss -ltnp | grep 11434
curl http://127.0.0.1:11434

У виводі ss має бути показано 127.0.0.1:11434, а curl має відповісти Ollama is running. Якщо ss показує 0.0.0.0:11434 або *:11434, порт прослуховується на всіх інтерфейсах. Чи може інтернет звернутися до нього в такому разі, залежить від правил firewall і мережі перед сервером, тому wildcard listener не означає автоматичну доступність з інтернету. Однак не покладайтеся на це: документація Ubuntu зазначає, що ufw спочатку вимкнений за замовчуванням, а правило firewall — це ще один параметр, який потрібно підтримувати коректним. Виправте адресу прив’язки, щоб порт узагалі не прослуховувався публічно.

Точно визначте, на якій стороні виконується прив’язка. Адреса в PublishPort — це адреса хоста. Усередині контейнера Ollama має й надалі прослуховувати всі інтерфейси — це стандартне налаштування образу. Якщо встановити Environment=OLLAMA_HOST=127.0.0.1, Ollama прив’яжеться до loopback самого контейнера, а Podman перенаправлятиме опублікований трафік на мережеву адресу контейнера. У результаті кожен запит буде відхилено, навіть із хоста.

Відкритий порт 11434 створює дві проблеми. Ollama не має автентифікації, тому кожен, хто може звернутися до порту, зможе переглянути список ваших моделей через /api/tags, запускати inference на вашому CPU і використовувати доступний обсяг трафіку через /api/generate, завантажувати нові моделі на диск і видаляти наявні. По-друге, звичайний HTTP до віддаленого порту передає prompts і completions у відкритому вигляді, тому кожна машина на цьому шляху може їх прочитати. Обидві проблеми зникають, якщо порт не виходить за межі сервера.

З робочої станції перенаправте порт через SSH:

ssh -N -L 11434:127.0.0.1:11434 you@vps.example.com

Тепер http://127.0.0.1:11434 на вашому ноутбуці — це Ollama сервера всередині шифрованого SSH-сеансу. Якщо на ноутбуці вже запущено Ollama, локальна прив’язка завершиться помилкою bind [127.0.0.1]:11434: Address already in use; використайте -L 11435:127.0.0.1:11434 і вкажіть клієнту порт 11435.

Якщо це потрібно браузерному клієнту, розмістіть перед ним reverse proxy із паролем. Блок сайту Caddy короткий, а caddy hash-password виводить потрібний bcrypt hash:

ollama.example.com {
  basic_auth {
    you $2a$14$replace_with_the_generated_hash
  }
  reverse_proxy 127.0.0.1:11434
}

Caddy самостійно отримує сертифікат через TLS (transport layer security), тому трафік шифрується. Спочатку перевірте клієнт: клієнти, які не можуть надіслати заголовок Authorization, не пройдуть basic auth і отримають лише 401 Unauthorized. SSH tunnel такої проблеми не має, тому тут саме його рекомендовано за замовчуванням.

Завантажте модель і перевірте весь шлях

podman exec -it ollama ollama pull gemma3:4b
curl -s http://127.0.0.1:11434/api/tags
curl -s http://127.0.0.1:11434/api/generate -d '{"model":"gemma3:4b","prompt":"Reply with the single word: ready","stream":false}'
du -sh ~/ollama-data/models

/api/tags повертає JSON зі списком gemma3:4b. /api/generate повертає об’єкт JSON із полем response після паузи, потрібної для завантаження ваг із диска. du має показати число, близьке до опублікованого розміру завантаження. Далі перевірте саме те, заради чого створено весь цей посібник:

sudo reboot
# reconnect, then:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user is-active ollama.service

active означає, що процес не завершується, а розділ [Install] і daemon-reload успішно виконали свою роботу. Якщо повертається inactive, спочатку перевірте ці три компоненти, а потім перегляньте journalctl --user -u ollama.service на наявність помилок під час запуску.

Режими відмови та повідомлення, які ви побачите

Контейнер зникає після перезавантаження. Спочатку перевірте loginctl show-user ollama --property=Linger, оскільки без Linger=yes користувацький екземпляр systemd не запускається під час завантаження системи. Якщо lingering увімкнено, перевірте секцію [Install] у файлі .container, виконайте systemctl --user daemon-reload і перегляньте journalctl --user -u ollama.service на наявність помилок запуску.

Error: statfs /home/ollama/ollama-data: no such file or directory. Джерело bind mount має існувати до запуску контейнера. Podman не створює каталоги на хості автоматично. Виконайте mkdir -p ~/ollama-data від імені користувача ollama.

Запуск завершується помилкою через 90 секунд. journalctl --user -u ollama.service показує Start operation timed out. Terminating., оскільки завантаження образу ще тривало. Завантажте образ вручну або залиште TimeoutStartSec=900.

Контейнер запускається та завершує роботу. podman logs ollama і sudo ausearch -m avc -ts recent разом показують, чи пов’язана проблема з міткою SELinux. Повідомлення AVC, у якому зазначено container_t і user_home_t, означає, що відсутній :Z.

Запити з хоста відхиляються. curl: (7) Failed to connect to 127.0.0.1 port 11434: Connection refused для сервісу active зазвичай означає, що OLLAMA_HOST було налаштовано на loopback-адресу всередині контейнера. Видаліть цей рядок.

Генерація дуже повільна або контейнер завершується примусово. Без GPU інференс виконується на CPU і за своєю природою повільний для великої моделі. Відображення моделі з диска в пам’ять або використання swap ще більше сповільнює інференс, якщо модель не вміщується у фізичній RAM. Якщо контейнер завершує роботу посеред запиту, а в журналах є signal: killed, потрібно перевірити причину. Якщо журнал ядра підтверджує завершення через нестачу пам’яті, виберіть менший tag із наведеної вище таблиці.

Оновлення закріпленого image

Закріплення означає, що оновлення виконуєте ви, а не воно відбувається автоматично. Відредагуйте Image= у ollama.container, потім перезавантажте конфігурацію та перезапустіть:

systemctl --user daemon-reload
systemctl --user restart ollama.service
podman exec ollama ollama --version

Моделі зберігаються в bind mount, тому після зміни image вони залишаються без змін. AutoUpdate=registry у секції [Container] налаштовує перевірку digest у registry; podman auto-update, запущений вручну або за таймером systemd, завантажує змінений image і перезапускає unit. Це підходить для змінного tag. Для tag версії він спрацьовує лише тоді, коли publisher повторно публікує той самий tag. Саме такі незаплановані зміни закріплення має запобігати, тому тут залиште цю функцію вимкненою. Створіть резервні копії /home/ollama/ollama-data/models/manifests і файлу .container, а blobs не копіюйте: вони великі, і ollama pull повторно завантажить їх на новому сервері.

FAQ

Чому мій rootless Podman container зупиняється після виходу із системи?

Екземпляр systemd користувача та його каталог /run/user/<uid> зазвичай видаляються після завершення останньої сесії цього користувача. Це зупиняє сервіси, якими керує цей екземпляр. Виконайте sudo loginctl enable-linger ollama і переконайтеся, що loginctl show-user ollama --property=Linger виводить Linger=yes. Увімкніть lingering до створення Quadlet unit, щоб user manager і його runtime directory були доступні без активної сесії входу.

Чи потрібні SELinux labels для каталогу моделей Ollama?

У Fedora, RHEL, Rocky та AlmaLinux — так, якщо ви монтуєте каталог хоста через bind mount. Container працює в домені container_t, а каталог у home folder має label user_home_t, тому запис заборонено і Ollama завершує роботу. Додайте :Z до рядка Volume= і вкажіть для нього окремий підкаталог, оскільки relabelling виконується рекурсивно. Якщо вказати :Z на весь home directory, це порушить доступ користувача до SSH keys. Named volumes Podman маркує правильно, тому додаткові налаштування не потрібні.

Скільки дискового простору потрібна моделі Ollama?

Відштовхуйтеся від опублікованого розміру завантаження на ollama.com/library: від 3.4 GB для gemma3:4b до 19 GB для qwen3:30b. Додайте до цього Podman image і залиште запас, оскільки друга модель не замінює першу на диску. Перевірте df -h /home перед завантаженням і du -sh ~/ollama-data/models після нього. Для належної продуктивності плануйте приблизно розмір файлу моделі в RAM плюс обсяг для context window. Memory mapping із диска або достатній swap дають змогу запускати більшу модель із меншим обсягом фізичної RAM, але продуктивність буде нижчою.

Чи безпечно відкривати port 11434 на VPS?

Ні. Ollama не має жодної вбудованої authentication, тому будь-хто, хто отримує доступ до порту, може переглядати ваші моделі, видаляти їх, завантажувати нові на диск і запускати inference, використовуючи ваш CPU та доступний обсяг network traffic. Звичайний HTTP через інтернет також передає кожен prompt і completion у відкритому вигляді. Прив’яжіть сторону хоста до 127.0.0.1 за допомогою PublishPort=127.0.0.1:11434:11434, перевірте результат через ss -ltnp | grep 11434 і підключайтеся через SSH tunnel або reverse proxy, який вимагає пароль.

Чи була ця стаття корисною?