SSD Nodes Learn Hosting plans →
Руководства Matt ConnorАвтор: Matt Connor

Запуск Ollama в rootless Podman на VPS

Настройте Ollama в rootless Podman на VPS с помощью Quadlet. В статье описаны параметры lingering для systemd, настройка SELinux и безопасный доступ через SSH-туннель.

Запуск Ollama в rootless Podman на VPS

Для запуска Ollama в rootless Podman на сервере необходимо выполнить пять условий, которые часто опускаются в руководствах для настольных систем. Контейнер должен принадлежать выделенному непривилегированному пользователю. Для этого пользователя должна быть включена функция lingering, чтобы контейнер продолжал работу после вашего выхода из системы. Файл Quadlet передает управление контейнером systemd, что обеспечивает его автоматический запуск после перезагрузки. Директория с моделями должна иметь метку SELinux в дистрибутивах, где он включен. API должен слушать только loopback-интерфейс, а доступ к нему осуществляется через SSH-туннель.

Ollama — это сервер для больших языковых моделей (LLM). Он хранит веса моделей на диске, загружает их в память и отвечает на HTTP-запросы на порту 11434. Его локальный API не требует логина или API-ключа, поэтому сеть является единственным средством контроля доступа. Podman запускает контейнеры без демона и без прав root, поэтому любой процесс, вышедший за пределы контейнера, будет выполняться от имени обычного непривилегированного пользователя. Если вы хотите сначала сравнить среды выполнения, прочитайте различия между Podman и Docker на VPS. Если вы предпочитаете не использовать контейнеры, установка Ollama напрямую на VPS будет более коротким путем.

В Fedora по умолчанию установлены Podman и SELinux (security-enhanced Linux). Приведенные ниже команды рассчитаны на Podman 5 или новее, а для работы Quadlet-юнита также требуется cgroup v2, что, согласно документации Podman, является обязательным требованием для Quadlet независимо от версии Podman. Проверьте оба параметра перед началом: podman --version для первого и podman info | grep -i cgroup для второго, где строка cgroupVersion должна содержать значение v2. В Ubuntu 24.04 пакет podman из репозитория имеет версию 4.9.3, которая старше указанной, поэтому сначала проверьте версию там.

Почему версия для ноутбука требует изменений на сервере

5 августа 2026 года в Fedora Magazine было опубликовано понятное руководство по этому стеку: Запуск Ollama локально с помощью Podman в Fedora Linux, автор Yazan Monshed. Это хороший материал для первого знакомства с инструментами. Однако он ориентирован на ноутбук, и четыре описанных в нём решения ведут себя иначе на машине с публичным IP-адресом.

  • Контейнер запускается с помощью обычной команды podman run -d. Контейнер, запущенный вручную, не перезапускается после перезагрузки системы, так как не было настроено автоматическое выполнение этой задачи.
  • Используется плавающий тег ollama/ollama. На ноутбуке вы заметите день, когда поведение изменится. На сервере первым признаком станет скрипт, который перестал работать за ночь.
  • Публикация портов выполняется через -p 11434:11434, что привязывает сервис ко всем сетевым интерфейсам. За домашним роутером это недоступно из Интернета. На VPS это превращается в публичный API для инференса без парольной защиты.
  • Сервис запускается от имени вашего пользователя. На сервере учётная запись, владеющая контейнером, не должна иметь доступа к другим данным, чтобы в случае взлома злоумышленник оказался в пустой домашней директории.

Всё это не является ошибкой для машины, для которой писалось руководство. Каждый пункт — это просто решение, которое нужно пересмотреть, когда сервер доступен отовсюду и за ним никто не сидит.

Создание непривилегированного пользователя и проверка subuid

Rootless Podman отображает внутренние идентификаторы пользователей (UID) контейнера на блок неиспользуемых идентификаторов хоста. Этот блок задается в /etc/subuid и /etc/subgid. Podman также поддерживает режим с одним UID, но для данной настройки необходимо сконфигурировать диапазоны подчиненных идентификаторов.

sudo dnf install -y podman        # or: sudo apt install -y podman
sudo useradd --create-home --shell /bin/bash --comment "Ollama container owner" ollama
sudo passwd --lock ollama
grep ollama /etc/subuid /etc/subgid

Команда grep должна вывести две строки, по одной из каждого файла, где для каждой указан диапазон из 65536 идентификаторов:

/etc/subuid:ollama:100000:65536
/etc/subgid:ollama:100000:65536

Ваше начальное число будет отличаться, это нормально. Если grep ничего не выводит, значит useradd не выделил диапазон. Podman сообщает об отсутствии отображения сообщением следующего вида:

Error: cannot find UID/GID for user ollama: no subuid ranges found for user "ollama" in /etc/subuid

Назначьте диапазон, который не занят другим пользователем, а затем сообщите Podman, что старое отображение устарело:

sudo usermod --add-subuids 100000-165535 --add-subgids 100000-165535 ollama
sudo -iu ollama podman system migrate

Блокировка пароля запрещает вход по паролю для ollama; это не влияет на другие методы аутентификации, такие как SSH-ключи. Вы можете перейти в эту учетную запись из своей учетной записи администратора с помощью sudo -iu ollama.

Включение режима lingering для работы сервиса после выхода из системы

Экземпляр systemd пользователя обычно запускается при входе в систему и завершается после последнего выхода, при этом /run/user/<uid> удаляется. Сервисы, управляемые этим экземпляром, останавливаются вместе с ним. Режим lingering позволяет экземпляру пользователя продолжать работу без активной сессии.

sudo loginctl enable-linger ollama
loginctl show-user ollama --property=Linger

Эта команда должна вывести Linger=yes. Включите этот режим до создания юнита, чтобы менеджер пользователя и его каталог времени выполнения были доступны без активной сессии входа.

Существует еще один нюанс, о котором часто забывают. sudo -iu ollama предоставляет оболочку, но не сессионную шину, поэтому systemctl --user немедленно завершается с ошибкой:

Failed to connect to bus: $DBUS_SESSION_BUS_ADDRESS and $XDG_RUNTIME_DIR not defined

systemd ищет пользовательскую шину по адресу $XDG_RUNTIME_DIR/bus, а sudo -i не устанавливает эту переменную. Установите её вручную в каждой административной оболочке, где вы управляете этим сервисом:

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user status

Где размещаются блобы моделей и сколько места на диске планировать

Ollama записывает веса в /root/.ollama/models внутри контейнера. Примонтируйте каталог из домашней директории пользователя по этому пути, и файлы окажутся там, где их можно отследить: /home/ollama/ollama-data/models. Блобы сохраняются в models/blobs как файлы с контентной адресацией, а в models/manifests находится небольшой индекс с их именами. Если вы используете именованный том, как в статье Fedora Magazine, то же дерево каталогов будет находиться в /home/ollama/.local/share/containers/storage/volumes/<volume>/_data. В любом случае ollama pull и ollama run записывают веса в одно и то же дерево, а разница между этими двумя командами заключается лишь в том, откроется ли сессия чата после завершения загрузки.

Рассчитайте объем диска перед тем, как что-либо скачивать. Опубликованные размеры загружаемых файлов — это лишь нижний порог.

ГрафикPublished download size per Ollama model tag, ollama.com/library, checked 27 October 2026
Данные, на которых построен график
[
  {
    "label": "gemma3:4b",
    "download_gb": 3.4
  },
  {
    "label": "mistral:7b",
    "download_gb": 4.4
  },
  {
    "label": "qwen3:8b",
    "download_gb": 5.2
  },
  {
    "label": "gemma3:12b",
    "download_gb": 8.2
  },
  {
    "label": "qwen3:14b",
    "download_gb": 9.3
  },
  {
    "label": "gemma3:27b",
    "download_gb": 17
  },
  {
    "label": "qwen3:30b",
    "download_gb": 19
  }
]

Все строки 7 — это значения, опубликованные на ollama.com/library, а не размеры, измеренные на диске. Самый маленький тег здесь, gemma3:4b, загружает 3.4 ГБ. Самый большой, qwen3:30b, загружает 19 ГБ. Образ контейнера сам по себе занимает место в собственном хранилище Podman, поэтому проверяйте оба показателя с помощью podman system df и df -h /home. Для обеспечения хорошей производительности планируйте объем оперативной памяти, равный размеру файла модели плюс место для контекстного окна. Физическая оперативная память не является жестким ограничением: отображение памяти на диск (memory mapping) или достаточный объем swap позволяют запустить модель размером 19 ГБ на VPS с 16 ГБ ОЗУ, но с пониженной производительностью.

Закрепите тег образа и используйте полное имя реестра

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
mkdir -p ~/ollama-data ~/.config/containers/systemd
podman pull docker.io/ollama/ollama:0.32.9

Используйте тег выпущенной версии, 0.32.9 по состоянию на август 2026 года, а не latest. С тех пор вышли новые релизы: на 30 октября 2026 года новейшим простым тегом версии на Docker Hub является 0.40.13, поэтому проверьте страницу тегов и используйте текущий релиз как в команде pull, так и в строке Image=. Закрепленный тег версии предотвращает попадание на сервер релизов, которые вы не выбирали, поэтому изменение поведения обычно является результатом ваших собственных действий. Тем не менее, тег — это лишь указатель, а не цифровой отпечаток: реестр перемещает его на другой образ, если кто-то снова выполнит push под тем же именем, и только digest является неизменным. Podman принимает обе формы в Image=. Если при перезапуске в 04:00 должен выполняться именно тот бинарный файл, который вы тестировали, выполните podman images --digests docker.io/ollama/ollama после pull и укажите Image=docker.io/ollama/ollama@sha256:<digest>. Docker Hub также публикует теги -rc и -rocm для одних и тех же версий; выбирайте простой вариант, если у вас нет GPU AMD.

Указывайте также хост реестра. В Fedora короткое имя в юните systemd не имеет терминала для ввода запроса, и юнит завершается с ошибкой:

Error: short-name "ollama/ollama" did not resolve to an alias and no unqualified-search registries are defined

Выполнение pull вручную не является обязательным, но полезно, так как позволяет вынести загрузку объемом в несколько гигабайт за пределы тайм-аута запуска юнита.

Quadlet-юнит, который сохраняется после перезагрузки

Quadlet — это генератор systemd для Podman. Вы создаете файл .container, systemd превращает его в сервис при загрузке, и podman generate systemd больше не требуется. Сохраните этот файл как /home/ollama/.config/containers/systemd/ollama.container, владельцем которого является пользователь ollama.

[Unit]
Description=Ollama API (rootless)
After=network-online.target
Wants=network-online.target

[Container]
Image=docker.io/ollama/ollama:0.32.9
ContainerName=ollama
PublishPort=127.0.0.1:11434:11434
Volume=/home/ollama/ollama-data:/root/.ollama:Z
Environment=OLLAMA_KEEP_ALIVE=30m
Environment=OLLAMA_MAX_LOADED_MODELS=1

[Service]
Restart=always
TimeoutStartSec=900

[Install]
WantedBy=default.target

Имя файла определяет имя сервиса, поэтому ollama.container превращается в ollama.service.

systemctl --user daemon-reload
systemctl --user start ollama.service
systemctl --user status ollama.service

status должен показать active (running). Не запускайте systemctl --user enable ollama.service. Юнит не существует как файл на диске, поэтому systemd выдаст отказ:

Failed to enable unit: Unit file /run/user/1001/systemd/generator/ollama.service is transient or generated.

Секция [Install] уже выполняет эту задачу. Quadlet сам создает ссылку для автозапуска во время daemon-reload, поэтому данная команда обязательна. TimeoutStartSec=900 учитывает первый запуск, когда требуется выгрузка образа, так как стандартных 90 секунд недостаточно для загрузки нескольких гигабайт, и systemd завершит запуск с ошибкой. OLLAMA_KEEP_ALIVE=30m удерживает модель в оперативной памяти между запросами вместо выгрузки через пять минут; о компромиссах читайте в удержании модели Ollama в памяти. Если какая-то часть терминологии systemd здесь вам незнакома, принципы работы сервисов и таймеров systemd на VPS описывают сами юниты.

Почему при работе с SELinux возникает ошибка permission denied для каталога моделей

В дистрибутивах Fedora, RHEL, Rocky и AlmaLinux система SELinux по умолчанию находится в режиме принудительного контроля (enforcing). Процесс контейнера выполняется в домене container_t, а каталог в домашней директории пользователя имеет метку user_home_t. Политика безопасности запрещает взаимодействие между ними, поэтому Ollama не может создать дерево каталогов для моделей, и контейнер завершает работу. Команда getenforce выводит Enforcing в таких системах, а факт отказа в доступе фиксируется в логах:

sudo ausearch -m avc -ts recent

Вы увидите строку с указанием домена и целевой метки:

avc:  denied  { write } for  pid=1842 comm="ollama" name="models" dev="vda1" ino=131077 scontext=system_u:system_r:container_t:s0:c214,c827 tcontext=unconfined_u:object_r:user_home_t:s0 tclass=dir permlisted=0

Флаг :Z в конце строки Volume= решает эту проблему. Он меняет метку хостового каталога на container_file_t и присваивает ей уникальную категорию MCS (multi-category security), которая доступна только этому контейнеру. Флаг в нижнем регистре :z использует общую метку, что необходимо, если два контейнера должны читать один и тот же каталог.

Предупреждение относительно :Z: эта операция деструктивна и выполняется без запроса подтверждения. Изменение меток происходит рекурсивно. Если указать /home/ollama, то метки будут изменены для всех файлов в домашней директории, что приведет к потере доступа по SSH-ключам для этого пользователя. Всегда выделяйте для :Z отдельный подкаталог, в котором нет других данных. Именованные тома (named volumes) не требуют этого флага, так как Podman автоматически присваивает им корректные метки при создании. Если вам нужны дополнительные сведения, в статье Основы SELinux для сервера подробно описаны контексты и булевы значения. В Ubuntu и Debian вместо SELinux используется AppArmor, поэтому :Z там не выполняет никаких действий, и его наличие в юните не вызывает ошибок.

Закрытие порта 11434 и доступ к API через SSH

PublishPort=127.0.0.1:11434:11434 привязывает порт на стороне хоста к интерфейсу loopback. Проверьте это:

ss -ltnp | grep 11434
curl http://127.0.0.1:11434

Вывод ss должен содержать 127.0.0.1:11434, а curl должен отвечать Ollama is running. Если ss показывает 0.0.0.0:11434 или *:11434, значит, порт прослушивает все интерфейсы. Доступность порта из Интернета зависит от правил вашего межсетевого экрана и сетевой инфраструктуры перед сервером, поэтому прослушивание всех интерфейсов не всегда означает автоматическое открытие доступа. Однако не стоит полагаться на это: документация Ubuntu отмечает, что ufw по умолчанию отключен, а правила межсетевого экрана — это еще один элемент, который необходимо поддерживать в актуальном состоянии. Исправьте адрес привязки, чтобы порт изначально не был доступен извне.

Будьте внимательны при выборе стороны для привязки. Адрес в PublishPort — это адрес хоста. Внутри контейнера Ollama должна продолжать прослушивать все интерфейсы, что является настройкой образа по умолчанию. Установка Environment=OLLAMA_HOST=127.0.0.1 привязывает Ollama к loopback-интерфейсу самого контейнера, а Podman перенаправляет опубликованный трафик на сетевой адрес контейнера, из-за чего все запросы будут отклоняться даже с хоста.

Открытый порт 11434 несет два риска. В Ollama отсутствует аутентификация, поэтому любой, кто получит доступ к порту, сможет просматривать список ваших моделей через /api/tags, выполнять инференс, используя ваш CPU и лимит пропускной способности через /api/generate, загружать новые модели на ваш диск и удалять существующие. Во-вторых, обычный HTTP до удаленного порта передает промпты и ответы в открытом виде, поэтому любая машина на пути следования трафика может их прочитать. Обе проблемы исчезают, если порт не выходит за пределы сервера.

С вашей рабочей станции перенаправьте порт через SSH:

ssh -N -L 11434:127.0.0.1:11434 you@vps.example.com

Теперь http://127.0.0.1:11434 на вашем ноутбуке — это Ollama на сервере, работающая внутри зашифрованного SSH-туннеля. Если на вашем ноутбуке уже запущена Ollama, локальная привязка завершится ошибкой bind [127.0.0.1]:11434: Address already in use; используйте -L 11435:127.0.0.1:11434 и укажите вашему клиенту порт 11435.

Если доступ нужен браузерному клиенту, установите перед API обратный прокси с паролем. Блок конфигурации Caddy будет коротким, а caddy hash-password выведет необходимый bcrypt-хеш:

ollama.example.com {
  basic_auth {
    you $2a$14$replace_with_the_generated_hash
  }
  reverse_proxy 127.0.0.1:11434
}

Caddy самостоятельно получает сертификат по TLS (transport layer security), поэтому трафик будет зашифрован. Сначала протестируйте вашего клиента: клиенты, которые не могут отправить заголовок Authorization, не пройдут базовую аутентификацию и получат 401 Unauthorized. SSH-туннель лишен этой проблемы, поэтому он является рекомендуемым решением в данном руководстве.

Загрузка модели и проверка полного пути

podman exec -it ollama ollama pull gemma3:4b
curl -s http://127.0.0.1:11434/api/tags
curl -s http://127.0.0.1:11434/api/generate -d '{"model":"gemma3:4b","prompt":"Reply with the single word: ready","stream":false}'
du -sh ~/ollama-data/models

/api/tags возвращает JSON-список gemma3:4b. /api/generate возвращает JSON-объект с полем response после паузы, необходимой для загрузки весов с диска. du должен показать число, близкое к опубликованному размеру загрузки. Затем подтвердите часть, которой посвящено это руководство:

sudo reboot
# reconnect, then:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user is-active ollama.service

active означает, что процесс активен, а секция [Install] и daemon-reload выполнили свою задачу. Если возвращается inactive, сначала проверьте эти три компонента, а затем изучите journalctl --user -u ollama.service на предмет ошибок при запуске.

Типичные сбои и сообщения об ошибках

Контейнер исчезает после перезагрузки. Сначала проверьте loginctl show-user ollama --property=Linger, так как без Linger=yes systemd-экземпляр пользователя не запускается при загрузке системы. Если режим lingering включен, проверьте раздел [Install] в файле .container, выполните systemctl --user daemon-reload и изучите journalctl --user -u ollama.service на наличие ошибок запуска.

Error: statfs /home/ollama/ollama-data: no such file or directory. Исходная директория для bind mount должна существовать до запуска контейнера. Podman не создает директории на хосте автоматически. Выполните mkdir -p ~/ollama-data от имени пользователя ollama.

Запуск прерывается через 90 секунд. journalctl --user -u ollama.service показывает Start operation timed out. Terminating., так как процесс загрузки образа еще не завершился. Выполните загрузку вручную или сохраните TimeoutStartSec=900.

Контейнер запускается и сразу завершается. podman logs ollama и sudo ausearch -m avc -ts recent вместе позволяют определить, связана ли проблема с меткой SELinux. Сообщение AVC с упоминанием container_t и user_home_t означает, что отсутствует :Z.

Запросы с хоста отклоняются. curl: (7) Failed to connect to 127.0.0.1 port 11434: Connection refused при работе с сервисом active обычно означает, что OLLAMA_HOST был установлен на адрес loopback внутри контейнера. Удалите эту строку.

Генерация происходит очень медленно или контейнер завершается принудительно. Без GPU вывод выполняется на CPU, поэтому работа с большой моделью по определению идет медленно. Использование дискового swap или memory mapping замедляет работу, если модель не помещается в физическую RAM. Если контейнер завершается во время обработки запроса, а в логах присутствует signal: killed, необходимо выяснить причину; если лог ядра подтверждает завершение из-за нехватки памяти (OOM kill), выберите более компактный тег из таблицы выше.

Обновление зафиксированного образа

Фиксация версии означает, что обновления выполняются вручную, а не автоматически. Отредактируйте Image= в ollama.container, затем перезагрузите конфигурацию и перезапустите службу:

systemctl --user daemon-reload
systemctl --user restart ollama.service
podman exec ollama ollama --version

Модели хранятся в bind mount, поэтому они остаются нетронутыми при смене образа. Параметр AutoUpdate=registry в секции [Container] настраивает проверку дайджеста в реестре; podman auto-update, запускаемый вручную или через таймер systemd, загружает измененный образ и перезапускает юнит. Это подходит для динамических тегов. При использовании тега версии команда сработает только в том случае, если издатель повторно отправит тот же тег, что противоречит самой цели фиксации версии, поэтому в данном случае оставьте её выключенной. Создайте резервную копию /home/ollama/ollama-data/models/manifests и файла .container, пропустив при этом blobs: они занимают много места, а ollama pull загрузит их повторно на новом сервере.

FAQ

Почему мой rootless-контейнер Podman останавливается после выхода из системы?

Экземпляр systemd пользователя и его каталог /run/user/<uid> обычно удаляются после завершения последнего сеанса пользователя, что приводит к остановке сервисов, управляемых этим экземпляром. Выполните sudo loginctl enable-linger ollama и убедитесь, что loginctl show-user ollama --property=Linger выводит Linger=yes. Включите режим lingering перед созданием Quadlet-юнита, чтобы пользовательский менеджер и его каталог времени выполнения оставались доступными без активного сеанса входа.

Нужно ли устанавливать метки SELinux на каталог моделей Ollama?

В Fedora, RHEL, Rocky и AlmaLinux — да, если вы используете bind mount для каталога на хосте. Контейнер работает в домене container_t, а каталог в домашней папке имеет метку user_home_t, поэтому запись будет запрещена, и Ollama завершит работу. Добавьте :Z в строку Volume= и выделите для этого отдельный подкаталог, так как изменение меток происходит рекурсивно, а применение :Z ко всей домашней директории нарушит доступ пользователя по SSH-ключам. Именованные тома (named volumes) получают корректные метки от Podman автоматически и не требуют дополнительных действий.

Сколько дискового пространства нужно для модели Ollama?

Ориентируйтесь на опубликованный размер загрузки на сайте ollama.com/library, который варьируется от 3.4 ГБ для gemma3:4b до 19 ГБ для qwen3:30b. Добавьте к этому размер образа Podman и оставьте запас, так как вторая модель не заменяет первую на диске. Проверяйте df -h /home перед загрузкой и du -sh ~/ollama-data/models после. Для обеспечения производительности планируйте объем RAM, примерно равный размеру файла модели, плюс место для контекстного окна. Использование отображения памяти на диск (memory mapping) или достаточного объема swap позволяет запускать более крупные модели при меньшем объеме физической RAM, но с потерей производительности.

Безопасно ли открывать порт 11434 на VPS?

Нет. Ollama поставляется без какой-либо аутентификации, поэтому любой, кто получит доступ к порту, сможет просматривать список ваших моделей, удалять их, загружать новые на ваш диск и выполнять инференс, используя ваш CPU и лимит пропускной способности сети. Обычный HTTP через интернет также передает все запросы и ответы в открытом виде. Привяжите хостовую сторону к 127.0.0.1 с помощью PublishPort=127.0.0.1:11434:11434, проверьте результат командой ss -ltnp | grep 11434 и обращайтесь к сервису через SSH-туннель или обратный прокси-сервер, требующий пароль.

Была ли эта статья полезной?