SSD Nodes Learn Hosting plans →
Guías Matt ConnorPor Matt Connor

Ejecutar Ollama en Podman rootless en un VPS

Guía para desplegar Ollama como contenedor rootless con Quadlet. Aprende a configurar el modo lingering, etiquetas SELinux y túneles SSH para asegurar tu servidor VPS.

Ejecutar Ollama en Podman sin root en un VPS

Para ejecutar Ollama en Podman sin root en un servidor, deben cumplirse cinco condiciones que una guía para equipos de escritorio puede omitir. Un usuario sin privilegios dedicado debe ser el propietario del contenedor. Debe habilitarse el modo persistente para ese usuario, de modo que el contenedor siga ejecutándose después de cerrar la sesión. Un archivo Quadlet entrega el contenedor a systemd, para que vuelva a iniciarse después de un reinicio. El directorio de modelos debe tener una etiqueta de SELinux en las distribuciones que aplican SELinux. La API debe escuchar sólo en loopback, y se debe acceder a ella mediante un túnel SSH (secure shell).

Ollama es un servidor para modelos de lenguaje de gran tamaño (LLM). Almacena los pesos de los modelos en el disco, los carga en la memoria y responde a solicitudes HTTP en el puerto 11434. Su API local no requiere inicio de sesión ni clave de API, por lo que aquí la red es el único control de acceso disponible. Podman ejecuta contenedores sin un daemon y sin root, por lo que cualquier proceso que escape del contenedor comienza con los permisos de un usuario normal sin privilegios. Si quiere consultar primero la comparación del entorno de ejecución, lea cómo se diferencian Podman y Docker en un VPS. Si prefiere omitir los contenedores por completo, instalar Ollama directamente en un VPS es una opción más corta.

Fedora incluye Podman y SELinux (security-enhanced Linux) de forma predeterminada. Los comandos siguientes presuponen Podman 5 o una versión posterior, y la unidad Quadlet también requiere cgroup v2, que la documentación de Podman indica como requisito de Quadlet independientemente de la versión de Podman. Compruebe ambos antes de empezar: podman --version para el primero y podman info | grep -i cgroup para el segundo, donde la línea cgroupVersion debe mostrar v2. En Ubuntu 24.04, el paquete podman del archivo tiene la versión 4.9.3, anterior a esa línea, por lo que debe comprobar primero la versión allí.

Por qué la versión para portátil necesita cambios en un servidor

Fedora Magazine publicó una guía clara sobre esta pila el 5 de agosto de 2026: Ejecución local de Ollama con Podman en Fedora Linux, escrita por Yazan Monshed. Es un buen punto de partida para familiarizarse con las herramientas. También está dirigida a un portátil, y cuatro de sus decisiones se comportan de forma distinta en una máquina con una dirección IP pública.

  • Inicia el contenedor con un `podman run -d` simple. Un contenedor iniciado manualmente no vuelve a iniciarse después de un reinicio porque nunca se configuró que se iniciara.
  • Usa la etiqueta móvil `ollama/ollama`. En un portátil se nota el día en que cambia el comportamiento. En un servidor, la primera señal puede ser un script que dejó de funcionar durante la noche.
  • Publica con `-p 11434:11434`, que enlaza todas las interfaces. Detrás de un router doméstico, el servicio no es accesible desde Internet. En un VPS, se convierte en una API pública de inferencia sin contraseña.
  • Se ejecuta con el usuario con el que inicia sesión. En un servidor, la cuenta propietaria del contenedor no debería ser propietaria de nada más, de modo que una salida del contenedor termine en un directorio personal vacío.

Nada de esto es incorrecto para la máquina a la que se dirige la guía. Cada punto es simplemente una decisión que debe revisarse cuando el equipo es accesible desde cualquier lugar y no hay nadie delante de él.

Cree el usuario sin privilegios y compruebe subuid

Rootless Podman asigna los identificadores de usuario (UID) internos del contenedor a un bloque de identificadores no utilizados en el host. Ese bloque se declara en /etc/subuid y /etc/subgid. Podman también admite un modo de UID único, pero para esta configuración debe establecer rangos subordinados.

sudo dnf install -y podman        # or: sudo apt install -y podman
sudo useradd --create-home --shell /bin/bash --comment "Ollama container owner" ollama
sudo passwd --lock ollama
grep ollama /etc/subuid /etc/subgid

grep debe mostrar dos líneas, una de cada archivo. Cada línea debe indicar un rango de 65536 identificadores:

/etc/subuid:ollama:100000:65536
/etc/subgid:ollama:100000:65536

El número inicial será diferente, y eso es normal. Si grep no muestra nada, useradd no asignó ningún rango. Podman indica que falta la asignación con un mensaje similar a este:

Error: cannot find UID/GID for user ollama: no subuid ranges found for user "ollama" in /etc/subuid

Asigne un rango que no pertenezca a ningún otro usuario y, después, indique a Podman que su asignación anterior ha quedado obsoleta:

sudo usermod --add-subuids 100000-165535 --add-subgids 100000-165535 ollama
sudo -iu ollama podman system migrate

Bloquear la contraseña impide iniciar sesión con contraseña como ollama. No impide otros métodos de autenticación, como las claves SSH. Puede acceder a la cuenta desde su usuario administrativo con sudo -iu ollama.

Active el modo lingering para que el servicio sobreviva al cierre de sesión

La instancia de systemd de un usuario normalmente se inicia al iniciar sesión y se detiene después del último cierre de sesión. /run/user/<uid> también se elimina en ese momento. Los servicios administrados por esa instancia se detienen cuando ella se detiene. El modo lingering mantiene la instancia del usuario en ejecución sin una sesión asociada.

sudo loginctl enable-linger ollama
loginctl show-user ollama --property=Linger

Debe mostrar Linger=yes. Actívelo antes de crear la unidad para que el gestor del usuario y su directorio de ejecución estén disponibles sin una sesión iniciada.

Hay un paso más que no suele esperarse. sudo -iu ollama proporciona un shell, pero no un bus de sesión, por lo que systemctl --user falla de inmediato:

Failed to connect to bus: $DBUS_SESSION_BUS_ADDRESS and $XDG_RUNTIME_DIR not defined

systemd busca el bus del usuario en $XDG_RUNTIME_DIR/bus, pero sudo -i no establece esa variable. Establézcala manualmente en cada shell de administración desde el que gestione este servicio:

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user status

Dónde se almacenan los blobs de los modelos y cuánto espacio de disco planificar

Ollama escribe los pesos en /root/.ollama/models dentro del contenedor. Enlace un directorio del directorio personal del usuario con esa ruta para que los archivos se almacenen en una ubicación que pueda medir: /home/ollama/ollama-data/models. Los blobs se guardan en models/blobs como archivos direccionados por contenido, y models/manifests contiene el índice pequeño que les asigna nombres. Si usa un volumen con nombre, como en el artículo de Fedora Magazine, el mismo árbol se encuentra en /home/ollama/.local/share/containers/storage/volumes/<volume>/_data. En ambos casos, ollama pull y ollama run escriben los pesos en el mismo árbol. Lo que diferencia ambos comandos es únicamente si se abre una sesión de chat cuando termina la descarga.

Calcule el espacio de disco antes de descargar nada. Los tamaños de descarga publicados indican el mínimo necesario.

GráficoPublished download size per Ollama model tag, ollama.com/library, checked 27 October 2026
Los datos de este gráfico
[
  {
    "label": "gemma3:4b",
    "download_gb": 3.4
  },
  {
    "label": "mistral:7b",
    "download_gb": 4.4
  },
  {
    "label": "qwen3:8b",
    "download_gb": 5.2
  },
  {
    "label": "gemma3:12b",
    "download_gb": 8.2
  },
  {
    "label": "qwen3:14b",
    "download_gb": 9.3
  },
  {
    "label": "gemma3:27b",
    "download_gb": 17
  },
  {
    "label": "qwen3:30b",
    "download_gb": 19
  }
]

Todas las filas de 7 son cifras publicadas en ollama.com/library, no tamaños medidos en un disco. La etiqueta más pequeña de esta lista, gemma3:4b, descarga 3.4 GB. La más grande, qwen3:30b, descarga 19 GB. La imagen del contenedor ocupa además espacio en el almacenamiento propio de Podman, así que compruebe ambos valores con podman system df y df -h /home. Para obtener un rendimiento adecuado, planifique aproximadamente el tamaño de los archivos del modelo en RAM, además del espacio necesario para la ventana de contexto. La RAM física no es un límite estricto: la asignación de memoria respaldada por disco o una cantidad suficiente de swap pueden permitir ejecutar un modelo de 19 GB en un VPS de 16 GB, aunque con menor rendimiento.

Fije la etiqueta de imagen y use el nombre completo del registro

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
mkdir -p ~/ollama-data ~/.config/containers/systemd
podman pull docker.io/ollama/ollama:0.32.9

Use una etiqueta de versión publicada, 0.32.9 a fecha de agosto de 2026, y no latest. Desde entonces se han publicado versiones más recientes: el 30 de octubre de 2026, la etiqueta de versión simple más reciente en Docker Hub es 0.40.13. Consulte la página de etiquetas y use la versión actual tanto en el comando pull como en la línea Image=. Una etiqueta de versión fijada evita que lleguen al servidor versiones que usted no eligió, por lo que un cambio de comportamiento normalmente será consecuencia de un cambio que usted hizo. Sin embargo, una etiqueta sigue siendo un puntero y no una huella digital: el registro la mueve a otra imagen cuando alguien vuelve a publicar con el mismo nombre, y sólo un digest queda fijado. Podman acepta ambas formas en Image=. Si un reinicio a las 04:00 debe ejecutar exactamente el binario probado, ejecute podman images --digests docker.io/ollama/ollama después de la descarga y escriba Image=docker.io/ollama/ollama@sha256:<digest> en su lugar. Docker Hub también publica las etiquetas -rc y -rocm para las mismas versiones; elija la simple salvo que tenga una GPU AMD.

Especifique también el host del registro. En Fedora, un nombre corto en una unidad de systemd no tiene un terminal donde solicitar confirmación, por lo que la unidad falla con:

Error: short-name "ollama/ollama" did not resolve to an alias and no unqualified-search registries are defined

Descargar la imagen manualmente antes es opcional, pero resulta útil porque desplaza la descarga de varios gigabytes fuera del tiempo de espera de inicio de la unidad.

La unidad de Quadlet que sobrevive a un reinicio

Quadlet es el generador de systemd de Podman. Se escribe un archivo .container, systemd lo convierte en un servicio durante el arranque y podman generate systemd deja de ser necesario. Guárdelo como /home/ollama/.config/containers/systemd/ollama.container, con el usuario ollama como propietario.

[Unit]
Description=Ollama API (rootless)
After=network-online.target
Wants=network-online.target

[Container]
Image=docker.io/ollama/ollama:0.32.9
ContainerName=ollama
PublishPort=127.0.0.1:11434:11434
Volume=/home/ollama/ollama-data:/root/.ollama:Z
Environment=OLLAMA_KEEP_ALIVE=30m
Environment=OLLAMA_MAX_LOADED_MODELS=1

[Service]
Restart=always
TimeoutStartSec=900

[Install]
WantedBy=default.target

El nombre del archivo determina el nombre del servicio, por lo que ollama.container se convierte en ollama.service.

systemctl --user daemon-reload
systemctl --user start ollama.service
systemctl --user status ollama.service

status debería mostrar active (running). No ejecute systemctl --user enable ollama.service. La unidad no existe como archivo en disco, por lo que systemd la rechaza:

Failed to enable unit: Unit file /run/user/1001/systemd/generator/ollama.service is transient or generated.

La sección [Install] ya cumple esa función. Quadlet crea por sí mismo el enlace para iniciar el servicio durante daemon-reload, por lo que ese comando es obligatorio. TimeoutStartSec=900 cubre un primer arranque que todavía tiene que descargar la imagen, porque los 90 segundos predeterminados no bastan para una descarga de varios gigabytes y systemd terminará el arranque con un error. OLLAMA_KEEP_ALIVE=30m mantiene un modelo en memoria entre peticiones en lugar de descargarlo después de cinco minutos; las ventajas y desventajas se explican en mantener un modelo de Ollama cargado en memoria. Si algún término de systemd de esta sección no le resulta familiar, cómo funcionan los servicios y temporizadores de systemd en un VPS explica las unidades.

Por qué el directorio de modelos devuelve «permiso denegado» con SELinux

En Fedora, RHEL, Rocky y AlmaLinux, SELinux se aplica de forma predeterminada. Un proceso de contenedor se ejecuta en el dominio container_t y un directorio del directorio personal de un usuario tiene la etiqueta user_home_t. La política no permite que uno acceda al otro, por lo que Ollama no puede crear su árbol de modelos y el contenedor termina. getenforce muestra Enforcing en estos sistemas y el rechazo queda registrado:

sudo ausearch -m avc -ts recent

Verá una línea que indica el dominio y la etiqueta del destino:

avc:  denied  { write } for  pid=1842 comm="ollama" name="models" dev="vda1" ino=131077 scontext=system_u:system_r:container_t:s0:c214,c827 tcontext=unconfined_u:object_r:user_home_t:s0 tclass=dir permlisted=0

El :Z al final de la línea Volume= aplica la corrección. Cambia la etiqueta del directorio del host a container_file_t y le asigna una categoría MCS (seguridad mult categoría) privada que sólo lleva este contenedor. La versión en minúsculas, :z, usa una etiqueta compartida. Es la opción adecuada cuando dos contenedores leen el mismo directorio.

Hay una advertencia sobre :Z, porque es destructivo y no muestra avisos. El cambio de etiquetas se aplica de forma recursiva. Si se apunta a /home/ollama, se cambia la etiqueta de todos los archivos de ese directorio personal, lo que impide al usuario acceder a sus claves SSH. Asigne siempre a :Z un subdirectorio dedicado que no contenga nada más. Los volúmenes con nombre no lo necesitan, porque Podman les asigna las etiquetas correctas al crearlos. Para consultar una explicación más amplia, conceptos básicos de SELinux para un servidor explica los contextos y los booleanos. Ubuntu y Debian usan AppArmor; allí :Z no hace nada y dejarlo en la unidad no causa problemas.

Cierre el puerto 11434 y acceda a la API mediante SSH

PublishPort=127.0.0.1:11434:11434 enlaza el lado del host con loopback. Confírmelo:

ss -ltnp | grep 11434
curl http://127.0.0.1:11434

La salida de ss debe mostrar 127.0.0.1:11434, y curl debe responder con Ollama is running. Si ss muestra 0.0.0.0:11434 o *:11434 en su lugar, el puerto está escuchando en todas las interfaces. Que Internet pueda acceder a él depende de las reglas del firewall y de la red situada delante del servidor, por lo que un listener comodín no queda expuesto automáticamente. Aun así, no dependa de eso: la documentación de Ubuntu indica que ufw está deshabilitado de forma predeterminada al principio, y una regla de firewall es otro elemento que debe mantenerse correcto. Corrija la dirección de enlace para que el puerto nunca escuche públicamente.

Sea preciso respecto al lado en el que realiza el enlace. La dirección de PublishPort es la dirección del host. Dentro del contenedor, Ollama debe seguir escuchando en todas las interfaces, que es el valor predeterminado de la imagen. Configurar Environment=OLLAMA_HOST=127.0.0.1 enlaza Ollama con el loopback propio del contenedor, y Podman reenvía el tráfico publicado a la dirección de red del contenedor, por lo que todas las solicitudes se rechazan incluso desde el host.

Tener 11434 abierto le afecta de dos formas. Ollama no tiene autenticación, por lo que cualquiera que acceda al puerto puede listar sus modelos mediante /api/tags, ejecutar inferencias usando la CPU y la cuota de ancho de banda mediante /api/generate, descargar modelos nuevos en el disco y eliminar los que ya tiene. En segundo lugar, HTTP sin cifrar hacia un puerto remoto envía las solicitudes y las respuestas en texto claro, por lo que cualquier equipo situado en la ruta puede leerlas. Ambos problemas desaparecen si el puerto nunca sale del equipo.

Desde su estación de trabajo, reenvíe el puerto mediante SSH:

ssh -N -L 11434:127.0.0.1:11434 you@vps.example.com

Ahora http://127.0.0.1:11434 en su portátil es el Ollama del servidor, dentro del cifrado de la sesión SSH. Si su portátil ya ejecuta Ollama, el enlace local falla con bind [127.0.0.1]:11434: Address already in use; use -L 11435:127.0.0.1:11434 y apunte el cliente a 11435.

Cuando lo necesite un cliente de navegador, coloque delante un reverse proxy con contraseña. Un bloque de sitio de Caddy es breve, y caddy hash-password muestra el hash bcrypt que necesita:

ollama.example.com {
  basic_auth {
    you $2a$14$replace_with_the_generated_hash
  }
  reverse_proxy 127.0.0.1:11434
}

Caddy obtiene por sí mismo un certificado mediante TLS (transport layer security), por lo que el tráfico queda cifrado. Pruebe primero el cliente: los clientes que no puedan enviar una cabecera Authorization fallarán contra la autenticación básica con un 401 Unauthorized vacío. El túnel SSH no tiene ese problema, por lo que es la recomendación predeterminada aquí.

Descargue un modelo y compruebe toda la ruta

podman exec -it ollama ollama pull gemma3:4b
curl -s http://127.0.0.1:11434/api/tags
curl -s http://127.0.0.1:11434/api/generate -d '{"model":"gemma3:4b","prompt":"Reply with the single word: ready","stream":false}'
du -sh ~/ollama-data/models

/api/tags devuelve un JSON con la lista de gemma3:4b. /api/generate devuelve un objeto JSON con un campo response, después de una pausa mientras los pesos se cargan desde el disco. du debería indicar un número cercano al tamaño de descarga publicado. A continuación, demuestre la parte central de esta guía:

sudo reboot
# reconnect, then:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user is-active ollama.service

active significa que el proceso sigue activo; la sección [Install] y daemon-reload han funcionado correctamente. Si informa de inactive, compruebe primero esos tres elementos y después revise journalctl --user -u ollama.service en busca de errores de inicio.

Modos de fallo y cadenas que verá

El contenedor desaparece después de reiniciar. Compruebe primero loginctl show-user ollama --property=Linger, porque sin Linger=yes la instancia de systemd del usuario nunca se inicia durante el arranque. Si el modo lingering está activado, compruebe la sección [Install] del archivo .container, ejecute systemctl --user daemon-reload y revise journalctl --user -u ollama.service para detectar errores de inicio.

Error: statfs /home/ollama/ollama-data: no such file or directory. El origen del bind mount debe existir antes de iniciar el contenedor. Podman no crea los directorios del host automáticamente. Ejecute mkdir -p ~/ollama-data como el usuario ollama.

El inicio falla a los 90 segundos. journalctl --user -u ollama.service muestra Start operation timed out. Terminating. porque la descarga de la imagen todavía estaba en curso. Descargue la imagen manualmente o mantenga TimeoutStartSec=900.

El contenedor se inicia y termina. podman logs ollama y sudo ausearch -m avc -ts recent indican conjuntamente si el problema está en la etiqueta de SELinux. Un AVC que menciona container_t y user_home_t significa que falta :Z.

El host rechaza las solicitudes. curl: (7) Failed to connect to 127.0.0.1 port 11434: Connection refused con el servicio active normalmente significa que OLLAMA_HOST se configuró con una dirección de loopback dentro del contenedor. Elimine esa línea.

La generación es muy lenta o se termina el contenedor. Sin GPU, la inferencia se ejecuta en la CPU y un modelo grande es lento por naturaleza. El mapeo de memoria respaldado por disco o el uso de swap ralentizan la inferencia cuando el modelo no cabe en la RAM física. Si un contenedor termina durante una solicitud y los registros contienen signal: killed, debe comprobar la causa. Si el registro del kernel confirma una terminación por falta de memoria, elija una etiqueta más pequeña de la tabla anterior.

Actualizar una imagen fijada

Fijar una imagen significa que las actualizaciones se aplican de forma controlada, en lugar de producirse automáticamente. Edite Image= en ollama.container y, después, recargue y reinicie:

systemctl --user daemon-reload
systemctl --user restart ollama.service
podman exec ollama ollama --version

Los modelos se almacenan en el montaje de enlace, por lo que no se modifican al cambiar la imagen. AutoUpdate=registry, en la sección [Container], configura las comprobaciones del resumen criptográfico contra el registro; podman auto-update, ejecutado manualmente o mediante su temporizador de systemd, descarga una imagen modificada y reinicia la unidad. Esto resulta adecuado para una etiqueta que cambia. Junto a una etiqueta de versión, sólo se ejecuta cuando el editor vuelve a publicar esa misma etiqueta. Ese es precisamente el cambio no planificado que el fijado debe impedir, por lo que debe dejarlo desactivado aquí. Haga una copia de seguridad de /home/ollama/ollama-data/models/manifests y del archivo .container, y omita los blobs: son grandes y ollama pull los descarga de nuevo en un equipo nuevo.

FAQ

¿Por qué se detiene mi contenedor rootless de Podman cuando cierro la sesión?

La instancia de systemd de un usuario y su directorio /run/user/<uid> normalmente se desmontan cuando termina la última sesión de ese usuario. Esto detiene los servicios gestionados por esa instancia. Ejecute sudo loginctl enable-linger ollama y confirme que loginctl show-user ollama --property=Linger muestra Linger=yes. Habilite el modo lingering antes de crear la unidad Quadlet para que el gestor de usuario y su directorio de ejecución estén disponibles sin una sesión iniciada.

¿Necesito etiquetas de SELinux en el directorio de modelos de Ollama?

En Fedora, RHEL, Rocky y AlmaLinux, sí, si monta un directorio del host mediante bind mount. El contenedor se ejecuta en el dominio container_t y un directorio dentro del directorio personal tiene la etiqueta user_home_t. Por tanto, la escritura se deniega y Ollama termina. Añada :Z a la línea Volume= y asígnele un subdirectorio dedicado, porque el cambio recursivo de etiquetas afecta a todo el contenido y apuntar :Z a un directorio personal completo rompe el acceso a las claves SSH de ese usuario. Podman etiqueta correctamente los volúmenes con nombre y no necesitan nada más.

¿Cuánto espacio en disco necesita un modelo de Ollama?

Empiece por el tamaño de descarga publicado en ollama.com/library, que va desde 3.4 GB para gemma3:4b hasta 19 GB para qwen3:30b. Añada la imagen de Podman y deje espacio adicional, porque un segundo modelo no sustituye al primero en el disco. Compruebe df -h /home antes de descargarlo y du -sh ~/ollama-data/models después. Para obtener un buen rendimiento, planifique aproximadamente el tamaño del archivo del modelo en RAM, además del espacio necesario para la ventana de contexto. El mapeo de memoria respaldado por disco o una cantidad suficiente de swap pueden permitir ejecutar un modelo más grande con menos RAM física, aunque con menor rendimiento.

¿Es seguro exponer el puerto 11434 en un VPS?

No. Ollama se distribuye sin ningún tipo de autenticación, por lo que cualquiera que acceda al puerto puede listar los modelos, eliminarlos, descargar otros en el disco y ejecutar inferencias usando la CPU y el límite de ancho de banda. Además, HTTP sin cifrado a través de Internet envía cada prompt y cada respuesta en texto claro. Enlace el lado del host a 127.0.0.1 con PublishPort=127.0.0.1:11434:11434, confirme el resultado con ss -ltnp | grep 11434 y acceda mediante un túnel SSH o un proxy inverso que requiera una contraseña.

¿Te resultó útil este artículo?