SSD Nodes Learn Hosting plans →
Guides Matt ConnorPar Matt Connor

Installer Ollama avec Podman rootless sur un VPS

Déployez Ollama avec Podman rootless sur un VPS : utilisateur dédié, lingering, Quadlet après reboot, labels SELinux et port 11434 fermé.

Exécuter Ollama dans Podman rootless sur un VPS

Pour exécuter Ollama dans Podman rootless sur un serveur, cinq conditions doivent être réunies, contrairement à une procédure de bureau qui peut en ignorer certaines. Un utilisateur non privilégié dédié doit être propriétaire du conteneur. Le lingering doit être activé pour cet utilisateur afin que le conteneur continue de fonctionner après votre déconnexion. Un fichier Quadlet confie le conteneur à systemd afin qu’il redémarre après un reboot. Le répertoire des modèles doit porter un label SELinux sur les distributions qui l’imposent. L’API doit écouter uniquement sur loopback, et vous devez y accéder via un tunnel SSH (secure shell).

Ollama est un serveur pour les grands modèles de langage (LLM). Il stocke les poids des modèles sur disque, les charge en mémoire et répond aux requêtes HTTP sur le port 11434. Son API locale ne demande ni connexion ni clé API. Le réseau est donc le seul contrôle d’accès dont vous disposez ici. Podman exécute les conteneurs sans daemon et sans root. Ainsi, tout ce qui s’échappe du conteneur commence avec les droits d’un utilisateur non privilégié ordinaire. Si vous souhaitez d’abord comparer les environnements d’exécution, consultez les différences entre Podman et Docker sur un VPS. Si vous préférez éviter complètement les conteneurs, installer Ollama directement sur un VPS est une solution plus courte.

Fedora fournit par défaut Podman et SELinux (security-enhanced Linux). Les commandes ci-dessous supposent Podman 5 ou une version plus récente. L’unité Quadlet nécessite également cgroup v2, que la documentation de Podman indique comme prérequis de Quadlet, quelle que soit la version de Podman. Vérifiez les deux éléments avant de commencer : podman --version pour le premier et podman info | grep -i cgroup pour le second. La ligne cgroupVersion doit afficher v2. Sur Ubuntu 24.04, le paquet podman des dépôts est en version 4.9.3, donc plus ancien que cette ligne. Vérifiez d’abord la version dans cet environnement.

Pourquoi la version pour ordinateur portable doit être adaptée sur un serveur

Fedora Magazine a publié un guide clair sur cette pile le 5 août 2026 : Exécuter Ollama localement avec Podman sous Fedora Linux, par Yazan Monshed. C’est une bonne introduction aux outils. Mais ce guide vise aussi un ordinateur portable, et quatre de ses choix se comportent différemment sur une machine dotée d’une adresse IP publique.

  • Le conteneur est démarré avec un simple podman run -d. Un conteneur démarré manuellement ne redémarre pas après un reboot, car rien n’a été configuré pour le démarrer.
  • Le guide utilise le tag évolutif ollama/ollama. Sur un ordinateur portable, vous remarquez le jour où le comportement change. Sur un serveur, le premier signe est souvent un script qui cesse de fonctionner pendant la nuit.
  • La publication utilise -p 11434:11434, qui lie le service à toutes les interfaces. Derrière un routeur domestique, le service est inaccessible depuis Internet. Sur un VPS, cela expose une API d’inférence publique sans mot de passe.
  • Le conteneur s’exécute avec votre propre utilisateur de connexion. Sur un serveur, le compte propriétaire du conteneur ne doit rien posséder d’autre. Ainsi, une sortie du conteneur aboutit dans un répertoire personnel vide.

Aucun de ces choix n’est incorrect pour la machine visée par le guide. Il s’agit simplement de décisions à réexaminer lorsque le serveur est accessible depuis partout et que personne ne se trouve devant lui.

Créer l’utilisateur non privilégié et vérifier subuid

Rootless Podman mappe les identifiants utilisateur (UID) internes du conteneur vers un bloc d’identifiants inutilisés sur l’hôte. Ce bloc est déclaré dans /etc/subuid et /etc/subgid. Podman prend également en charge un mode à UID unique, mais configurez des plages de subuid pour cette configuration.

sudo dnf install -y podman        # or: sudo apt install -y podman
sudo useradd --create-home --shell /bin/bash --comment "Ollama container owner" ollama
sudo passwd --lock ollama
grep ollama /etc/subuid /etc/subgid

La commande grep doit afficher deux lignes, une pour chaque fichier, chacune indiquant une plage de 65536 identifiants :

/etc/subuid:ollama:100000:65536
/etc/subgid:ollama:100000:65536

Votre nombre de départ sera différent, ce qui est normal. Si grep n’affiche rien, useradd n’a pas alloué de plage. Podman signale l’absence d’un mapping avec un message similaire à celui-ci :

Error: cannot find UID/GID for user ollama: no subuid ranges found for user "ollama" in /etc/subuid

Attribuez une plage qu’aucun autre utilisateur n’utilise, puis indiquez à Podman que son ancien mapping est obsolète :

sudo usermod --add-subuids 100000-165535 --add-subgids 100000-165535 ollama
sudo -iu ollama podman system migrate

Le verrouillage du mot de passe bloque la connexion par mot de passe en tant que ollama ; il ne bloque pas les autres méthodes d’authentification, comme les clés SSH. Depuis votre utilisateur d’administration, accédez au compte avec sudo -iu ollama.

Activer le lingering pour que le service survive à la déconnexion

L’instance systemd d’un utilisateur démarre normalement lors de la connexion et s’arrête après la dernière déconnexion. Le site /run/user/<uid> est alors également supprimé. Les services gérés par cette instance s’arrêtent avec elle. Le lingering maintient l’instance utilisateur active sans session associée.

sudo loginctl enable-linger ollama
loginctl show-user ollama --property=Linger

Cette commande doit afficher Linger=yes. Activez le lingering avant de créer l’unité afin que le user manager et son répertoire d’exécution soient disponibles sans session de connexion.

Une dernière étape est nécessaire. sudo -iu ollama fournit un shell, mais pas de session bus. systemctl --user échoue donc immédiatement :

Failed to connect to bus: $DBUS_SESSION_BUS_ADDRESS and $XDG_RUNTIME_DIR not defined

systemd recherche le user bus à l’emplacement $XDG_RUNTIME_DIR/bus, mais sudo -i ne définit pas cette variable. Définissez-la manuellement dans chaque shell d’administration depuis lequel vous gérez ce service :

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user status

Où les blobs des modèles sont stockés et quelle capacité disque prévoir

Ollama écrit les poids dans /root/.ollama/models à l’intérieur du conteneur. Montez un répertoire du répertoire personnel de l’utilisateur sur ce chemin afin que les fichiers soient stockés à un emplacement que vous pouvez mesurer : /home/ollama/ollama-data/models. Les blobs sont placés dans models/blobs sous forme de fichiers adressés par leur contenu, et models/manifests contient le petit index qui les référence. Si vous utilisez plutôt un volume nommé, comme dans l’article de Fedora Magazine, la même arborescence se trouve sous /home/ollama/.local/share/containers/storage/volumes/<volume>/_data. Dans les deux cas, ollama pull et ollama run écrivent les poids dans la même arborescence. Ce qui distingue les deux commandes est uniquement le fait qu’une session de chat s’ouvre ou non une fois le téléchargement terminé.

Dimensionnez le disque avant de télécharger quoi que ce soit. Les tailles de téléchargement publiées donnent la capacité minimale à prévoir.

GraphiquePublished download size per Ollama model tag, ollama.com/library, checked 27 October 2026
Les données de ce graphique
[
  {
    "label": "gemma3:4b",
    "download_gb": 3.4
  },
  {
    "label": "mistral:7b",
    "download_gb": 4.4
  },
  {
    "label": "qwen3:8b",
    "download_gb": 5.2
  },
  {
    "label": "gemma3:12b",
    "download_gb": 8.2
  },
  {
    "label": "qwen3:14b",
    "download_gb": 9.3
  },
  {
    "label": "gemma3:27b",
    "download_gb": 17
  },
  {
    "label": "qwen3:30b",
    "download_gb": 19
  }
]

Les 7 lignes correspondent toutes à des chiffres publiés sur ollama.com/library, et non à des tailles mesurées sur un disque. Le tag le plus petit, gemma3:4b, nécessite le téléchargement de 3.4 Go. Le plus grand, qwen3:30b, nécessite le téléchargement de 19 Go. L’image du conteneur s’ajoute à cela dans le stockage propre à Podman. Vérifiez donc les deux valeurs avec podman system df et df -h /home. Pour de bonnes performances, prévoyez environ la taille du fichier du modèle en RAM, ainsi qu’un espace supplémentaire pour la fenêtre de contexte. La quantité de RAM physique n’est pas une limite stricte : le memory mapping adossé au disque ou un swap suffisant peuvent permettre d’exécuter un modèle de 19 Go sur un VPS doté de 16 Go de RAM, avec des performances réduites.

Épinglez le tag de l’image et utilisez le nom complet du registre

sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
mkdir -p ~/ollama-data ~/.config/containers/systemd
podman pull docker.io/ollama/ollama:0.32.9

Utilisez un tag de version publiée, 0.32.9 en août 2026, et non latest. De nouvelles versions sont sorties depuis : le 30 octobre 2026, le tag de version standard le plus récent sur Docker Hub est 0.40.13. Consultez donc la page des tags et utilisez la version actuelle à la fois dans la commande pull et sur la ligne Image=. Un tag de version épinglé empêche les versions que vous n’avez pas choisies d’être installées sur le serveur. Ainsi, une modification du comportement provient normalement d’un changement effectué par vos soins. Un tag reste toutefois un pointeur et non une empreinte : le registre le fait pointer vers une autre image dès qu’une nouvelle image est publiée sous le même nom. Seul un digest est immuable. Podman accepte les deux formats dans Image=. Si un redémarrage à 04:00 doit exécuter exactement le binaire que vous avez testé, exécutez podman images --digests docker.io/ollama/ollama après le pull et écrivez plutôt Image=docker.io/ollama/ollama@sha256:<digest>. Docker Hub publie également les tags -rc et -rocm pour les mêmes versions. Choisissez le tag standard, sauf si vous avez un GPU AMD.

Indiquez également l’hôte du registre. Sur Fedora, un nom court utilisé dans une unité systemd ne dispose d’aucun terminal dans lequel demander une confirmation. L’unité échoue alors avec :

Error: short-name "ollama/ollama" did not resolve to an alias and no unqualified-search registries are defined

Effectuer d’abord le pull manuellement est facultatif, mais utile, car cela déplace le téléchargement de plusieurs gigaoctets en dehors du délai d’expiration du démarrage de l’unité.

L’unité Quadlet qui survit à un redémarrage

Quadlet est le générateur systemd de Podman. Vous écrivez un fichier .container, systemd le transforme en service au démarrage, et podman generate systemd n’est plus nécessaire. Enregistrez-le sous /home/ollama/.config/containers/systemd/ollama.container, avec comme propriétaire l’utilisateur ollama.

[Unit]
Description=Ollama API (rootless)
After=network-online.target
Wants=network-online.target

[Container]
Image=docker.io/ollama/ollama:0.32.9
ContainerName=ollama
PublishPort=127.0.0.1:11434:11434
Volume=/home/ollama/ollama-data:/root/.ollama:Z
Environment=OLLAMA_KEEP_ALIVE=30m
Environment=OLLAMA_MAX_LOADED_MODELS=1

[Service]
Restart=always
TimeoutStartSec=900

[Install]
WantedBy=default.target

Le nom du fichier définit le nom du service. Ainsi, ollama.container devient ollama.service.

systemctl --user daemon-reload
systemctl --user start ollama.service
systemctl --user status ollama.service

status doit afficher active (running). N’exécutez pas systemctl --user enable ollama.service. L’unité n’existe pas sous forme de fichier sur le disque, donc systemd refuse :

Failed to enable unit: Unit file /run/user/1001/systemd/generator/ollama.service is transient or generated.

La section [Install] s’en charge déjà. Quadlet crée lui-même le lien de démarrage automatique pendant daemon-reload, ce qui explique pourquoi cette commande est obligatoire. TimeoutStartSec=900 couvre un premier démarrage qui doit encore télécharger l’image, car le délai par défaut de 90 secondes ne suffit pas pour télécharger plusieurs gigaoctets et systemd arrête alors le démarrage avec un échec. OLLAMA_KEEP_ALIVE=30m conserve un modèle en mémoire entre les requêtes au lieu de le décharger après cinq minutes ; les compromis sont présentés dans conserver un modèle Ollama en mémoire. Si certains termes systemd utilisés ici vous sont inconnus, fonctionnement des services et des timers systemd sur un VPS présente les unités elles-mêmes.

Pourquoi le répertoire des modèles renvoie « permission denied » avec SELinux

Sur Fedora, RHEL, Rocky et AlmaLinux, SELinux est activé en mode enforcing par défaut. Un processus de conteneur s’exécute dans le domaine container_t, tandis qu’un répertoire situé dans le home d’un utilisateur porte l’étiquette user_home_t. La policy ne permet pas à l’un d’accéder à l’autre. Ollama ne peut donc pas créer son arborescence de modèles et le conteneur s’arrête. Sur ces systèmes, getenforce affiche Enforcing, et le refus est enregistré :

sudo ausearch -m avc -ts recent

Vous verrez une ligne qui indique le domaine et l’étiquette de la cible :

avc:  denied  { write } for  pid=1842 comm="ollama" name="models" dev="vda1" ino=131077 scontext=system_u:system_r:container_t:s0:c214,c827 tcontext=unconfined_u:object_r:user_home_t:s0 tclass=dir permlisted=0

Le :Z à la fin de la ligne Volume= est la correction. Il réétiquette le répertoire hôte avec container_file_t et lui attribue une catégorie MCS (multi-category security) privée que seul ce conteneur porte. La forme en minuscules, :z, utilise à la place une étiquette partagée. C’est ce qu’il faut utiliser lorsque deux conteneurs lisent le même répertoire.

Attention à :Z, car cette commande est destructive et silencieuse. Le réétiquetage est récursif. Si vous lui indiquez /home/ollama, tous les fichiers de ce répertoire home sont réétiquetés, ce qui empêche l’utilisateur concerné d’accéder à ses clés SSH. Donnez toujours à :Z un sous-répertoire dédié qui ne contient rien d’autre. Les volumes nommés n’en ont pas besoin, car Podman les étiquette correctement lors de leur création. Pour une vue d’ensemble, Principes de base de SELinux pour un serveur explique les contextes et les booleans. Ubuntu et Debian utilisent AppArmor à la place. Dans ce cas, :Z ne fait rien, et sa présence dans l’unité ne pose aucun problème.

Fermer le port 11434 et accéder à l’API via SSH

PublishPort=127.0.0.1:11434:11434 lie le côté hôte à l’interface loopback. Vérifiez-le :

ss -ltnp | grep 11434
curl http://127.0.0.1:11434

La sortie de ss doit afficher 127.0.0.1:11434, et curl doit répondre avec Ollama is running. Si ss affiche 0.0.0.0:11434 ou *:11434 à la place, le port écoute sur toutes les interfaces. La possibilité pour Internet d’y accéder dépend alors de vos règles de firewall et du réseau situé devant le serveur. Un listener wildcard n’est donc pas automatiquement exposé. Ne vous appuyez toutefois pas sur ce comportement : la documentation Ubuntu indique que ufw est initialement désactivé par défaut, et qu’une règle de firewall est un élément supplémentaire à maintenir correctement. Corrigez l’adresse de bind afin que le port n’écoute jamais publiquement.

Soyez précis sur le côté auquel vous appliquez le bind. L’adresse dans PublishPort est l’adresse de l’hôte. Dans le conteneur, Ollama doit continuer à écouter sur toutes les interfaces, comme le prévoit la configuration par défaut de l’image. Définir Environment=OLLAMA_HOST=127.0.0.1 lie Ollama à sa propre interface loopback dans le conteneur. Podman redirige alors le trafic publié vers l’adresse réseau du conteneur, et chaque requête est refusée, même depuis l’hôte.

Un port 11434 ouvert vous expose à deux problèmes. Ollama n’a aucune authentification. Toute personne pouvant atteindre le port peut lister vos modèles avec /api/tags, exécuter des inférences en consommant votre CPU et votre quota de bande passante avec /api/generate, télécharger de nouveaux modèles sur votre disque et supprimer ceux que vous possédez. Ensuite, des requêtes HTTP non chiffrées vers un port distant transmettent les prompts et les réponses en clair. Chaque machine située sur le chemin peut donc les lire. Ces deux problèmes disparaissent si le port ne sort jamais de la machine.

Depuis votre poste de travail, transférez le port via SSH :

ssh -N -L 11434:127.0.0.1:11434 you@vps.example.com

http://127.0.0.1:11434 sur votre ordinateur portable correspond maintenant à l’instance Ollama du serveur, au sein du chiffrement de la session SSH. Si Ollama s’exécute déjà sur votre ordinateur portable, le bind local échoue avec bind [127.0.0.1]:11434: Address already in use. Utilisez -L 11435:127.0.0.1:11434 et configurez votre client pour utiliser le port 11435.

Lorsqu’un client web en a besoin, placez plutôt un reverse proxy protégé par mot de passe devant le service. Un bloc de site Caddy est court, et caddy hash-password affiche le hash bcrypt attendu :

ollama.example.com {
  basic_auth {
    you $2a$14$replace_with_the_generated_hash
  }
  reverse_proxy 127.0.0.1:11434
}

Caddy obtient lui-même un certificat via TLS (transport layer security), ce qui chiffre le trafic. Testez d’abord votre client : les clients incapables d’envoyer un en-tête Authorization échoueront avec l’authentification basic auth et un simple 401 Unauthorized. Le tunnel SSH ne présente pas ce problème, raison pour laquelle il constitue la recommandation par défaut ici.

Téléchargez un modèle et vérifiez l’ensemble du chemin

podman exec -it ollama ollama pull gemma3:4b
curl -s http://127.0.0.1:11434/api/tags
curl -s http://127.0.0.1:11434/api/generate -d '{"model":"gemma3:4b","prompt":"Reply with the single word: ready","stream":false}'
du -sh ~/ollama-data/models

/api/tags renvoie une liste JSON de gemma3:4b. /api/generate renvoie un objet JSON contenant un champ response, après un délai pendant lequel les poids sont chargés depuis le disque. du doit indiquer un nombre proche de la taille de téléchargement publiée. Vérifiez ensuite la partie qui constitue le sujet de ce guide :

sudo reboot
# reconnect, then:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user is-active ollama.service

active signifie que le processus est toujours actif, que la section [Install] et daemon-reload ont toutes deux fonctionné. Si la valeur renvoyée est inactive, vérifiez d’abord ces trois éléments, puis examinez journalctl --user -u ollama.service à la recherche d’erreurs au démarrage.

Modes d’échec et messages affichés

Le conteneur a disparu après un redémarrage. Vérifiez d’abord loginctl show-user ollama --property=Linger, car sans Linger=yes, l’instance systemd de l’utilisateur ne démarre jamais au boot. Si le lingering est activé, vérifiez la section [Install] dans le fichier .container, exécutez systemctl --user daemon-reload et examinez journalctl --user -u ollama.service à la recherche d’erreurs au démarrage.

Error: statfs /home/ollama/ollama-data: no such file or directory. La source du bind mount doit exister avant le démarrage du conteneur. Podman ne crée pas les répertoires hôtes à votre place. Exécutez mkdir -p ~/ollama-data avec l’utilisateur ollama.

Le démarrage échoue au bout de 90 secondes. journalctl --user -u ollama.service affiche Start operation timed out. Terminating., car le téléchargement de l’image était encore en cours. Téléchargez l’image manuellement ou conservez TimeoutStartSec=900.

Le conteneur démarre puis s’arrête. podman logs ollama et sudo ausearch -m avc -ts recent indiquent ensemble si le problème vient du label SELinux. Un AVC mentionnant container_t et user_home_t signifie que :Z est absent.

Les requêtes sont refusées depuis l’hôte. curl: (7) Failed to connect to 127.0.0.1 port 11434: Connection refused avec le service active signifie généralement que OLLAMA_HOST a été défini sur une adresse loopback dans le conteneur. Supprimez cette ligne.

La génération est très lente ou le conteneur est tué. Sans GPU, l’inférence s’exécute sur le CPU et un modèle volumineux est naturellement lent. Le memory mapping sur disque ou le swap ralentit l’inférence lorsque le modèle ne tient pas dans la RAM physique. Si un conteneur s’arrête en pleine requête et que signal: killed apparaît dans les journaux, recherchez la cause. Si le journal du kernel confirme un kill pour manque de mémoire, choisissez un tag plus petit dans le tableau ci-dessus.

Mise à jour d’une image épinglée

L’épinglage signifie que vous choisissez quand effectuer les mises à jour, au lieu de les subir. Modifiez Image= dans ollama.container, puis rechargez et redémarrez :

systemctl --user daemon-reload
systemctl --user restart ollama.service
podman exec ollama ollama --version

Les modèles se trouvent dans le bind mount. Ils restent donc inchangés lors du remplacement de l’image. AutoUpdate=registry dans la section [Container] configure la vérification des digest auprès du registry. podman auto-update, exécuté manuellement ou par son timer systemd, récupère une image modifiée et redémarre l’unité. Cette configuration convient à un moving tag. Avec un version tag, la commande ne s’exécute que lorsque l’éditeur republie ce même tag. C’est précisément le changement imprévu que l’épinglage doit empêcher. Laissez donc cette option désactivée ici. Sauvegardez /home/ollama/ollama-data/models/manifests et le fichier .container, mais excluez les blobs. Ils sont volumineux, et ollama pull les récupérera sur une nouvelle machine.

FAQ

Pourquoi mon conteneur Podman rootless s’arrête-t-il quand je me déconnecte ?

L’instance systemd d’un utilisateur et son répertoire /run/user/<uid> sont normalement supprimés après la fin de la dernière session de cet utilisateur. Les services gérés par cette instance s’arrêtent alors. Exécutez sudo loginctl enable-linger ollama et vérifiez que loginctl show-user ollama --property=Linger affiche Linger=yes. Activez le lingering avant de créer l’unité Quadlet afin que le user manager et son répertoire d’exécution soient disponibles sans session de connexion.

Ai-je besoin des labels SELinux sur le répertoire des modèles Ollama ?

Sur Fedora, RHEL, Rocky et AlmaLinux, oui, si vous montez un répertoire de l’hôte avec bind mount. Le conteneur s’exécute dans le domaine container_t et un répertoire situé dans un dossier personnel porte le label user_home_t. L’écriture est donc refusée et Ollama s’arrête. Ajoutez :Z à la ligne Volume= et utilisez-lui un sous-répertoire dédié, car le changement récursif de label et l’utilisation de :Z sur un dossier personnel entier empêchent l’accès aux clés SSH de cet utilisateur. Les volumes nommés reçoivent les bons labels avec Podman et ne nécessitent rien de plus.

De combien d’espace disque un modèle Ollama a-t-il besoin ?

Commencez par consulter la taille de téléchargement publiée sur ollama.com/library. Elle va de 3.4 GB pour gemma3:4b à 19 GB pour qwen3:30b. Ajoutez l’image Podman, puis prévoyez une marge, car un second modèle ne remplace pas le premier sur le disque. Vérifiez df -h /home avant le téléchargement et du -sh ~/ollama-data/models après. Pour de bonnes performances, prévoyez environ la taille du fichier du modèle en RAM, plus l’espace nécessaire à la fenêtre de contexte. Le memory mapping soutenu par le disque ou une quantité suffisante de swap peut permettre d’exécuter un modèle plus volumineux avec moins de RAM physique, au prix de performances réduites.

Est-il sûr d’exposer le port 11434 sur un VPS ?

Non. Ollama ne fournit aucune authentification, de quelque nature que ce soit. Toute personne qui atteint le port peut lister vos modèles, les supprimer, en télécharger de nouveaux sur votre disque et exécuter des inférences en utilisant votre CPU et votre quota de bande passante. Le HTTP en clair sur Internet transmet également chaque prompt et chaque réponse en clair. Liez le côté hôte à 127.0.0.1 avec PublishPort=127.0.0.1:11434:11434, vérifiez avec ss -ltnp | grep 11434, puis accédez-y via un tunnel SSH ou un reverse proxy qui exige un mot de passe.

Cet article vous a-t-il été utile ?