Ollama in Podman rootless su un VPS
Configura Ollama in Podman rootless su VPS con utente dedicato, lingering, Quadlet, riavvio dopo reboot, etichette SELinux e porta 11434 chiusa.
Eseguire Ollama in Podman rootless su un VPS
Per eseguire Ollama in Podman rootless su un server, devono essere soddisfatte cinque condizioni che una guida per desktop può ignorare. Un utente non privilegiato dedicato deve essere proprietario del container. Per quell'utente deve essere abilitato il lingering, in modo che il container continui a essere eseguito dopo la disconnessione. Un file Quadlet deve affidare il container a systemd, così il servizio viene riavviato dopo un reboot. La directory dei modelli deve avere un'etichetta SELinux nelle distribuzioni che applicano SELinux. L'API deve restare in ascolto soltanto sul loopback e deve essere raggiunta tramite un tunnel SSH (secure shell).
Ollama è un server per modelli linguistici di grandi dimensioni (LLM). Memorizza i pesi dei modelli su disco, li carica in memoria e risponde alle richieste HTTP sulla porta 11434. La sua API locale non richiede login né una chiave API, quindi in questo caso il controllo degli accessi dipende esclusivamente dalla rete. Podman esegue i container senza un daemon e senza root, quindi qualsiasi processo che esca dal container parte inizialmente con i privilegi di un normale utente non privilegiato. Se vuoi prima confrontare i runtime, leggi le differenze tra Podman e Docker su un VPS. Se preferisci evitare del tutto i container, installare Ollama direttamente su un VPS è un percorso più breve.
Fedora include per impostazione predefinita sia Podman sia SELinux (security-enhanced Linux). I comandi seguenti presuppongono Podman 5 o versioni successive; inoltre, l'unità Quadlet richiede cgroup v2, che la documentazione di Podman indica come requisito di Quadlet indipendentemente dalla versione di Podman. Controlla entrambi prima di iniziare: podman --version per il primo e podman info | grep -i cgroup per il secondo; la riga cgroupVersion deve contenere v2. In Ubuntu 24.04, il pacchetto podman dell'archivio è alla versione 4.9.3, quindi è precedente a quella indicata nella riga; controlla prima la versione disponibile in quella distribuzione.
Perché la versione per laptop richiede modifiche su un server
Fedora Magazine ha pubblicato il 5 agosto 2026 una guida chiara a questo stack: Eseguire Ollama localmente con Podman su Fedora Linux, di Yazan Monshed. È un buon punto di partenza per conoscere gli strumenti nella prima ora. Tuttavia, la guida è pensata per un laptop e quattro delle sue scelte si comportano in modo diverso su una macchina con un indirizzo IP pubblico.
- Avvia il container con un semplice
podman run -d. Un container avviato manualmente non viene riavviato dopo un reboot, perché non è mai stato configurato per partire automaticamente. - Usa il tag mobile
ollama/ollama. Su un laptop ci si accorge del cambiamento nel giorno in cui il comportamento cambia. Su un server, il primo segnale è spesso uno script che ha smesso di funzionare durante la notte. - Pubblica il servizio con
-p 11434:11434, che esegue il binding su tutte le interfacce. Dietro un router domestico, il servizio non è raggiungibile da Internet. Su un VPS, invece, diventa un'API di inferenza pubblica senza password. - Esegue il servizio con il proprio utente di accesso. Su un server, l'account proprietario del container non dovrebbe possedere nient'altro, in modo che un'eventuale evasione dal container conduca a una directory home vuota.
Nessuna di queste scelte è errata per la macchina a cui era destinata la guida. Sono semplicemente decisioni da rivalutare quando il server è raggiungibile da Internet e nessuno si trova davanti alla macchina.
Crea l'utente senza privilegi e verifica subuid
Rootless Podman mappa gli ID utente (UID) interni al container su un intervallo di ID non utilizzati nel sistema host. Questo intervallo è dichiarato in /etc/subuid e /etc/subgid. Podman supporta anche la modalità con un singolo UID, ma per questa configurazione devi impostare gli intervalli subordinati.
sudo dnf install -y podman # or: sudo apt install -y podman
sudo useradd --create-home --shell /bin/bash --comment "Ollama container owner" ollama
sudo passwd --lock ollama
grep ollama /etc/subuid /etc/subgidgrep dovrebbe stampare due righe, una per ciascun file, che indicano un intervallo di 65536 ID:
/etc/subuid:ollama:100000:65536
/etc/subgid:ollama:100000:65536Il numero iniziale sarà diverso, ed è normale. Se grep non stampa nulla, useradd non ha assegnato alcun intervallo. Podman segnala l'assenza della mappatura con un messaggio simile al seguente:
Error: cannot find UID/GID for user ollama: no subuid ranges found for user "ollama" in /etc/subuidAssegna un intervallo non utilizzato da altri utenti, quindi comunica a Podman che la vecchia mappatura non è più valida:
sudo usermod --add-subuids 100000-165535 --add-subgids 100000-165535 ollama
sudo -iu ollama podman system migrateBloccare la password impedisce l'accesso tramite password come ollama, ma non impedisce altri metodi di autenticazione, ad esempio le chiavi SSH. Puoi accedere all'account dal tuo utente amministratore con sudo -iu ollama.
Abilitare il lingering affinché il servizio sopravviva alla disconnessione
L'istanza systemd di un utente viene normalmente avviata al login e arrestata dopo l'ultima disconnessione; anche /run/user/<uid> viene rimosso insieme all'istanza. I servizi gestiti da quell'istanza si arrestano quando l'istanza termina. Il lingering mantiene in esecuzione l'istanza dell'utente senza una sessione associata.
sudo loginctl enable-linger ollama
loginctl show-user ollama --property=LingerIl comando dovrebbe restituire Linger=yes. Abilitate il lingering prima di creare l'unità, così il gestore dell'utente e la relativa directory di runtime saranno disponibili anche senza una sessione di login.
C'è un altro passaggio che spesso non viene considerato. sudo -iu ollama fornisce una shell, ma non un bus di sessione; di conseguenza systemctl --user fallisce immediatamente:
Failed to connect to bus: $DBUS_SESSION_BUS_ADDRESS and $XDG_RUNTIME_DIR not definedsystemd cerca il bus dell'utente in $XDG_RUNTIME_DIR/bus, ma sudo -i non imposta questa variabile. Impostatela manualmente in ogni shell di amministrazione da cui gestite questo servizio:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user statusDove vengono salvati i blob dei modelli e quanto spazio su disco prevedere
Ollama scrive i pesi in /root/.ollama/models all'interno del container. Collega una directory della home dell'utente a quel percorso: i file verranno salvati in una posizione che puoi misurare, /home/ollama/ollama-data/models. I blob vengono memorizzati in models/blobs come file indicizzati in base al contenuto, mentre models/manifests contiene il piccolo indice che li identifica. Se usi invece un volume denominato, come nell'articolo di Fedora Magazine, lo stesso albero si trova in /home/ollama/.local/share/containers/storage/volumes/<volume>/_data. In entrambi i casi, ollama pull e ollama run scrivono i pesi nello stesso albero. Ciò che distingue i due comandi è soltanto l'apertura di una sessione di chat al termine del download.
Calcola lo spazio su disco prima di scaricare qualsiasi file. Le dimensioni di download pubblicate indicano il requisito minimo.
I dati alla base di questo grafico
[
{
"label": "gemma3:4b",
"download_gb": 3.4
},
{
"label": "mistral:7b",
"download_gb": 4.4
},
{
"label": "qwen3:8b",
"download_gb": 5.2
},
{
"label": "gemma3:12b",
"download_gb": 8.2
},
{
"label": "qwen3:14b",
"download_gb": 9.3
},
{
"label": "gemma3:27b",
"download_gb": 17
},
{
"label": "qwen3:30b",
"download_gb": 19
}
]Tutte le 7 righe riportano valori pubblicati su ollama.com/library, non dimensioni misurate su disco. Il tag più piccolo, gemma3:4b, richiede il download di 3.4 GB. Il più grande, qwen3:30b, richiede il download di 19 GB. L'immagine del container occupa inoltre spazio nello storage gestito da Podman. Verifica quindi entrambi i valori con podman system df e df -h /home. Per ottenere prestazioni adeguate, prevedi in RAM uno spazio approssimativamente pari alla dimensione del file del modello, oltre alla memoria necessaria per la finestra di contesto. La RAM fisica non costituisce un limite rigido: il memory mapping supportato dal disco o una quantità sufficiente di swap possono consentire l'esecuzione di un modello da 19 GB su un VPS con 16 GB di RAM, con prestazioni inferiori.
Blocca il tag dell'immagine e usa il nome completo del registry
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
mkdir -p ~/ollama-data ~/.config/containers/systemd
podman pull docker.io/ollama/ollama:0.32.9Usa un tag di versione rilasciato, 0.32.9 ad agosto 2026, non latest. Nel frattempo sono state rilasciate versioni più recenti: il 30 ottobre 2026, il tag di versione semplice più recente su Docker Hub è 0.40.13. Controlla quindi la pagina dei tag e usa la release corrente sia nel comando pull sia nella riga Image=. Un tag di versione bloccato impedisce che release non selezionate vengano eseguite sul server. In questo modo, un cambiamento del comportamento è normalmente riconducibile a una modifica effettuata da te. Tuttavia, un tag è ancora un puntatore e non un'impronta: il registry lo associa a un'immagine diversa ogni volta che qualcuno esegue un push usando di nuovo lo stesso nome. Solo un digest è immutabile. Podman accetta entrambi i formati in Image=. Se un riavvio alle 04:00 deve eseguire esattamente il binario che hai testato, esegui podman images --digests docker.io/ollama/ollama dopo il pull e usa invece Image=docker.io/ollama/ollama@sha256:<digest>. Docker Hub pubblica anche i tag -rc e -rocm per le stesse versioni. Scegli il tag semplice, a meno che tu non disponga di una GPU AMD.
Specifica anche l'host del registry. Su Fedora, un nome breve in un'unità systemd non dispone di un terminale su cui mostrare la richiesta di conferma. L'unità quindi termina con il seguente errore:
Error: short-name "ollama/ollama" did not resolve to an alias and no unqualified-search registries are definedEseguire prima il pull manualmente è facoltativo, ma utile, perché sposta il download di diversi gigabyte al di fuori del timeout di avvio dell'unità.
L'unit Quadlet che sopravvive a un riavvio
Quadlet è il generatore systemd di Podman. Si scrive un file .container, systemd lo trasforma in un servizio all'avvio e podman generate systemd non è più necessario. Salvare il file come /home/ollama/.config/containers/systemd/ollama.container e assegnarlo all'utente ollama.
[Unit]
Description=Ollama API (rootless)
After=network-online.target
Wants=network-online.target
[Container]
Image=docker.io/ollama/ollama:0.32.9
ContainerName=ollama
PublishPort=127.0.0.1:11434:11434
Volume=/home/ollama/ollama-data:/root/.ollama:Z
Environment=OLLAMA_KEEP_ALIVE=30m
Environment=OLLAMA_MAX_LOADED_MODELS=1
[Service]
Restart=always
TimeoutStartSec=900
[Install]
WantedBy=default.targetIl nome del file determina il nome del servizio, quindi ollama.container diventa ollama.service.
systemctl --user daemon-reload
systemctl --user start ollama.service
systemctl --user status ollama.servicestatus dovrebbe mostrare active (running). Non eseguire systemctl --user enable ollama.service. L'unità non esiste come file sul disco, quindi systemd rifiuta l'operazione:
Failed to enable unit: Unit file /run/user/1001/systemd/generator/ollama.service is transient or generated.La sezione [Install] svolge già questa funzione. Quadlet crea autonomamente il collegamento per l'avvio automatico durante daemon-reload, perciò quel comando è obbligatorio. TimeoutStartSec=900 copre un primo avvio che deve ancora scaricare l'immagine, perché i 90 secondi predefiniti non sono sufficienti per un download di diversi gigabyte e systemd termina l'avvio segnalandolo come non riuscito. OLLAMA_KEEP_ALIVE=30m mantiene un modello in memoria tra una richiesta e l'altra invece di scaricarlo dopo cinque minuti; i compromessi sono descritti in mantenere un modello Ollama caricato in memoria. Se parte della terminologia systemd usata qui non è familiare, come funzionano i servizi e i timer systemd su un VPS illustra le unità.
Perché la directory dei modelli restituisce «permission denied» con SELinux
Su Fedora, RHEL, Rocky e AlmaLinux, SELinux è attivo in modalità enforcing per impostazione predefinita. Un processo del container viene eseguito nel dominio container_t, mentre una directory nella home dell'utente ha l'etichetta user_home_t. La policy non consente l'accesso tra questi due contesti. Di conseguenza, Ollama non può creare la propria struttura di directory per i modelli e il container termina. Su questi sistemi, getenforce visualizza Enforcing e il diniego viene registrato:
sudo ausearch -m avc -ts recentVerrà visualizzata una riga che indica il dominio e l'etichetta della destinazione:
avc: denied { write } for pid=1842 comm="ollama" name="models" dev="vda1" ino=131077 scontext=system_u:system_r:container_t:s0:c214,c827 tcontext=unconfined_u:object_r:user_home_t:s0 tclass=dir permlisted=0Il :Z alla fine della riga Volume= risolve il problema. Rietichetta la directory dell'host con container_file_t e le assegna una categoria MCS (multi-category security) privata, utilizzata solo da questo container. La variante con :z minuscolo applica invece un'etichetta condivisa. È quella da usare quando due container devono leggere la stessa directory.
Prestare attenzione a :Z, perché è un comando distruttivo e non produce output. La rietichettatura viene applicata ricorsivamente. Se si indica /home/ollama, ogni file contenuto nella directory home viene rietichettato. Questo impedisce all'utente di accedere alle proprie chiavi SSH. Specificare sempre a :Z una sottodirectory dedicata, che non contenga altri dati. I volumi nominati non richiedono questo comando, perché Podman applica automaticamente le etichette corrette quando li crea. Per una panoramica più ampia, Nozioni di base su SELinux per un server descrive i contesti e i booleani. Su Ubuntu e Debian viene usato AppArmor. In questi sistemi :Z non esegue alcuna operazione e lasciarlo nell'unità non causa problemi.
Chiudere la porta 11434 e raggiungere l'API tramite SSH
PublishPort=127.0.0.1:11434:11434 associa il lato host all'interfaccia di loopback. Verifica questa configurazione:
ss -ltnp | grep 11434
curl http://127.0.0.1:11434L'output di ss deve mostrare 127.0.0.1:11434 e curl deve rispondere con Ollama is running. Se ss mostra invece 0.0.0.0:11434 o *:11434, la porta è in ascolto su tutte le interfacce. La possibilità che Internet possa raggiungerla dipende quindi dalle regole del firewall e dalla rete davanti al server, perciò un listener wildcard non è automaticamente esposto. Non fare però affidamento su questo: la documentazione di Ubuntu indica che ufw è inizialmente disabilitato per impostazione predefinita, e una regola del firewall è un ulteriore elemento che deve rimanere configurato correttamente. Correggi l'indirizzo di bind, così la porta non sarà mai in ascolto pubblicamente.
Specifica con precisione quale lato stai associando. L'indirizzo in PublishPort è l'indirizzo dell'host. All'interno del container, Ollama deve continuare ad ascoltare su tutte le interfacce, come previsto dall'immagine per impostazione predefinita. Impostando Environment=OLLAMA_HOST=127.0.0.1, associ Ollama alla loopback del container, mentre Podman inoltra il traffico pubblicato all'indirizzo di rete del container; di conseguenza, ogni richiesta viene rifiutata anche dall'host.
Una porta 11434 aperta comporta due rischi. Ollama non dispone di autenticazione, quindi chiunque raggiunga la porta può elencare i modelli tramite /api/tags, eseguire inferenze sulla CPU e sulla quota di banda tramite /api/generate, scaricare nuovi modelli sul disco ed eliminare quelli disponibili. In secondo luogo, l'HTTP non cifrato verso una porta remota trasmette prompt e completamenti in chiaro, quindi ogni macchina lungo il percorso può leggerli. Entrambi i problemi scompaiono se la porta non esce mai dal server.
Dalla workstation, inoltra la porta tramite SSH:
ssh -N -L 11434:127.0.0.1:11434 you@vps.example.comA questo punto http://127.0.0.1:11434 sul laptop corrisponde al servizio Ollama del server, all'interno della cifratura della sessione SSH. Se il laptop esegue già Ollama, il bind locale non riesce con bind [127.0.0.1]:11434: Address already in use; usa -L 11435:127.0.0.1:11434 e configura il client per usare 11435.
Quando è necessario un client browser, anteponi invece un reverse proxy con password. Un blocco di sito Caddy è breve e caddy hash-password stampa l'hash bcrypt richiesto:
ollama.example.com {
basic_auth {
you $2a$14$replace_with_the_generated_hash
}
reverse_proxy 127.0.0.1:11434
}Caddy ottiene autonomamente un certificato tramite TLS (transport layer security), quindi il traffico è cifrato. Verifica prima il client: i client che non possono inviare un'intestazione Authorization falliranno con l'autenticazione di base e un semplice 401 Unauthorized. Il tunnel SSH non presenta questo problema, motivo per cui è la raccomandazione predefinita in questo caso.
Scarica un modello e verifica l’intero percorso
podman exec -it ollama ollama pull gemma3:4b
curl -s http://127.0.0.1:11434/api/tags
curl -s http://127.0.0.1:11434/api/generate -d '{"model":"gemma3:4b","prompt":"Reply with the single word: ready","stream":false}'
du -sh ~/ollama-data/models/api/tags restituisce un JSON con l’elenco di gemma3:4b. /api/generate restituisce un oggetto JSON con un campo response, dopo una pausa necessaria per caricare i pesi dal disco. du dovrebbe riportare un numero vicino alla dimensione del download pubblicata. Quindi verifica la parte a cui è dedicata l’intera guida:
sudo reboot
# reconnect, then:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user is-active ollama.serviceactive indica che il processo è ancora in esecuzione, che la sezione [Install] e daemon-reload hanno svolto correttamente il loro compito. Se restituisce inactive, controlla prima questi tre elementi, quindi esamina journalctl --user -u ollama.service alla ricerca di errori di avvio.
Modalità di errore e stringhe visualizzate
Il container scompare dopo un riavvio. Controlla prima loginctl show-user ollama --property=Linger, perché senza Linger=yes l'istanza systemd dell'utente non viene mai avviata al boot. Se il lingering è attivo, controlla la sezione [Install] nel file .container, esegui systemctl --user daemon-reload e verifica journalctl --user -u ollama.service per individuare gli errori di avvio.
Error: statfs /home/ollama/ollama-data: no such file or directory. La directory sorgente del bind mount deve esistere prima dell'avvio del container. Podman non crea automaticamente le directory sull'host. Esegui mkdir -p ~/ollama-data come utente ollama.
L'avvio fallisce dopo 90 secondi. journalctl --user -u ollama.service mostra Start operation timed out. Terminating. perché il download dell'immagine era ancora in corso. Esegui manualmente il pull oppure mantieni TimeoutStartSec=900.
Il container si avvia e termina. podman logs ollama e sudo ausearch -m avc -ts recent indicano insieme se il problema riguarda l'etichetta SELinux. Un AVC che nomina container_t e user_home_t indica che manca :Z.
Le richieste dall'host vengono rifiutate. curl: (7) Failed to connect to 127.0.0.1 port 11434: Connection refused con il servizio active indica generalmente che OLLAMA_HOST è stato impostato su un indirizzo di loopback all'interno del container. Rimuovi quella riga.
La generazione è molto lenta oppure il container viene terminato. Senza GPU, l'inferenza viene eseguita sulla CPU ed è naturalmente lenta con i modelli di grandi dimensioni. Il memory mapping basato su disco o la swap rallentano ulteriormente l'inferenza quando il modello non entra nella RAM fisica. Se un container termina durante una richiesta e nei log compare signal: killed, devi verificarne la causa; se il log del kernel conferma una terminazione per esaurimento della memoria, scegli un tag più piccolo dalla tabella precedente.
Aggiornamento di un'immagine fissata
Il pinning significa che gli aggiornamenti vengono eseguiti esplicitamente, invece di avvenire automaticamente. Modifica Image= in ollama.container, quindi ricarica la configurazione e riavvia:
systemctl --user daemon-reload
systemctl --user restart ollama.service
podman exec ollama ollama --versionI modelli risiedono nel bind mount, quindi restano invariati dopo la sostituzione dell'immagine. AutoUpdate=registry nella sezione [Container] configura i controlli del digest sul registry; podman auto-update, eseguito manualmente o tramite il relativo timer systemd, scarica un'immagine modificata e riavvia l'unità. Questa configurazione è adatta a un tag che cambia nel tempo. Accanto a un tag di versione, il comando viene eseguito soltanto quando il publisher pubblica di nuovo lo stesso tag. È esattamente il tipo di modifica non pianificata che il pinning deve impedire, quindi qui lascialo disabilitato. Esegui il backup di /home/ollama/ollama-data/models/manifests e del file .container, ma escludi i blob: sono di grandi dimensioni e ollama pull li scarica nuovamente su un nuovo server.
FAQ
Perché il mio container Podman rootless si arresta quando eseguo il logout?
L'istanza systemd di un utente e la relativa directory /run/user/<uid> vengono normalmente rimosse al termine dell'ultima sessione dell'utente. Di conseguenza, si arrestano i servizi gestiti da quell'istanza. Esegui sudo loginctl enable-linger ollama e verifica che loginctl show-user ollama --property=Linger restituisca Linger=yes. Abilita il lingering prima di creare l'unità Quadlet, così il gestore dell'utente e la relativa directory di runtime sono disponibili anche senza una sessione di login.
Devo usare le etichette SELinux nella directory dei modelli Ollama?
Su Fedora, RHEL, Rocky e AlmaLinux sì, se esegui il bind mount di una directory dell'host. Il container viene eseguito nel dominio container_t, mentre una directory nella home directory è etichettata come user_home_t. La scrittura viene quindi negata e Ollama termina. Aggiungi :Z alla riga Volume= e assegna a Ollama una sottodirectory dedicata, perché la rietichettatura viene applicata ricorsivamente e indicare :Z come intera home directory impedisce all'utente di accedere alle chiavi SSH. I volumi denominati ricevono automaticamente le etichette corrette da Podman e non richiedono configurazioni aggiuntive.
Quanto spazio su disco richiede un modello Ollama?
Parti dalle dimensioni di download pubblicate su ollama.com/library, che vanno da 3.4 GB per gemma3:4b fino a 19 GB per qwen3:30b. Considera anche l'immagine Podman e lascia spazio libero aggiuntivo, perché un secondo modello non sostituisce il primo sul disco. Controlla df -h /home prima del download e du -sh ~/ollama-data/models dopo. Per ottenere buone prestazioni, prevedi approssimativamente in RAM lo spazio occupato dal file del modello, oltre alla memoria necessaria per la finestra di contesto. Il memory mapping basato su disco o una quantità sufficiente di swap possono consentire l'esecuzione di un modello più grande con meno RAM fisica, ma con prestazioni inferiori.
È sicuro esporre la porta 11434 su un VPS?
No. Ollama viene distribuito senza alcun tipo di autenticazione. Chiunque raggiunga la porta può elencare i modelli, eliminarli, scaricarne di nuovi sul disco ed eseguire inferenza usando la CPU e la quota di banda disponibili. Inoltre, HTTP in chiaro su Internet trasmette ogni prompt e ogni completamento senza cifratura. Associa il lato host a 127.0.0.1 usando PublishPort=127.0.0.1:11434:11434, verifica con ss -ltnp | grep 11434 e accedi tramite un tunnel SSH o un reverse proxy che richieda una password.