VPSでOllamaをrootless Podman運用する方法
専用ユーザー、lingering、Quadletで再起動後もOllamaを自動起動します。SELinuxラベルを設定し、port 11434はloopbackに限定してSSHトンネルで安全に接続します。
rootless Podman で VPS 上の Ollama を実行する
サーバーで rootless Podman の Ollama を実行するには、デスクトップ向けの手順では省略できる5つの条件を満たす必要があります。専用の非特権ユーザーがコンテナを所有していること。そのユーザーで lingering が有効になっており、ログアウト後もコンテナが実行され続けること。Quadlet ファイルによってコンテナを systemd に管理させ、再起動後に復旧できること。SELinux を適用するディストリビューションでは、モデルディレクトリに SELinux ラベルが付いていること。API は loopback のみに bind し、SSH(secure shell)トンネル経由でアクセスすることです。
Ollama は大規模言語モデル(LLM)用のサーバーです。モデルの重みをディスクに保存し、メモリに読み込み、port 11434 で HTTP リクエストに応答します。ローカル API にはログインも API key も必要ないため、ここで利用できるアクセス制御はネットワークだけです。Podman は daemon なし、root なしでコンテナを実行するため、コンテナから脱出したプロセスも、最初は通常の非特権ユーザーとして実行されます。ランタイムの比較を先に確認する場合は、VPS 上での Podman と Docker の違いを参照してください。コンテナを完全に省略する場合は、VPS に Ollama を直接インストールする方法のほうが短い手順です。
Fedora では、Podman と SELinux(security-enhanced Linux)がデフォルトで提供されます。以下のコマンドは Podman 5 以降を前提としています。また、Quadlet unit には cgroup v2 も必要です。Podman のバージョンにかかわらず、ドキュメントでは cgroup v2 を Quadlet の要件として示しています。開始前に両方を確認してください。前者は podman --version、後者は podman info | grep -i cgroup で確認できます。このとき、cgroupVersion の行は v2 と表示される必要があります。Ubuntu 24.04 では、アーカイブの podman package は version 4.9.3 で、その行より古いバージョンです。そのため、まずそこで version を確認してください。
サーバーではノートパソコン向けの設定を変更する必要がある理由
Fedora Magazine は 2026年8月5日、Yazan Monshed による Fedora Linux で Podman を使用して Ollama をローカル実行する を公開しました。このスタックを使い始める最初の 1 時間に適した、明快な手順です。ただし、対象はノートパソコンです。そこで採用されている 4 つの選択は、パブリック IP アドレスを持つマシンでは異なる結果になります。
- コンテナを単純な
podman run -dで起動します。手動で起動したコンテナは、再起動後に自動で戻りません。起動するように指定されていないためです。 - 更新され続けるタグ
ollama/ollamaを使用します。ノートパソコンでは、動作が変わった日を確認できます。サーバーでは、最初の兆候が、スクリプトが overnight で動作しなくなったことになる場合があります。 -p 11434:11434で公開します。これはすべてのインターフェースにバインドします。ホームルーターの背後では、インターネットから到達できません。VPS では、パスワードのない推論 API が公開されることになります。- 自分のログインユーザーとして実行します。サーバーでは、コンテナを所有するアカウントは他のものを所有しないようにします。そうすれば、コンテナから脱出されても、空のホームディレクトリに到達します。
これは、対象のマシンに対して誤った内容というわけではありません。マシンがどこからでも到達可能で、その前に人が座っていない環境では、それぞれの項目を改めて判断する必要があるということです。
特権なしユーザーを作成し、subuid を確認する
Rootless Podman は、コンテナ内部のユーザー ID(UID)を、ホスト上の未使用 ID の範囲にマッピングします。この範囲は /etc/subuid と /etc/subgid で定義します。Podman は単一 UID モードにも対応していますが、この構成では subordinate range を設定します。
sudo dnf install -y podman # or: sudo apt install -y podman
sudo useradd --create-home --shell /bin/bash --comment "Ollama container owner" ollama
sudo passwd --lock ollama
grep ollama /etc/subuid /etc/subgidgrep は、各ファイルから 1 行ずつ、65536 個の ID の範囲を示す 2 行を出力します。
/etc/subuid:ollama:100000:65536
/etc/subgid:ollama:100000:65536開始番号は環境によって異なりますが、問題ありません。grep が何も出力しない場合、useradd に範囲が割り当てられていません。Podman は、マッピングがない場合に次のようなメッセージを出力します。
Error: cannot find UID/GID for user ollama: no subuid ranges found for user "ollama" in /etc/subuid他のユーザーが保持していない範囲を割り当て、その後、古いマッピングが無効になったことを Podman に通知します。
sudo usermod --add-subuids 100000-165535 --add-subgids 100000-165535 ollama
sudo -iu ollama podman system migrateパスワードをロックすると、ollama としてのパスワードログインが無効になります。SSH キーなど、他の認証方式は無効になりません。管理ユーザーから sudo -iu ollama でこのアカウントにアクセスします。
ログアウト後もサービスを動作させるために lingering を有効にする
ユーザーの systemd インスタンスは通常、ログイン時に起動し、最後のログアウト後に停止します。同時に /run/user/<uid> も削除されます。このインスタンスが管理するサービスは、インスタンスの停止時に停止します。lingering を有効にすると、セッションが接続されていない状態でもユーザーインスタンスが動作し続けます。
sudo loginctl enable-linger ollama
loginctl show-user ollama --property=LingerLinger=yes と表示されるはずです。unit を作成する前に有効にしてください。これにより、ログインセッションがなくてもユーザーマネージャーとそのランタイムディレクトリを利用できるようになります。
もう 1 つ、見落としやすい手順があります。sudo -iu ollama はシェルを提供しますが、セッションバスは提供しません。そのため、systemctl --user は直ちに失敗します。
Failed to connect to bus: $DBUS_SESSION_BUS_ADDRESS and $XDG_RUNTIME_DIR not definedsystemd は $XDG_RUNTIME_DIR/bus にユーザーバスがあることを想定しますが、sudo -i はこの変数を設定しません。サービスを管理するすべての管理用シェルで、手動で設定してください。
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user statusモデルのファイルが保存される場所と、確保すべきディスク容量
Ollama はコンテナ内の /root/.ollama/models にモデルの重みを書き込みます。ユーザーのホームディレクトリにあるディレクトリをこのパスへ bind mount すると、ファイルは計測しやすい場所である /home/ollama/ollama-data/models に保存されます。重みのファイルは models/blobs に content-addressed ファイルとして格納され、models/manifests にはそれらを識別する小さなインデックスが保存されます。Fedora Magazine の記事のように named volume を使用する場合は、同じツリーが /home/ollama/.local/share/containers/storage/volumes/<volume>/_data 以下に配置されます。どちらの場合も ollama pull と ollama run は同じツリーに重みを書き込みます。2 つのコマンドの違いは、ダウンロード完了後にチャットセッションを開始するかどうかだけです。
ダウンロードを開始する前に、ディスク容量を確保してください。公開されているダウンロードサイズを最低限必要な容量の目安にします。
このグラフのデータ
[
{
"label": "gemma3:4b",
"download_gb": 3.4
},
{
"label": "mistral:7b",
"download_gb": 4.4
},
{
"label": "qwen3:8b",
"download_gb": 5.2
},
{
"label": "gemma3:12b",
"download_gb": 8.2
},
{
"label": "qwen3:14b",
"download_gb": 9.3
},
{
"label": "gemma3:27b",
"download_gb": 17
},
{
"label": "qwen3:30b",
"download_gb": 19
}
]ここに示す 7 行はすべて ollama.com/library で公開されている数値であり、ディスク上で実測したサイズではありません。最小のタグである gemma3:4b のダウンロードサイズは 3.4 GB です。最大の qwen3:30b のダウンロードサイズは 19 GB です。コンテナイメージは Podman 自身のストレージに追加で保存されるため、podman system df と df -h /home を使って両方の容量を合計して確認してください。十分な性能を得るには、モデルファイルのサイズと同程度の RAM に加え、コンテキストウィンドウ用の余裕を確保します。物理 RAM は絶対的な上限ではありません。ディスクを使用したメモリマッピング、または十分な swap があれば、16 GB の VPS でも 19 GB のモデルを実行できます。ただし、性能は低下します。
イメージタグを固定し、完全なレジストリ名を使用する
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
mkdir -p ~/ollama-data ~/.config/containers/systemd
podman pull docker.io/ollama/ollama:0.32.9リリース済みのバージョンタグを使用します。2026 年 8 月時点では 0.32.9 であり、latest ではありません。その後も新しいリリースが公開されています。2026 年 10 月 30 日時点で Docker Hub の最新の通常バージョンタグは 0.40.13 です。タグページを確認し、pull コマンドと Image= 行の両方で現在のリリースを使用してください。バージョンタグを固定すると、選択していないリリースがサーバーに入ることを防げます。そのため、動作の変化は通常、自分が行った変更によるものになります。ただし、タグはフィンガープリントではなく、ポインターにすぎません。同じ名前で再度 push されると、レジストリはそのタグを別のイメージに移します。固定されるのはダイジェストだけです。Podman は Image= でどちらの形式も受け付けます。04:00 の再起動で、テスト済みのバイナリと完全に同じものを実行する必要がある場合は、pull の後に podman images --digests docker.io/ollama/ollama を実行し、代わりに Image=docker.io/ollama/ollama@sha256:<digest> と記述します。Docker Hub では、同じバージョンについて -rc タグと -rocm タグも公開されています。AMD GPU を使用していない限り、通常のタグを選択してください。
レジストリホストも記述します。Fedora では、systemd unit 内の短い名前に対して入力を促す端末がありません。そのため、unit は次のエラーで失敗します。
Error: short-name "ollama/ollama" did not resolve to an alias and no unqualified-search registries are defined先に手動で pull する方法もあります。必須ではありませんが、数 GB のダウンロードを unit の起動タイムアウトの外で実行できるため便利です。
再起動後も有効な Quadlet unit
Quadlet は Podman の systemd generator です。.container ファイルを作成すると、systemd がブート時に service へ変換するため、podman generate systemd は不要になります。これを /home/ollama/.config/containers/systemd/ollama.container として保存し、所有者を ollama user にします。
[Unit]
Description=Ollama API (rootless)
After=network-online.target
Wants=network-online.target
[Container]
Image=docker.io/ollama/ollama:0.32.9
ContainerName=ollama
PublishPort=127.0.0.1:11434:11434
Volume=/home/ollama/ollama-data:/root/.ollama:Z
Environment=OLLAMA_KEEP_ALIVE=30m
Environment=OLLAMA_MAX_LOADED_MODELS=1
[Service]
Restart=always
TimeoutStartSec=900
[Install]
WantedBy=default.targetファイル名によって service 名が決まるため、ollama.container は ollama.service になります。
systemctl --user daemon-reload
systemctl --user start ollama.service
systemctl --user status ollama.servicestatus の結果は active (running) になるはずです。systemctl --user enable ollama.service は実行しないでください。unit はディスク上のファイルとして存在しないため、systemd は次のように拒否します。
Failed to enable unit: Unit file /run/user/1001/systemd/generator/ollama.service is transient or generated.[Install] section がこの処理をすでに担っています。Quadlet は daemon-reload の実行時に、起動時に start するための link 自体を作成します。そのため、この command は省略できません。TimeoutStartSec=900 は、初回起動時に image の pull が必要な場合に備えた設定です。数 GB の download にはデフォルトの 90 秒では足りず、systemd が起動を failed として終了させるためです。OLLAMA_KEEP_ALIVE=30m は、5 分後に unload する代わりに、request 間で model を memory に保持します。トレードオフについては、Ollama model を memory に保持する方法を参照してください。ここで使われている systemd の用語に不明なものがある場合は、VPS で systemd service と timer が動作する仕組みで unit 自体について説明しています。
SELinux でモデルディレクトリが permission denied になる理由
Fedora、RHEL、Rocky、AlmaLinux では、SELinux がデフォルトで enforcing になっています。コンテナプロセスは container_t ドメインで実行され、ユーザーのホームディレクトリ内のディレクトリには user_home_t のラベルが付けられています。ポリシー上、この 2 つのアクセスは許可されていないため、Ollama はモデル用のディレクトリツリーを作成できず、コンテナが終了します。これらのシステムでは、getenforce によって Enforcing が出力され、拒否イベントが記録されます。
sudo ausearch -m avc -ts recentドメインと対象のラベルを示す行が表示されます。
avc: denied { write } for pid=1842 comm="ollama" name="models" dev="vda1" ino=131077 scontext=system_u:system_r:container_t:s0:c214,c827 tcontext=unconfined_u:object_r:user_home_t:s0 tclass=dir permlisted=0Volume= 行の末尾にある :Z が修正方法です。ホスト側のディレクトリを container_file_t に再ラベル付けし、このコンテナだけが持つプライベートな MCS(multi-category security)カテゴリを付与します。一方、小文字の :z は共有ラベルを使用します。2 つのコンテナが同じディレクトリを読み取る場合は、こちらを使用します。
:Z には注意が必要です。このコマンドは破壊的で、しかもメッセージを表示せずに処理します。再ラベル付けは再帰的に行われます。/home/ollama を指定すると、そのホームディレクトリ内のすべてのファイルが再ラベル付けされ、ユーザーの SSH キーによるアクセスが機能しなくなります。:Z には、他のファイルを含まない専用のサブディレクトリを必ず指定してください。名前付きボリュームでは、Podman が作成時に正しいラベルを付けるため、この操作は必要ありません。全体像を確認する場合は、サーバー向け SELinux の基本でコンテキストとブール値について説明しています。Ubuntu と Debian では代わりに AppArmor が使用されるため、:Z は何も実行せず、unit に残しても問題ありません。
11434 番ポートを閉じ、SSH 経由で API にアクセスする
PublishPort=127.0.0.1:11434:11434 はホスト側を loopback にバインドします。次のコマンドで確認します。
ss -ltnp | grep 11434
curl http://127.0.0.1:11434ss の出力に 127.0.0.1:11434 と表示され、curl が Ollama is running に応答する必要があります。ss に 0.0.0.0:11434 または *:11434 と表示される場合、ポートはすべてのインターフェースで待ち受けています。その場合にインターネットから到達できるかどうかは、ファイアウォールのルールと、サーバーの前段にあるネットワーク構成によって決まります。そのため、ワイルドカードでの待ち受けが自動的に外部公開を意味するわけではありません。ただし、これに依存しないでください。Ubuntu のドキュメントによると、ufw は初期状態で無効です。ファイアウォールのルールも、正しい状態を維持する必要があります。最初からポートが外部で待ち受けないように、バインドアドレスを修正してください。
どちら側をバインドしているかを正確に確認してください。PublishPort のアドレスはホストのアドレスです。コンテナ内では、Ollama はイメージのデフォルト設定どおり、すべてのインターフェースで待ち受ける必要があります。Environment=OLLAMA_HOST=127.0.0.1 を設定すると、Ollama はコンテナ自身の loopback にバインドします。その場合、Podman は公開ポートからの通信をコンテナのネットワークアドレスへ転送するため、ホストからのリクエストもすべて拒否されます。
11434 番ポートを開いたままにすると、2 つの問題が生じます。Ollama には認証がないため、ポートに到達できる人は誰でも /api/tags でモデル一覧を取得し、/api/generate で CPU と帯域幅を使って推論を実行できます。さらに、新しいモデルをディスクへ取得したり、既存のモデルを削除したりできます。2 つ目の問題は、リモートポートへの通常の HTTP 通信ではプロンプトと生成結果が平文で送信されることです。そのため、通信経路上のすべてのマシンが内容を読み取れます。ポートをホストの外部に出さなければ、両方の問題を解消できます。
ワークステーションから、SSH 経由でポートを転送します。
ssh -N -L 11434:127.0.0.1:11434 you@vps.example.comこれで、ノートパソコンの http://127.0.0.1:11434 は SSH セッションの暗号化された通信内で、サーバー上の Ollama に接続します。ノートパソコンですでに Ollama を実行している場合、ローカル側のバインドは bind [127.0.0.1]:11434: Address already in use で失敗します。その場合は -L 11435:127.0.0.1:11434 を使用し、クライアントの接続先を 11435 に設定してください。
ブラウザクライアントから接続する必要がある場合は、パスワードを設定したリバースプロキシを前段に置いてください。Caddy の site block は短く、caddy hash-password で必要な bcrypt ハッシュを出力できます。
ollama.example.com {
basic_auth {
you $2a$14$replace_with_the_generated_hash
}
reverse_proxy 127.0.0.1:11434
}Caddy は TLS (transport layer security) の証明書を自動的に取得するため、通信は暗号化されます。まずクライアントをテストしてください。Authorization ヘッダーを送信できないクライアントは、単独の 401 Unauthorized を使う basic auth に接続できません。SSH トンネルにはこの問題がないため、ここでは SSH トンネルをデフォルトの推奨方法とします。
モデルを取得し、経路全体を確認する
podman exec -it ollama ollama pull gemma3:4b
curl -s http://127.0.0.1:11434/api/tags
curl -s http://127.0.0.1:11434/api/generate -d '{"model":"gemma3:4b","prompt":"Reply with the single word: ready","stream":false}'
du -sh ~/ollama-data/models/api/tags は gemma3:4b を一覧表示する JSON を返します。/api/generate は、ディスクから重みを読み込む間の待機後に、response フィールドを含む JSON オブジェクトを返します。du は、公開されているダウンロードサイズに近い値を示すはずです。次に、このガイド全体の目的である部分を確認します。
sudo reboot
# reconnect, then:
sudo -iu ollama
export XDG_RUNTIME_DIR=/run/user/$(id -u)
systemctl --user is-active ollama.serviceactive が lingering を示し、[Install] セクションと daemon-reload が正常に機能したことを意味します。inactive が報告された場合は、まずこの 3 つを確認し、その後 journalctl --user -u ollama.service で起動時のエラーを調べます。
障害パターンと表示される文字列
再起動後にコンテナが消える。 まず loginctl show-user ollama --property=Linger を確認します。Linger=yes がないと、ユーザーの systemd インスタンスがブート時に起動しないためです。lingering が有効な場合は、.container ファイルの [Install] セクションを確認し、systemctl --user daemon-reload を実行して、起動エラーがないか journalctl --user -u ollama.service を調べます。
Error: statfs /home/ollama/ollama-data: no such file or directory。 コンテナの起動前に、bind mount のソースが存在している必要があります。Podman はホスト側のディレクトリを自動作成しません。ollama ユーザーとして mkdir -p ~/ollama-data を実行します。
90 秒で起動に失敗する。 イメージの pull がまだ実行中だったため、journalctl --user -u ollama.service には Start operation timed out. Terminating. が表示されます。手動で pull するか、TimeoutStartSec=900 を維持します。
コンテナが起動して終了する。 podman logs ollama と sudo ausearch -m avc -ts recent を合わせて確認すると、SELinux のラベルが原因かどうかを判断できます。container_t と user_home_t を示す AVC がある場合、:Z がありません。
ホストからのリクエストが拒否される。 サービス active に対して curl: (7) Failed to connect to 127.0.0.1 port 11434: Connection refused を実行しても拒否される場合、通常はコンテナ内で OLLAMA_HOST にループバックアドレスが設定されています。その行を削除します。
生成が非常に遅い、またはコンテナが kill される。 GPU がない場合、推論は CPU で実行されるため、大きなモデルは本質的に低速です。モデルが物理 RAM に収まらない場合、ディスクベースのメモリマッピングや swap によって推論はさらに遅くなります。ログに signal: killed があり、リクエストの途中でコンテナが終了する場合は、原因を確認する必要があります。kernel のログで out-of-memory による kill が確認できる場合は、上の表からより小さい tag を選びます。
固定したイメージの更新
固定とは、更新を受け身で待つのではなく、自分で実施するということです。ollama.container の Image= を編集し、その後に reload と restart を実行します。
systemctl --user daemon-reload
systemctl --user restart ollama.service
podman exec ollama ollama --versionモデルは bind mount に保存されるため、イメージを変更してもそのまま維持されます。[Container] セクションの AutoUpdate=registry は、レジストリに対する digest の確認を設定します。手動で実行するか、systemd timer で実行する podman auto-update は、イメージに変更があれば取得して unit を再起動します。これは可変タグに適しています。バージョンタグの隣に設定すると、公開元が同じタグを再度 push した場合にだけ実行されます。これは、イメージの固定によって防ぎたい予期しない変更そのものなので、ここでは無効にします。/home/ollama/ollama-data/models/manifests と .container ファイルをバックアップし、blobs は対象外にします。blobs はサイズが大きく、新しいマシンでは ollama pull が再度取得するためです。
FAQ
rootless Podman コンテナはログアウトすると停止します。なぜですか?
ユーザーの systemd インスタンスとその /run/user/<uid> ディレクトリは通常、そのユーザーの最後のセッションが終了すると破棄されます。そのインスタンスが管理するサービスも停止します。sudo loginctl enable-linger ollama を実行し、loginctl show-user ollama --property=Linger が Linger=yes を出力することを確認してください。ログインセッションがなくてもユーザーマネージャーとランタイムディレクトリを利用できるように、Quadlet unit を作成する前に lingering を有効にします。
Ollama のモデルディレクトリに SELinux ラベルは必要ですか?
Fedora、RHEL、Rocky、AlmaLinux では、ホストディレクトリを bind mount する場合に必要です。コンテナは container_t ドメインで実行されます。一方、home フォルダー内のディレクトリには user_home_t のラベルが付いているため、書き込みが拒否され、Ollama は終了します。Volume= 行に :Z を追加し、専用のサブディレクトリを指定してください。再ラベル付けは再帰的に行われるため、:Z に home ディレクトリ全体を指定すると、そのユーザーの SSH key へのアクセスが壊れます。Named volume には Podman が正しいラベルを付けるため、追加設定は必要ありません。
Ollama のモデルにはどの程度のディスク容量が必要ですか?
ollama.com/library に掲載されているダウンロードサイズを基準にします。gemma3:4b のモデルは 3.4 GB、qwen3:30b のモデルは 19 GB までの範囲です。ここに Podman image の容量を加え、さらに余裕を残してください。2 つ目のモデルを取得しても、ディスク上の 1 つ目のモデルは置き換えられないためです。取得前に df -h /home を確認し、取得後に du -sh ~/ollama-data/models を確認します。十分な性能を得るには、モデルのファイルサイズと同程度の RAM に加えて、context window 用の容量を見込んでください。ディスクを使用した memory mapping や十分な swap により、物理 RAM が少なくても大きなモデルを実行できる場合があります。ただし、性能は低下します。
VPS で port 11434 を公開しても安全ですか?
いいえ。Ollama には認証機能が一切ないため、その port に到達できる相手はモデルの一覧表示、モデルの削除、ディスクへの新しいモデルの取得、CPU とネットワーク帯域の消費を伴う推論の実行を行えます。インターネット経由の平文 HTTP では、すべての prompt と completion も平文で送信されます。ホスト側を PublishPort=127.0.0.1:11434:11434 で 127.0.0.1 に bind し、ss -ltnp | grep 11434 で確認してください。そのうえで、SSH tunnel または password を要求する reverse proxy 経由でアクセスします。