Ollamaのモデルをメモリに常駐させる方法
Ollamaは5分間アイドル状態だとモデルをアンロードします。systemdのoverrideでOLLAMA_KEEP_ALIVEを設定し、再起動後にモデルをプリロードする手順を解説します。
Ollama はなぜ数分後にモデルをアンロードするのか
Ollama は、最後のリクエストから 5 分間はモデルをメモリに保持し、その後解放します。次のリクエストでは、重みを RAM または VRAM に再び読み込む必要があるため、最初のトークンが返るまで停止したように見えます。そのため、チャット UI やコーディングエージェントは、最初は高速でも、しばらく操作しないと、次のメッセージで再び遅くなります。故障ではありません。アイドルタイマーが期限切れになっただけです。
このタイマーは keep_alive と呼ばれます。モデルごとに設定され、リクエストが完了するたびに再開します。リクエストを処理中のモデルがアンロードされることはありません。サーバーがアンロードできるのは、アクティブなリクエストがないモデルだけだからです。2026 年 10 月時点のデフォルト値は 5 分で、このサーバーが読み込むすべてのモデルに適用されます。
アイドルタイムアウトを設定する場所は 2 つあります。個々のリクエストの keep_alive フィールド、またはサーバーのデフォルト値としての OLLAMA_KEEP_ALIVE です。systemd の drop-in を使用すると、サーバーのデフォルト値を再起動後も維持できます。このガイドでは、Ollama がすでにサービスとして実行されていることを前提とします。まだ実行されていない場合は、まず VPS に Ollama をインストールする を参照してから戻ってきてください。
現在常駐しているモデルと、有効期限を確認する
ollama psNAME ID SIZE PROCESSOR CONTEXT UNTIL
qwen3:8b 500a1f067a9f 6.6 GB 100% GPU 4096 4 minutes from now出力が空の場合、ロード済みのモデルはありません。次のリクエストで、最初にモデルをロードする必要があります。PROCESSOR は重みの配置先を示します。100% GPU と 100% CPU は明確な状態です。25%/75% CPU/GPU のような分割表示は、モデルの一部だけが VRAM にあり、残りがプロセッサで実行されることを示します。そのため、生成速度は低下します。通常はモデルが収まらなかったことが原因ですが、GPU に配置するレイヤー数を制限する num_gpu 設定でも同じ分割が発生します。
UNTIL はカウントダウンで、4 minutes from now のような相対時間を表示します。負の keep_alive を指定してモデルをロードした場合は、Forever と表示されます。期限切れになると Stopping... と表示されます。アクティブなリクエストによってアンロードが遅延している間も同様です。
列の構成はリリースによって変わっています。そのため、スクリプトでフィールド数を数えるのではなく、ヘッダーを確認してください。2026-10-30 に確認した Ollama v0.40.5 では、CONTEXT と UNTIL の間に RUNNER 列も表示されます。この列はモデルを提供する runner を示します。そのため、ヘッダーが上の例より 1 列多い場合があります。自動化する場合は、API に問い合わせてください。
curl -s http://localhost:11434/api/ps各エントリには expires_at、2026-08-09T14:38:31.83753Z のような絶対時刻、そして size_vram が含まれます。size_vram は、そのモデルのうち GPU メモリ上にある部分を示します。size_vram が 0 の場合、モデルは CPU で実行されています。
実際の再読み込みにかかるコスト
推測で判断しないでください。Ollama はすべてのレスポンスで、load_duration としてロード時間をナノ秒単位で報告します。
sudo apt install -y jq
ollama stop qwen3:8b
curl -s http://localhost:11434/api/generate -d '{"model": "qwen3:8b", "prompt": "hi", "stream": false}' | jq '{load_duration, total_duration}'
curl -s http://localhost:11434/api/generate -d '{"model": "qwen3:8b", "prompt": "hi", "stream": false}' | jq '{load_duration, total_duration}'2 つの API 呼び出しを実行する前に、ollama stop の後で ollama ps にモデルが表示されなくなるまで待ちます。最初の呼び出しではモデルがロードされるため、load_duration は大きな値になります。1000000000 で割ると、秒単位で読み取れます。2 回目の呼び出しはモデルがメモリ上に常駐している状態で実行されるため、報告される値は大幅に小さくなります。この 2 つの値の差が、タイマーの期限切れ後にすべてのユーザーが負担する時間です。これが keep_alive を変更する理由です。アンロード後も、カーネルのページキャッシュにモデルファイルが残っていることがあります。そのため、空き RAM があるサーバーでは、再読み込みがブート直後の初回ロードより速くなる場合があります。キャッシュが解放されると、重みはディスクから読み込まれます。したがって、モデルディレクトリを 2 台目のボリュームへ移動した場合は、そのボリュームの速度が毎回のコールドロードの下限になります。この停止の前後における生成速度については、自分のサーバーで 1 秒あたりのトークン数を測定する方法を参照してください。
1 回のリクエストで Ollama モデルをメモリに保持する
リクエストに keep_alive を指定します。リクエストが完了した時点から、そのモデルに適用されます。
curl -s http://localhost:11434/api/chat -d '{
"model": "qwen3:8b",
"messages": [{"role": "user", "content": "hello"}],
"keep_alive": "30m"
}'指定できる値は次の 4 種類です。
- 期間文字列:
"30m"、"24h"、"90s" - 秒数として解釈される単純な数値:
3600 - アイドルタイムアウトを無効にする負の値:
-1または"-1m" 0: モデルにアクティブなリクエストがなくなった時点でアンロード
リクエストで指定した値は、サーバーのデフォルト値を上書きします。上書きの方向はどちらでも同じです。これは想定以上に重要です。クライアントが独自の keep_alive を送信すると、サーバーで設定した値より優先されます。
何も生成せずにモデルをロードすることもできます。モデル名だけを送信します。サーバーはモデルをロードし、"done": true を付けた空のレスポンスを返します。
curl -s http://localhost:11434/api/generate -d '{"model": "qwen3:8b", "keep_alive": "30m"}'これは再起動後や新しいモデルの取得後に実行するコマンドです。最初の実際のユーザーリクエストでロード時間が発生するのを防げます。CLI でもフラグを使って同じことができます。
ollama run --keepalive 30m qwen3:8b "hello"OLLAMA_KEEP_ALIVE でデフォルト値を設定する
サーバーは起動時に OLLAMA_KEEP_ALIVE を読み込み、独自の値を持たないすべてのモデルで使用します。リクエストのフィールドと同じ形式を指定できるため、30m、3600、-1 はすべて使用できます。
注意が必要なのは、変数をどの環境に設定するかです。SSH セッションで export OLLAMA_KEEP_ALIVE=30m を実行しても効果はありません。パッケージ版のインストールでは、サーバーは独自のユーザーと環境で systemd サービスとして実行されるためです。ログインシェルとそのサービスの環境は共有されません。設定が無視されたように見える原因として、これが最も一般的です。
systemd drop-in で再起動後も設定を維持する
sudo systemctl edit ollama.serviceエディターには、2つのコメントマーカーが表示されます。その間に入力します。systemd は、2つ目のマーカーより下に記述した内容を破棄します。
[Service]
Environment="OLLAMA_KEEP_ALIVE=30m"保存すると /etc/systemd/system/ollama.service.d/override.conf が書き込まれます。これは配布された unit を編集するのではなく drop-in を作成する方法です。そのため、Ollama パッケージのアップグレードで ollama.service が置き換えられても、設定は維持されます。drop-in と unit ファイルの仕組みが初めての場合は、systemd service と timer のガイドで詳しく説明しています。
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment最後のコマンドで、サービスが実際に使用する環境変数を確認できます。その行に OLLAMA_KEEP_ALIVE=30m がない場合、drop-in は適用されていません。原因のほとんどは、[Service] ヘッダーがないか、マーカーより下に行を入力したことです。再起動すると、読み込まれているモデルはすべて破棄されるため、次のリクエストではコールドロードが発生します。上の preload 呼び出しで事前にロードしてください。drop-in で再起動後も設定は維持されますが、モデルは維持されません。サービスは ollama serve の状態で、モデルを何も読み込まずに起動します。そのため、毎回のブート後に同じ preload 呼び出しを実行してください。
モデルを常駐させるためのコスト
ollama ps の SIZE 列は、リクエスト中だけでなく、アイドル時間全体にわたって確保されるメモリです。4-bit 量子化した 8B モデルでは、約 5 ~ 6 GB を使用します。27B モデルでは状況が大きく異なります。常駐させる前に、CPU のみの VPS で実行する場合のメモリ計算を確認しておく価値があります。keep_alive を -1 に設定すると、アイドル時の有効期限が無効になります。その後、同じモデルへのリクエストでタイムアウトを置き換えたり、runner のオプション変更時に再読み込みを強制したりできます。小規模な VPS では、これはデータベース、Web アプリケーション、ビルドジョブに割り当てるメモリとの直接的なトレードオフになります。
推定値をそのまま信頼せず、実際の数値を確認してください。モデルのロード中に実行し、その後 ollama stop の後でもう一度実行します。
free -havailable 列は、カーネルが新しいプロセスに割り当てられる空きメモリです。NVIDIA GPU のホストでは、nvidia-smi に VRAM の同じ状況が表示されます。ホストのメモリが不足すると、カーネルは回収のためにプロセスを終了します。
sudo dmesg -T | grep -i "out of memory"ollama を示す行は、モデルサーバーが終了対象になったことを意味します。データベースを示す行は、モデルが優先され、必要なプロセスが終了したことを意味します。どちらも、余裕のないホストで長い keep-alive 時間を設定した結果です。
ここでは、見落としやすいコストが 2 つあります。コンテキスト長を長くすると、より大きな KV キャッシュ(key value cache。生成中にモデルが保持する、トークンごとの attention 状態)が確保されます。このキャッシュは常駐サイズに含まれます。そのサイズは num_ctx から決まるため、コンテキストウィンドウを広げると、応答中だけでなくアイドル時間全体にわたって常駐モデルが保持するメモリも増加します。OLLAMA_NUM_PARALLEL が 1 より大きい場合、モデルがその並列処理をサポートしていれば、並列スロットごとにそのキャッシュが 1 つ確保されます。Ollama v0.40.16 は、embedding モデルを含め、completion capability のないモデルでは並列処理を 1 に固定します。現在の scheduler は mllama や qwen3next を個別に扱いません。1 つのモデルを複数人に提供する場合は、重みだけでなくスロット数を基準にメモリを見積もってください。
妥当なデフォルトは、十分な余裕があるホストで 1 つのモデルを -1 使用する設定です。共有ホストでは、30m のようにリクエスト間の空白をカバーする時間を設定してください。作業を止めた後にメモリが解放されます。
モデルを直ちにアンロードする
ollama stop qwen3:8b有効期限を要求した後、出力なしで終了します。アンロードは実行中のリクエストが完了するまで待機するため、メモリが解放される前にコマンドが終了する場合があります。pull 済みでも現在ロードされていないモデルに対しても、出力なしで終了します。このコマンドは、何が常駐しているかを確認しません。アンロード要求を送信し、メモリ上に何もなくても成功を返します。そのモデル名がこのサーバーにインストールされていない場合にのみ、エラー couldn't find model "qwen3:8b" to stop が表示されます。通常は、名前または tag の入力ミスが原因です。したがって、出力のない ollama stop だけでは、何かが解放された証拠になりません。ollama ps がその証拠です。API 形式では prompt を指定せず、keep_alive を 0 に設定してリクエストします。
curl -s http://localhost:11434/api/chat -d '{"model": "qwen3:8b", "messages": [], "keep_alive": 0}'応答には "done_reason": "unload" が含まれます。サービスを再起動する代わりに、これを使用してください。systemctl restart ollama でもメモリは解放されますが、ロード済みの他のモデルもすべて破棄され、実行中のリクエストも終了します。
1 台のサーバーで複数のモデルを実行する
OLLAMA_MAX_LOADED_MODELS は同時にロードしておくモデル数を制限します。2026 年 10 月時点のデフォルトは、各 GPU で 3 個、CPU のみの環境でも 3 個です。この制限が数えるのはモデル数ですが、実際の上限はメモリです。そのため、3 個に達する前でも、2 個目の大きなモデルをロードするための空きが不足することがあります。
新しいモデルが要求された際に、ロードに必要なメモリが不足しているか、モデル数の上限に達していると、スケジューラーは空きを作るため、ロード済みモデルの 1 つをアンロードします。アクティブなリクエストがないモデルを優先し、タイマーが切れていないモデルも削除対象にします。-1 でロードしたモデルも対象です。ただし、ウィンドウが短いモデルから先に試します。そのため、負の keep_alive はアイドルタイムアウトがないことを意味します。別のモデルのリクエストに備えて、モデルの重みを固定することはありません。
この判断はサービスログに記録されます。上限に達した場合は debug レベルでのみ記録されます。同じ drop-in に Environment="OLLAMA_DEBUG=1" の行を追加して再起動し、次のように監視します。
sudo journalctl -u ollama -fアンロードを発生させたリクエストの横に表示される理由を確認します。max runners achieved, unloading one to make room は OLLAMA_MAX_LOADED_MODELS の上限に達したことを意味します。両方のモデルをロードできる場合でも発生するため、free -h に余裕があることが示されている場合は上限を引き上げます。新しいモデルが利用可能なメモリを超えると予測する行に続いて削除が記録されている場合、スケジューラーの適合性チェックが、メモリ上の余裕を考慮して両方のモデルの同時ロードを拒否したことを意味します。この場合は、このサーバーで実行するモデル数を減らすか、迅速な応答が必要なモデルには長いウィンドウを設定し、呼び出す頻度が低いモデルには 0 を設定します。
次のリリース後も使える指針
Ollama は頻繁にリリースされ、デフォルト値も変わるため、数値を暗記するのではなく、目の前のビルドを確認してください。
ollama --version
ollama serve --helpollama serve --helpには、そのビルドが実際に読み取る環境変数が一覧されています。OLLAMA_KEEP_ALIVEもその中に含まれます。リリースをまたいで変わらず、安心して前提にできるルールが 2 つあります。リクエストで指定した値はサーバーのデフォルト値より優先されます。また、設定ファイルに読み込まれるはずの内容が記載されていても、実際に読み込まれた内容を示すのは ollama ps です。
エディターやエージェントがサーバーを操作する場合は、サーバーを疑う前に、そのクライアントが何を送信しているかを確認してください。自分の Ollama サーバーをコーディングエージェントの接続先にするでは、これらのリクエスト設定の場所を説明しています。
FAQ
Ollama が 5 分後にモデルをアンロードするのはなぜですか?
5 分はデフォルトの keep_alive です。これは、リクエストの完了時に Ollama が開始するアイドルタイマーです。タイマーが切れると、サーバーは重みを解放します。そのため、次のリクエストでは重みを再度ロードする必要があり、その再ロードが体感する一時停止になります。1 回のリクエストだけ設定を延長するには、JSON body に "keep_alive": "30m" を指定します。サーバー全体に設定するには、OLLAMA_KEEP_ALIVE 環境変数を使用します。
Ollama のモデルをメモリに永続的にロードしたままにするにはどうすればよいですか?
負の値を使用します。リクエストでは "keep_alive": -1、サーバーでは OLLAMA_KEEP_ALIVE=-1 を指定します。ollama ps を実行すると、UNTIL 列に Forever と表示されます。これによりアイドルタイマーだけが無効になり、それ以外の動作は変わりません。別のモデルが要求され、メモリが不足している場合、スケジューラーは空きを確保するためにこのモデルもアンロードします。同じモデルへの後続のリクエストでタイムアウトが変更されることもあります。また、runner オプションが変わると再ロードが発生することもあります。再起動やリブートでも設定は解除されるため、その後にモデルを再度 preload してください。
OLLAMA_KEEP_ALIVE が無視されるのはなぜですか?
設定した場所を確認してください。systemctl show ollama --property=Environment を実行します。出力に変数がない場合、サーバーはその変数を認識していません。shell で export した変数は systemd service には渡らないためです。sudo systemctl edit ollama.service で設定し、その後 sudo systemctl daemon-reload と sudo systemctl restart ollama を実行します。もう 1 つの原因は、リクエストで独自の keep_alive を送信する client です。この値がサーバーのデフォルト設定を上書きします。
Ollama を再起動せずにメモリを解放するにはどうすればよいですか?
ollama stop qwen3:8b は、そのモデルだけの有効期限を要求します。server と、ロード済みの他のすべてのモデルは稼働し続けます。アンロードされる前に、実行中のリクエストが完了する必要があります。API では prompt を指定せず、"keep_alive": 0 を付けてリクエストを送信します。応答には "done_reason": "unload" が返ります。ollama ps で確認します。アンロードが完了すると、モデルは一覧に表示されなくなります。