VPSでGLM 5.2を実行する方法と推奨モデル
OllamaのGLM 5.2はクラウド専用のためVPSでは実行できません。ローカル環境で動作可能なglm-4.7-flashの推奨スペックと、量子化ごとの必要メモリ量、VPSで運用する際の注意点を詳しく解説します。
VPS で GLM 5.2 を実行できますか?
はい。ただし、Ollama の公式タグ経由では実行できません。2026 年 10 月 25 日時点で、Ollama のライブラリにある GLM 5.2 のタグは glm-5.2:cloud の 1 つだけです。:cloud タグでは Ollama のサーバー上で実行されます。使用するサーバーはプロンプトを送信してトークンを受け取るだけなので、重みがディスクに保存されることはありません。Z.ai は重みを公開し、SGLang と vLLM を使ったローカルデプロイを案内しています。Z.ai 自身の重みリポジトリによると、モデルは約 7530 億パラメーターです。7530 億パラメーターを 1 パラメーターあたり 4 ビットで保持すると、重みだけで約 377 GB になります。これはコンテキスト、アクティベーション、オペレーティングシステムを含めない単純な計算です。公開されている VPS プランには、このメモリ容量を超えるものがあります。Paragon は、RAM 512 GB の E-48 を月額 €580 で提供しています。
レンタルしたサーバーで実行できる GLM モデルは glm-4.7-flash です。ダウンロード可能な重みが 4 個のタグで公開されています。これは mixture-of-experts モデルです。各トークンの処理では、ネットワークの一部だけが実行されます。Z.ai はこのモデルを 30B-A3B と説明しており、総パラメーター数は 300 億、トークンごとのアクティブなパラメーター数は約 30 億です。そのため、このガイドでは実際に対応できる質問に答えます。タグを固定し、サーバーの仕様を決め、自分の環境で速度を測定し、エンドポイントを非公開にしてください。
ここに記載したものを含め、コマンドをコピーする前にタグを確認してください。Ollama のライブラリは予告なく変更されます。glm-4.7-flash タグ一覧を開き、そのタグがまだ存在することを確認してください。ローカル用の重みを備えた新しい GLM リリースが登場している場合は、そちらを優先し、実際にテストしたタグを記録してください。
それでも GLM 5.2 自体を使いたい場合は、ollama run glm-5.2:cloud の後に ollama signin が機能し、クライアント側からは他の Ollama モデルと同じように動作します。ただし、何に同意することになるのかを理解してください。プロンプトは使用するサーバーの外部へ送信されます。セルフホスティングの目的がデータを自分のマシン内に保持することであれば、:cloud タグではその目的を満たせません。
GLM タグには何があり、どれを固定すべきか
ここで重要なのは、公式の GLM エントリ 2 つです。glm-5.2 は Ollama のライブラリではクラウド専用です。glm-4.7-flash はローカル用で、公開されているタグと、Ollama が各タグについて掲載しているダウンロードサイズは次のとおりです。以前 glm-5.1 を使用していた場合は注意してください。Ollama はこれを 2026 年 9 月 25 日に廃止し、現在そのライブラリページにはモデルが掲載されていません。Z.ai は現在も GLM-5.1 の重みを公開し、ローカルデプロイについて案内しています。そのため、Ollama で廃止されても、他の環境でモデルが利用できなくなったわけではありません。
このグラフのデータ
[
{
"label": "q4_K_M",
"download_gb": 19
},
{
"label": "latest",
"download_gb": 19
},
{
"label": "q8_0",
"download_gb": 32
},
{
"label": "bf16",
"download_gb": 60
}
]これらはライブラリページに掲載された値であり、測定値ではありません。latest と q4_K_M はどちらも 19 GB と記載されているため、latest は現在 Q4 ビルドに解決されます。再公開時に変わる可能性があるため、スクリプトや Dockerfile に裸の ollama pull glm-4.7-flash を記述してはいけません。量子化方式を指定してください。最大のタグ bf16 は、量子化されていない bfloat16 の重みを含む 60 GB のダウンロードです。
ライブラリを検索すると、someuser/glm-5.2 のように名前にスラッシュを含む名前空間付きのアップロードも表示されます。スラッシュはユーザーアカウントが公開したことを示すため、公式エントリではなくコミュニティによる再アップロードです。中身の重みが何であるかは保証されません。オンラインで見つけた署名のないバイナリと同じように扱ってください。
Ollama をインストールし、指定したタグを取得する
Ollama の Linux インストーラーは 1 つのコマンドで実行できます。
curl -fsSL https://ollama.com/install.sh | sh
ollama --versionインストーラーは、ollama ユーザーで実行する systemd サービスを作成します。何かを pull する前に、サービスが起動したことを確認してください。
systemctl status ollama --no-pagerActive: active (running) は、systemd がサービスを実行中と判断していることを示します。API の準備完了や、ポートで待ち受けていることまでは確認できません。デフォルトのアドレスとポートに対して curl -fsS http://127.0.0.1:11434/api/tags を実行し、API を個別に確認してください。unit が存在しない場合、インストーラーは通常のバイナリインストールにフォールバックしています。この場合は、Ollama Linux のドキュメントに手動で作成する service file が記載されています。
glm-4.7-flash のページには、Ollama の最低バージョンが記載されています。古いバイナリではモデルの実行速度が遅くなるのではなく、モデルを拒否します。pull は、モデルに新しいバージョンの Ollama が必要だというメッセージを表示して失敗します。アップグレードするには、インストールスクリプトを再実行してください。2026 年 11 月 2 日時点の現行リリースは 0.40.13 で、この最低バージョンを十分に上回っています。
ここで、名前を指定して 1 つのタグを pull します。
ollama pull glm-4.7-flash:q4_K_M
ollama lsollama ls には、公開されている 19 GB に近いサイズの glm-4.7-flash:q4_K_M が表示されるはずです。pull が途中で失敗すると、実行可能な状態のモデルは残りません。同じコマンドを再実行してください。小さいプランでは、pull の前にディスク容量を確認してください。標準の Linux インストールでは、場所を OLLAMA_MODELS で変更しない限り、モデルは /usr/share/ollama/.ollama/models に保存されます。開始前に df -h /usr/share/ollama で確認してください。
各量子化方式にはどの程度の RAM が必要ですか?
まず、ダウンロードサイズを最低ラインと考え、そこに必要な容量を加えます。重みはメモリ上に常駐する必要があります。その上に、KV キャッシュ(key/value cache)があります。これは、ランタイムが会話中の既存トークンを記憶するために使用するメモリです。さらに、計算用バッファーと、オペレーティングシステムが使用するメモリも必要です。RAM が 19 GB しかない環境では、19 GB のタグは実行できません。
すべての環境に当てはまる単一の倍率はありません。許可するコンテキスト長によって KV キャッシュの容量が増え、その他の使用量もランタイムのバージョンによって変わるためです。そのため、推測せずに実測してください。簡単なプロンプトでモデルを読み込み、サーバーが確保したメモリを確認します。
ollama run glm-4.7-flash:q4_K_M "Reply with the single word: ready"
ollama psollama ps は、読み込まれたモデルを SIZE 列と PROCESSOR 列付きで表示します。SIZE はランタイムが実際に確保した容量です。この値を、計画している RAM 容量と比較します。PROCESSOR は処理が行われる場所を示します。100% CPU の場合、GPU はまったく使用されていません。
モデルが収まらない場合、Ollama は生成開始前に読み込みエラーを返すことがあります。Swap の逼迫や、out-of-memory によるプロセス終了が発生する場合もあります。すべてのメモリ障害が無言で発生するとは限らないため、journalctl -u ollama --no-pager でサービスログを確認し、journalctl -k | grep -i "out of memory" でカーネルログを確認してください。
19 GB の Q4 タグから 32 GB の Q8 タグへ変更することが、この容量に対して最も大きく影響する選択です。Q4 では出力品質が一部低下します。低下の程度はタスクによって異なり、カジュアルなチャットよりも、構造化出力や長い推論の連鎖で影響が大きくなります。Q4、Q8、FP16 の実際の違いを読んでから決定してください。CPU のみで動作する VPS では、量子化方式によってモデルを実行できるかどうかが決まることが多いためです。
CPU 専用 VPS での動作
ほとんどの VPS プランには GPU がありません。Ollama は警告を表示せず、CPU でモデルを実行します。実用に耐えるかどうかは、ワークロードと待ち時間を許容できるかによって決まります。
Mixture-of-experts 設計により、速度は向上します。1 つのトークンの処理に使用されるのは、30 billion 個のパラメーターのうち約 3 billion 個だけです。そのため、トークンごとの演算量は、dense 30B モデルより大幅に少なくなります。一方、メモリ使用量は減りません。次のトークンでどのエキスパートが選ばれるか分からないため、すべてのエキスパートをメモリ上に常駐させる必要があります。そのため CPU 専用の環境でも、Q4 tag には 19 GB 以上のメモリが必要です。スループットはクロック速度よりも、主にメモリ帯域幅に左右されます。
このため、コア数と RAM 容量が同じ 2 つのプランでも、メモリサブシステムの違いによって生成速度に明確な差が出ることがあります。共有プランでは、別の要因も加わります。他の利用者による CPU steal time が、時間帯によって変化する tokens-per-second の値として現れるためです。これが、他者が公開した数値からあなたの環境の結果を予測できない理由です。また、次のセクションが結果の表ではなく、測定手順になっている理由でもあります。
自分の tokens per second を測定する
Ollama の generate endpoint は、最終 JSON オブジェクトにタイミング情報を返します。生成された token 数を生成時間で割れば、自分のプランとプロンプトにおける値を算出できます。
sudo apt install -y jq
curl -s http://localhost:11434/api/generate -d '{
"model": "glm-4.7-flash:q4_K_M",
"prompt": "Write a 200 word explanation of how TCP congestion control works.",
"stream": false,
"options": {"num_ctx": 8192}
}' | jq '{
tokens: .eval_count,
tokens_per_second: (.eval_count / .eval_duration * 1e9),
prompt_seconds: (.prompt_eval_duration / 1e9),
load_seconds: (.load_duration / 1e9)
}'eval_count は生成された token 数、eval_duration はその生成にかかったナノ秒数です。したがって、eval_count / eval_duration * 1e9 が tokens per second です。prompt_eval_duration はプロンプトの読み込みにかかった時間で、最初の token が表示されるまでの待ち時間に相当します。load_duration はディスクからのモデル読み込みにかかった時間です。そのため、再起動後の最初の呼び出しでは大きくなり、次の呼び出しではほぼ 0 になります。
3 回実行し、2 回目と 3 回目の結果を記録します。1 回目にはモデルの読み込み時間が含まれるためです。次に、入力長を大幅に増やしたプロンプトでも実行します。プロンプト処理時間は入力長に応じて増加しますが、生成速度は変わらないためです。プラン名と量子化方式の横に数値を記録します。これは、他で確認したどのベンチマーク結果よりも有用です。料金を支払っているハードウェア上で測定した値だからです。
コンテキスト長がメモリ使用量を増大させる仕組み
GPU がない、または VRAM が 24 GiB 未満のサーバーでは、Ollama はデフォルトで 4096 トークンのコンテキストを使用します。モデルが対応する上限は glm-4.7-flash の 198K トークンと、はるかに大きい値です。ただし、デフォルトでこの長さになるわけではなく、有効化にはメモリが必要です。
KV キャッシュには、すべてのレイヤーで、各トークンの key ベクトルと value ベクトルが 1 つずつ保持されます。許可するトークン数に比例してサイズが増加します。4096 トークンから 32768 トークンに増やすと、コンテキスト長は 8 倍になるため、KV キャッシュもおよそ 8 倍になります。重みを保持できる程度のメモリしかないサーバーでは、この追加割り当てによって swap が発生します。そのため、短いプロンプトには問題なく応答できていたマシンでも、長いドキュメントを貼り付けると突然処理が遅くなります。同じサーバーでより長いコンテキストが必要な場合は、KV キャッシュを f16 ではなく q8_0 で保存することで、重みに影響を与えずにこの割り当てをおよそ半分にできます。Ollama の FAQ では、q8_0 のメモリ使用量は f16 のおよそ半分とされています。f16 は OLLAMA_KV_CACHE_TYPE のデフォルト値です。量子化キャッシュを使用できるのは、flash attention が有効な場合だけです。Ollama は、バックエンドとデバイスが対応していれば flash attention を自動的に有効にします。OLLAMA_FLASH_ATTENTION=1 を指定すると強制的に有効になります。
上記の curl コマンドのように、options オブジェクトの num_ctx でリクエストごとに設定できます。または、サーバーのデフォルト値を変更します。
sudo install -d -m 755 /etc/systemd/system/ollama.service.d
printf '[Service]\nEnvironment="OLLAMA_CONTEXT_LENGTH=16384"\n' \
| sudo tee /etc/systemd/system/ollama.service.d/override.conf
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment最後のコマンドでは、OLLAMA_CONTEXT_LENGTH の値が表示されます。空の Environment= が表示される場合は、override ファイルの配置先ディレクトリが間違っているか、reload が実行されていません。次にモデルをロードした後、ollama ps には、4096 のときより明らかに大きい SIZE が表示されるはずです。値は段階的に増やし、そのたびにこの数値を確認してください。num_ctx で Ollama のコンテキスト長を設定するでは、keep-alive と並列リクエストがこのコストにどのように影響するかを説明しています。どちらも同じコストを増大させます。複数のクライアントがサーバーを使用する場合は、コンテキスト長と同時実行数の上限を同時に決めてください。並列スロットごとに独自の KV キャッシュが必要になるため、キュー設定によって、2 番目のリクエストを待機させるか、直ちに拒否するかが決まります。
API のほうがサーバー本体より安い場合
セルフホスティングが自動的に安くなるわけではありません。このモデル群では、公開されている定価がその点を特に明確に示しています。
このグラフのデータ
[
{
"label": "GLM-5.2 input",
"usd_per_million_tokens": 1.4
},
{
"label": "GLM-5.2 output",
"usd_per_million_tokens": 4.4
},
{
"label": "GLM-4.7-Flash input",
"usd_per_million_tokens": 0
},
{
"label": "GLM-4.7-Flash output",
"usd_per_million_tokens": 0
}
]2026年10月25日時点で、Z.ai は GLM-5.2 の入力トークンを 100 万トークンあたり $1.4、出力トークンを 100 万トークンあたり $4.4 としています。このガイドでローカル実行するモデルである GLM-4.7-Flash は、入力と出力の両方で 100 万トークンあたり $0 です。これらは公開価格であり、変更される可能性があります。そのため、どちらを前提に予算を計画する場合も、事前に最新のページを確認してください。
したがって、現時点ではセルフホスティングの費用面での主張 glm-4.7-flash は弱いものです。十分な RAM を備えた VPS には毎月実費がかかります。一方、提供元は同じモデルを無料で提供しています。自分で実行することで得られるものは別にあります。プロンプトを自分で管理するマシン内に保持でき、モデルのバージョンも自分で変更しない限り変わりません。これらはセルフホスティングを選ぶ十分な理由です。ただし、このモデルをこの価格で使う場合、費用は理由になりません。
使いたいモデルが無料でない場合や、法的にデータを自ネットワークの外へ出せない場合は、計算結果が逆転します。GPU VPS と API トークンの損益分岐点では、各変数を明示してこの計算を説明しています。まだマシンを選定中であれば、VPS に実際にかかる月額費用が計算のもう一方の要素になります。
localhost でエンドポイントを待ち受ける
この手順は省略されがちですが、最も重要です。
Ollama はデフォルトで 127.0.0.1 の port 11434 に bind するため、サーバー自体からしか到達できません。思い込みで済ませず、実際の環境で確認してください。
ss -ltnp | grep 11434127.0.0.1:11434 と表示されることを確認します。0.0.0.0:11434 または *:11434 と表示される場合、API は public interface を含むすべての interface で待ち受けています。
これは重要です。Ollama の local API はデフォルトで認証を必要としません。password も token も allowlist もありません。port 11434 に到達できるユーザーは、モデルの一覧表示、料金を支払っているハードウェアでの生成処理、新しいモデルのディスクへの追加による容量の圧迫、既存モデルの削除を実行できます。port 11434 は既知のデフォルト値です。OLLAMA_HOST で bind address と port の両方を変更できます。
OLLAMA_HOST=0.0.0.0 は設定しないでください。この変数は Ollama が bind する address を変更します。laptop 上の client が接続できない場合の対処として、多くのチュートリアルがこれを推奨していますが、誤った対処です。代わりに port forwarding を使用してください。
ssh -N -L 11434:127.0.0.1:11434 you@your-serverSSH は laptop 上の port 11434 で接続を受け付け、各接続をサーバーから見て 127.0.0.1:11434 へ転送します。ここは Ollama がデフォルトで待ち受ける場所です。そのため、OLLAMA_HOST を変更する必要はなく、http://localhost:11434 用に設定された client はそのまま動作し、新たに公開されるものもありません。複数のユーザーまたは複数のマシンで利用する場合は、サーバーを private tunnel network に接続し、Ollama は tunnel address に bind してください。0.0.0.0 に bind してはいけません。
サーバー以外の場所から確認します。SSH tunnel を閉じた状態で、laptop から実行します。
curl -m 5 http://your-server-ip:11434/api/tagscurl: (28) Connection timed out または curl: (7) Failed to connect が正しい結果です。モデルの JSON 一覧が返る場合、port はインターネットに公開されています。直ちに修正してください。provider の network firewall はサーバー上で動作する firewall とは別の制御です。両方を確認してください。VPS hosting の安全性に関するより広い問題では、稼働し続けるマシンに必要な基本的な対策を説明しています。
glm-4.7-flash でもまだ大きすぎる場合
Q4 タグがプランに収まらない場合は、コンテキストを小さくするのではなく、より小さいモデルを選びます。モデルを収めるためにコンテキストを削ると、ロードはできても、最初の長いプロンプトで失敗します。VPS 上で 8B と 27B の Qwen 3 を実行するでは、容量の小さいサーバーに適したサイズで同じインストール手順を説明しています。VPS で Ollama を使って LLM をセルフホストする一般ガイドでは、選択するモデルにかかわらず共通する手順を説明しています。どのモデルを選ぶ場合も、タグを固定し、自分のプランで測定し、エンドポイントは loopback に限定してください。
FAQ
GLM 5.2 は VPS 上でローカル実行できますか?
はい。Z.ai が公開している重みと、SGLang や vLLM などの対応ランタイムを使用できます。2026 年 10 月 25 日時点で、GLM 5.2 は Ollama のライブラリでは glm-5.2:cloud としてのみ提供されています。このタグは Ollama 自身のインフラストラクチャで実行され、動作前に ollama signin が必要です。Z.ai の重みリポジトリによると、モデルは約 7530 億パラメーターです。そのため、パラメーターあたり 4 ビットとしても、重みだけで約 377 GB になります。公開されている大容量 VPS プランには、この容量を上回る Paragon の 512 GB E-48 などがあります。ただし、ランタイムのオーバーヘッドとコンテキスト用の空き容量も必要です。このガイドで使用する、ダウンロード可能な重みを持つ小型の GLM モデルは glm-4.7-flash です。
glm-4.7-flash にはどのくらいの RAM が必要ですか?
タグのダウンロードサイズを最低限の容量と考え、KV キャッシュとオペレーティングシステム用の容量を追加してください。Ollama では、Q4 タグは 19 GB、Q8 は 32 GB、bfloat16 タグは 60 GB と記載されています。KV キャッシュは設定したコンテキスト長に応じて増えるため、全員に適用できる固定倍率はありません。モデルを読み込み、ollama ps を実行して、SIZE 列から実際の環境での値を確認してください。
自分の VPS で tokens per second を測定するにはどうすればよいですか?
"stream": false を指定して http://localhost:11434/api/generate に 1 件のリクエストを送り、レスポンスから eval_count と eval_duration を読み取ります。tokens per second は eval_count / eval_duration * 1e9 です。eval_duration はナノ秒単位で報告されるためです。最初の実行は破棄してください。その実行では load_duration にディスクから重みを読み込む時間が含まれるためです。入力長が増えると prompt_eval_duration も増えますが、生成速度は変わらないため、長いプロンプトでも繰り返し測定してください。
OLLAMA_HOST を 0.0.0.0 に設定しないほうがよいのはなぜですか?
Ollama のローカル API はデフォルトで認証を必要としません。そのため、0.0.0.0 にバインドすると、すべての IPv4 インターフェースで公開されます。外部からのアクセス可否は、ルーティングとファイアウォールに依存することになります。11434 番ポートに到達できるユーザーは、ハードウェア上で生成を実行したり、インストールされているモデルを変更したりできます。デフォルトの 127.0.0.1 バインドを維持し、ss -ltnp | grep 11434 で確認してください。ラップトップから API にアクセスする場合は、ssh -N -L 11434:127.0.0.1:11434 you@your-server のような SSH トンネルを使用します。