Rodar GLM 5.2 numa VPS com Ollama
A tag glm-5.2:cloud é executada na nuvem. Veja por que o GLM 4.7 Flash cabe numa VPS e quanta RAM cada quantização exige.
É possível executar o GLM 5.2 numa VPS?
Sim, mas não através da tag oficial do Ollama. Em 25 de outubro de 2026, o GLM 5.2 na biblioteca do Ollama tem exatamente uma tag, glm-5.2:cloud. Uma tag :cloud é executada nos servidores do Ollama. O seu servidor envia o prompt e recebe os tokens, por isso os pesos nunca chegam ao seu disco. A Z.ai publica os pesos e documenta a implementação local com SGLang e vLLM. O próprio repositório de pesos da Z.ai indica cerca de 753 mil milhões de parâmetros para o modelo. Quatro bits por parâmetro em 753 mil milhões de parâmetros correspondem a cerca de 377 GB de pesos, e isto é apenas aritmética básica, antes de considerar o contexto, as ativações ou o sistema operativo. Os planos de VPS publicados ultrapassam essa quantidade de memória: a Paragon lista o seu E-48 com 512 GB de RAM por €580/mês.
O modelo GLM que cabe num servidor alugado é glm-4.7-flash. É publicado com pesos descarregáveis em 4 tags. É um modelo de mistura de especialistas, o que significa que apenas uma pequena parte da rede é executada para cada token, e a Z.ai descreve-o como 30B-A3B: 30 mil milhões de parâmetros no total, com cerca de 3 mil milhões ativos por token. Por isso, este guia responde à pergunta que pode efetivamente aplicar. Fixe uma tag, dimensione o servidor, meça a sua própria velocidade e mantenha o endpoint privado.
Verifique a tag antes de copiar qualquer comando, incluindo os comandos apresentados aqui. A biblioteca do Ollama pode mudar sem aviso. Abra a lista de tags do glm-4.7-flash e confirme que a tag ainda existe. Se tiver sido publicada uma versão GLM mais recente com pesos locais, prefira-a e registe qual foi a tag que testou efetivamente.
Se quiser executar o próprio GLM 5.2 apesar disso, ollama run glm-5.2:cloud funciona depois de ollama signin, e do lado do cliente comporta-se como qualquer outro modelo do Ollama. Compreenda aquilo a que está a consentir: o prompt sai do seu servidor. Se a razão para alojar o modelo localmente é que os dados têm de permanecer na sua máquina, uma tag :cloud não cumpre esse requisito.
Quais tags do GLM existem e qual fixar
Há duas entradas oficiais do GLM relevantes aqui. glm-5.2 está disponível apenas na nuvem na biblioteca do Ollama. glm-4.7-flash é a versão local, e estas são as tags publicadas, com o tamanho do download indicado pelo Ollama para cada uma. Se já usou glm-5.1, tenha em conta que o Ollama o retirou em 25 September 2026 e que a página correspondente na biblioteca já não lista modelos. A Z.ai continua a publicar os pesos do GLM-5.1 e documenta a implementação local, portanto a retirada do Ollama não torna o modelo indisponível noutros locais.
Os dados por trás deste gráfico
[
{
"label": "q4_K_M",
"download_gb": 19
},
{
"label": "latest",
"download_gb": 19
},
{
"label": "q8_0",
"download_gb": 32
},
{
"label": "bf16",
"download_gb": 60
}
]Estes são valores publicados na página da biblioteca, não medições. latest e q4_K_M aparecem ambos listados com 19 GB, portanto latest resolve atualmente para a build Q4. Isto pode mudar a qualquer nova publicação, razão pela qual nunca deve escrever um ollama pull glm-4.7-flash sem especificar a quantização num script ou num Dockerfile. Indique a quantização. A maior tag, bf16, é um download de 60 GB que contém os pesos bfloat16 sem quantização.
Uma pesquisa na biblioteca também devolve uploads com nomes de namespace e uma barra no nome, como someuser/glm-5.2. A barra significa que foi publicada por uma conta de utilizador, portanto trata-se de um reupload da comunidade, e não da entrada oficial. Ninguém garante quais pesos estão no seu interior. Trate-a como trataria qualquer binário sem assinatura encontrado online.
Instale o Ollama e faça o pull da tag exata
O instalador Linux do Ollama consiste em um único comando.
curl -fsSL https://ollama.com/install.sh | sh
ollama --versionO instalador cria um serviço systemd que é executado como o usuário ollama. Confirme que ele foi iniciado antes de fazer qualquer pull.
systemctl status ollama --no-pagerActive: active (running) significa que o systemd considera o serviço em execução; isso não confirma que a API está pronta nem qual é a porta de escuta. Verifique a API separadamente com curl -fsS http://127.0.0.1:11434/api/tags no endereço e na porta padrão. Se a unidade não existir, o instalador recorreu a uma instalação apenas do binário, e a documentação do Ollama para Linux informa o ficheiro de serviço a criar manualmente.
A página glm-4.7-flash lista uma versão mínima do Ollama. Um binário antigo não executa o modelo lentamente; ele recusa o modelo: o pull falha com uma mensagem informando que o modelo exige uma versão mais recente do Ollama. Execute novamente o script de instalação para fazer a atualização. Em 2 de novembro de 2026, a versão atual é 0.40.13, que está bem acima desse mínimo.
Agora faça o pull de uma tag pelo nome.
ollama pull glm-4.7-flash:q4_K_M
ollama lsollama ls deve listar glm-4.7-flash:q4_K_M com um tamanho próximo dos 19 GB publicados. Um pull que falha no meio não deixa nada executável; portanto, execute novamente o mesmo comando. Em um plano pequeno, verifique o espaço em disco antes de fazer o pull: a instalação Linux padrão grava os modelos em /usr/share/ollama/.ollama/models, a menos que você altere o local com OLLAMA_MODELS. Verifique com df -h /usr/share/ollama antes de começar.
De quanta RAM cada quantização precisa?
Comece pelo tamanho do download como limite mínimo e acrescente os restantes consumos. Os pesos têm de permanecer na memória. Além deles, existe a cache KV (cache de chave/valor), que é a memória usada pelo runtime para guardar os tokens já presentes na conversa, além dos buffers de computação e do que o sistema operativo estiver a utilizar. Uma máquina com exatamente 19 GB de RAM não executará a tag de 19 GB.
Não existe um multiplicador único correto para todos os casos, porque a cache KV cresce com o comprimento de contexto permitido e os restantes consumos variam entre versões do runtime. Por isso, meça em vez de adivinhar. Carregue o modelo com um prompt trivial e depois consulte o que o servidor reservou.
ollama run glm-4.7-flash:q4_K_M "Reply with the single word: ready"
ollama psollama ps mostra o modelo carregado com uma coluna SIZE e uma coluna PROCESSOR. SIZE é o que o runtime reservou efetivamente, e esse é o valor que deve comparar com o seu plano. PROCESSOR indica onde o trabalho é executado, por isso 100% CPU significa que não foi usada qualquer GPU.
Quando o modelo não cabe, Ollama pode devolver um erro de carregamento antes de a geração começar. Pressão de swap e uma terminação por falta de memória são outros resultados possíveis. Consulte os logs do serviço com journalctl -u ollama --no-pager e os logs do kernel com journalctl -k | grep -i "out of memory", em vez de assumir que todas as falhas de memória são silenciosas.
A passagem da tag Q4 de 19 GB para a tag Q8 de 32 GB é o principal fator que pode controlar nesse valor. Q4 reduz um pouco a qualidade da saída, e a magnitude dessa redução depende da tarefa; a saída estruturada e as cadeias longas de raciocínio sofrem mais do que o chat casual. Como Q4, Q8 e FP16 diferem na prática merece ser lido antes de tomar uma decisão, porque num VPS apenas com CPU a escolha da quantização normalmente determina se o modelo será executado.
O que acontece numa VPS apenas com CPU
A maioria dos planos de VPS não inclui GPU, e o Ollama executa o modelo na CPU sem apresentar um aviso. A utilidade do resultado depende da carga de trabalho e da sua paciência.
A arquitetura de mistura de especialistas ajuda na velocidade. Apenas cerca de 3 bilhões dos 30 bilhões de parâmetros são usados para cada token, portanto, a quantidade de cálculos por token é muito menor do que a necessária para um modelo denso de 30B. O que não diminui é a memória. Todos os especialistas precisam permanecer residentes, porque o roteador pode selecionar qualquer um deles para o token seguinte. Por isso, uma máquina apenas com CPU ainda precisa de todos os 19 GB ou mais da tag Q4, e o throughput é determinado principalmente pela largura de banda da memória, não pela velocidade do clock.
Isso tem uma consequência prática: dois planos com a mesma quantidade de cores e a mesma RAM podem gerar tokens a velocidades significativamente diferentes porque os subsistemas de memória são diferentes. Um plano partilhado acrescenta uma segunda variável, pois o tempo de espera da CPU causado por um vizinho ruidoso aparece como uma taxa de tokens por segundo que muda de hora para hora. É por isso que o número publicado por outra pessoa não prevê o seu resultado e que a secção seguinte apresenta um procedimento de medição, não uma tabela de resultados.
Meça os seus próprios tokens por segundo
O endpoint generate do Ollama devolve campos de temporização no objeto JSON final. Divida a quantidade de tokens gerados pela duração da geração para obter o seu valor, no seu plano e com o seu prompt.
sudo apt install -y jq
curl -s http://localhost:11434/api/generate -d '{
"model": "glm-4.7-flash:q4_K_M",
"prompt": "Write a 200 word explanation of how TCP congestion control works.",
"stream": false,
"options": {"num_ctx": 8192}
}' | jq '{
tokens: .eval_count,
tokens_per_second: (.eval_count / .eval_duration * 1e9),
prompt_seconds: (.prompt_eval_duration / 1e9),
load_seconds: (.load_duration / 1e9)
}'eval_count indica quantos tokens foram gerados e eval_duration indica quantos nanossegundos foram gastos a gerá-los; por isso, eval_count / eval_duration * 1e9 corresponde a tokens por segundo. prompt_eval_duration contabiliza a leitura do seu prompt, que é o tempo de espera percecionado antes de aparecer o primeiro token. load_duration corresponde ao tempo gasto a carregar o modelo do disco, por isso é elevado na primeira chamada depois de um reinício e quase nulo na seguinte.
Execute três vezes e guarde os resultados da segunda e da terceira execução, porque a primeira inclui esse carregamento. Depois, execute novamente com um prompt muito mais longo, porque o processamento do prompt aumenta com o comprimento da entrada, enquanto a velocidade de geração não aumenta. Registe os valores junto do nome do seu plano e da sua quantização. Esse registo é mais útil do que qualquer benchmark que leia, porque foi medido no hardware pelo qual está a pagar.
Como o tamanho do contexto multiplica a memória
Num sistema sem GPU ou com menos de 24 GiB de VRAM, o Ollama usa por padrão um contexto de 4096 tokens. O modelo anuncia um valor muito maior, 198K tokens para glm-4.7-flash, mas esse valor não é usado por padrão e ativá-lo tem um custo.
A cache KV mantém um vetor de chaves e um vetor de valores para cada token, em cada camada. O tamanho cresce linearmente com o número de tokens permitido. Passar de 4096 para 32768 tokens multiplica o contexto por oito e, portanto, aumenta aproximadamente oito vezes a cache KV. Num sistema dimensionado apenas para acomodar os pesos, essa alocação adicional é precisamente o que provoca o uso de swap. Por isso, uma máquina que respondia bem a prompts curtos pode ficar extremamente lenta quando alguém cola um documento longo. Se precisar de um contexto maior no mesmo sistema, armazenar a cache KV em q8_0 em vez de f16 reduz aproximadamente para metade essa alocação sem alterar os pesos. A FAQ do Ollama indica que q8_0 usa aproximadamente metade da memória de f16, que é o valor padrão para OLLAMA_KV_CACHE_TYPE, e a cache quantizada só é usada quando a flash attention está ativada. O Ollama ativa a flash attention automaticamente quando o backend e os dispositivos oferecem suporte, e OLLAMA_FLASH_ATTENTION=1 força a sua ativação.
Defina esse valor por pedido com num_ctx no objeto de opções, como no comando curl acima, ou altere o valor padrão do servidor.
sudo install -d -m 755 /etc/systemd/system/ollama.service.d
printf '[Service]\nEnvironment="OLLAMA_CONTEXT_LENGTH=16384"\n' \
| sudo tee /etc/systemd/system/ollama.service.d/override.conf
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=EnvironmentO último comando deve mostrar o valor de OLLAMA_CONTEXT_LENGTH. Se mostrar um Environment= vazio, o ficheiro de substituição está no diretório errado ou a recarga foi ignorada. Depois do carregamento seguinte do modelo, ollama ps deve mostrar um SIZE visivelmente maior do que o valor apresentado com 4096. Aumente o valor em etapas e verifique esse número a cada alteração. Definir o tamanho do contexto do Ollama com num_ctx explica como isto interage com keep-alive e com pedidos paralelos, que multiplicam o mesmo custo. Se mais de um cliente utilizar o servidor, defina os limites de concorrência ao mesmo tempo que o contexto, porque cada slot paralelo mantém a sua própria cache KV e a configuração da fila determina se um segundo pedido aguarda ou é recusado imediatamente.
Quando a API custa menos do que o servidor
A auto-hospedagem não é automaticamente mais barata, e os preços de tabela publicados para esta família deixam isso especialmente claro.
Os dados por trás deste gráfico
[
{
"label": "GLM-5.2 input",
"usd_per_million_tokens": 1.4
},
{
"label": "GLM-5.2 output",
"usd_per_million_tokens": 4.4
},
{
"label": "GLM-4.7-Flash input",
"usd_per_million_tokens": 0
},
{
"label": "GLM-4.7-Flash output",
"usd_per_million_tokens": 0
}
]Em 25 de outubro de 2026, a Z.ai lista o GLM-5.2 a $1.4 por milhão de tokens de entrada e a $4.4 por milhão de tokens de saída. A empresa lista o GLM-4.7-Flash, o modelo que este guia executa localmente, a $0 tanto para entrada como para saída. Estes são preços publicados e podem mudar, por isso consulte a página atual antes de preparar um orçamento com base em qualquer um deles.
Por isso, o argumento financeiro a favor da auto-hospedagem glm-4.7-flash é fraco neste momento. Um VPS com RAM suficiente custa dinheiro real todos os meses, e o fornecedor disponibiliza o mesmo modelo sem custos. Ao executá-lo por sua conta, obtém outra coisa: os seus prompts permanecem numa máquina que controla, e a versão do modelo nunca muda a menos que a altere. São boas razões para usar a auto-hospedagem. Para este modelo e a estes preços, o custo não é uma delas.
A conta muda quando o modelo pretendido não é gratuito ou quando os seus dados não podem legalmente sair da sua própria rede. O ponto de equilíbrio entre um VPS com GPU e tokens de API explica esse cálculo com cada variável identificada. Se ainda está a escolher a máquina, quanto custa realmente um VPS por mês é a outra parte da soma.
Mantenha o endpoint em localhost
Esta é a etapa que as pessoas ignoram, mas é a mais importante.
Por padrão, o Ollama faz bind em 127.0.0.1 na porta 11434, portanto só pode ser acedido a partir do próprio servidor. Confirme isso no seu servidor em vez de assumir que é assim.
ss -ltnp | grep 11434Deve ver 127.0.0.1:11434. Ver 0.0.0.0:11434 ou *:11434 significa que a API está a escutar em todas as interfaces, incluindo a pública.
Isto é importante porque a API local do Ollama não exige autenticação por padrão. Não há palavra-passe, token nem allowlist. Qualquer pessoa que consiga aceder à porta 11434 pode listar os seus modelos, executar gerações no hardware que está a pagar, transferir novos modelos para o disco até o preencher e eliminar os modelos existentes. A porta 11434 é o valor padrão conhecido; OLLAMA_HOST pode alterar o endereço de bind e a porta.
Não defina OLLAMA_HOST=0.0.0.0. Essa variável altera o endereço ao qual o Ollama faz bind, e muitos tutoriais sugerem essa opção como solução quando um cliente no seu portátil não consegue ligar-se. É a solução errada. Encaminhe a porta em vez disso.
ssh -N -L 11434:127.0.0.1:11434 you@your-serverO SSH escuta na porta 11434 do seu portátil e encaminha cada ligação para 127.0.0.1:11434, conforme visto a partir do servidor, que é onde o Ollama já escuta por padrão. O túnel não precisa de qualquer alteração a OLLAMA_HOST, qualquer cliente configurado para http://localhost:11434 continua a funcionar sem alterações e nada de novo fica exposto. Para várias pessoas ou várias máquinas, coloque o servidor numa rede privada de túneis e faça o bind do Ollama ao endereço do túnel, nunca a 0.0.0.0.
Verifique a partir de outro local que não seja o servidor. No seu portátil, com o túnel SSH fechado:
curl -m 5 http://your-server-ip:11434/api/tagscurl: (28) Connection timed out ou curl: (7) Failed to connect é o resultado correto. Uma lista JSON dos seus modelos significa que a porta está aberta à Internet e precisa de ser corrigida imediatamente. A firewall de rede do seu fornecedor é um controlo separado da firewall em execução no servidor, por isso verifique ambas. A questão mais ampla sobre a segurança do alojamento VPS aborda o restante da configuração base de uma máquina que permanece em execução.
Se o glm-4.7-flash continuar a ser demasiado grande
Quando a tag Q4 não cabe no seu plano, a solução é usar um modelo menor, não reduzir o contexto. Reduzir o contexto para conseguir carregar um modelo resulta num serviço que inicia, mas falha no primeiro prompt longo. Qwen 3 a 8B e 27B numa VPS segue o mesmo processo de instalação com tamanhos adequados para máquinas modestas, e o guia geral para alojar um LLM localmente com Ollama numa VPS aborda as partes que permanecem iguais, independentemente do modelo escolhido. Seja qual for a sua escolha, fixe a tag, faça medições no seu próprio plano e mantenha o endpoint em loopback.
FAQ
O GLM 5.2 pode ser executado localmente numa VPS?
Sim, usando os pesos publicados pela Z.ai e um runtime compatível, como SGLang ou vLLM. Em 25 de outubro de 2026, o GLM 5.2 existe na biblioteca do Ollama apenas como glm-5.2:cloud, uma tag que é executada na própria infraestrutura do Ollama e requer ollama signin antes de funcionar. O repositório de pesos da Z.ai indica cerca de 753 bilhões de parâmetros para o modelo. Portanto, mesmo com quatro bits por parâmetro, os pesos sozinhos ocupam aproximadamente 377 GB. Os planos de VPS com muita memória publicados excedem esse valor, incluindo o Paragon E-48 com 512 GB, mas ainda é necessário reservar espaço para a sobrecarga do runtime e o contexto. O modelo GLM menor com pesos descarregáveis usado neste guia é glm-4.7-flash.
De quanta RAM o glm-4.7-flash precisa?
Considere o tamanho do download da tag como o mínimo necessário e reserve espaço adicional para a cache KV e o sistema operativo. O Ollama lista a tag Q4 com 19 GB, a Q8 com 32 GB e a tag bfloat16 com 60 GB. Não existe um multiplicador fixo adequado para todos os casos, porque a cache KV cresce com o comprimento de contexto definido. Carregue o modelo, execute ollama ps e consulte a coluna SIZE para obter o valor real no seu sistema.
Como meço os tokens por segundo na minha própria VPS?
Envie um pedido para http://localhost:11434/api/generate com "stream": false e leia eval_count e eval_duration na resposta. Os tokens por segundo correspondem a eval_count / eval_duration * 1e9, porque eval_duration é reportado em nanossegundos. Descarte a primeira execução, porque load_duration inclui, nesse caso, a leitura dos pesos a partir do disco. Repita também com um prompt longo, porque prompt_eval_duration aumenta com o comprimento da entrada, enquanto a velocidade de geração não aumenta.
Por que não devo definir OLLAMA_HOST como 0.0.0.0?
Porque a API local do Ollama não requer autenticação por predefinição. Ao associá-la a 0.0.0.0, ela fica exposta em todas as interfaces IPv4. O acesso público passa então a depender do encaminhamento e das firewalls. Qualquer pessoa que alcance a porta 11434 pode gerar conteúdo no seu hardware e alterar os modelos instalados. Mantenha a associação predefinida a 127.0.0.1, confirme-a com ss -ltnp | grep 11434 e aceda à API a partir do seu portátil através de um túnel SSH, como ssh -N -L 11434:127.0.0.1:11434 you@your-server.