SSD Nodes Learn Hosting plans →
Guias Matt ConnorPor Matt Connor · Atualizado 2026-10-26

Como rodar Nemotron 3.5 Lightning em um VPS

Use o Nemotron 3.5 Lightning com Ollama no seu servidor: veja a tag exata para baixar, a RAM necessária e se o modo apenas CPU tem velocidade aceitável.

Para que serve o Nemotron 3.5 Lightning

O Nemotron 3.5 Lightning é o modelo aberto de 30B com mistura de especialistas da NVIDIA, lançado em agosto de 2026. Foi desenvolvido para agentes que funcionam durante horas, e não apenas para uma janela de chat. MoE (mixture of experts) significa que os pesos são divididos por várias sub-redes especializadas e que cada token passa apenas por algumas delas. A model card da NVIDIA indica 30 billion de parâmetros no total, com 3 billion ativos por token. O custo está na quantidade total de parâmetros mantida na memória. A vantagem de velocidade vem da quantidade menor de parâmetros ativos.

Essa relação é o motivo para considerar este modelo num servidor alugado. Um agente que executa trabalho real envia milhares de pedidos curtos ao longo do dia. Por isso, o débito por dólar determina se o modelo pode funcionar no seu próprio servidor. Um modelo que demora 40 segundos por resposta é um assistente utilizável, mas um agente fraco, porque uma tarefa pode fazer 20 chamadas e é necessário esperar por cada uma.

A NVIDIA descreve a arquitetura como híbrida: camadas Mamba-2 e MoE intercaladas, com algumas camadas de attention. A model card indica um comprimento máximo de contexto de até 1M tokens e uma licença OpenMDW-1.1, marcada como pronta para uso comercial. Os idiomas principais são inglês e código. Também estão listados espanhol, francês, alemão, italiano e japonês.

A Artificial Analysis publicou medições do lançamento em agosto de 2026 que mostram quase 670 tokens de saída por segundo, num endpoint DeepInfra de pré-lançamento que servia os pesos NVFP4. Esse é um endpoint de GPU alojado. Interprete o valor como aquilo que a arquitetura permite, e não como aquilo que o seu VPS irá atingir.

Qual tag do Ollama usar em cada VPS

A biblioteca do Ollama publica várias compilações dos mesmos pesos. A diferença entre elas é a quantização, ou seja, quantos bits são usados para armazenar cada peso. Isso altera bastante o tamanho do download.

GráficoDownload size by Ollama tag, GB (Ollama library, checked October 2026)
Os dados por trás deste gráfico
[
  {
    "label": "30b-a3b-q4_K_M",
    "size_gb": 25
  },
  {
    "label": "30b-a3b-q8_0",
    "size_gb": 35
  },
  {
    "label": "30b-a3b-bf16",
    "size_gb": 66
  },
  {
    "label": "30b-a3b-mlx",
    "size_gb": 19
  }
]

As tags chamadas latest, 30b e 30b-a3b têm agora um digest próprio. A biblioteca lista-as com 19 a 25 GB desde a atualização feita em meados de outubro de 2026. Consultado diretamente no registry em 25 de outubro de 2026, esse ponteiro devolveu exatamente os mesmos ficheiros que 30b-a3b-q4_K_M. Por isso, o download predefinido numa VPS é a compilação de quatro bits com 25 GB e o contexto completo de 1M. O limite inferior de 19 GB do intervalo listado corresponde às compilações MLX, o que sugere que são fornecidas a máquinas com Apple silicon. A Q8_0 tem 35 GB e a bf16 tem 66 GB, ambas também com 1M. As compilações MLX de 19 GB destinam-se a Apple silicon e estão limitadas a um contexto de 256K, pelo que são a escolha errada numa VPS Linux. A biblioteca também lista 30b-mlx e 30b-a3b-nvfp4, que têm o mesmo digest que 30b-a3b-mlx, embora o nome do segundo formato pareça referir-se à NVIDIA, além de 30b-a3b-mxfp8 com 34 GB e 30b-a3b-mlx-bf16 com 66 GB. Todas também estão limitadas a 256K, pelo que nenhuma oferece a janela completa.

Esses valores são tamanhos de download, não requisitos de memória. A NVIDIA não publica um valor mínimo de VRAM (memória de vídeo) para as compilações do Ollama. Por isso, trate o tamanho do download apenas como um limite inferior. Os pesos têm de permanecer em algum tipo de memória: na memória da GPU, se a placa tiver capacidade suficiente, ou na RAM do sistema. A KV cache (cache de chave/valor, a memória por token que o modelo mantém da conversa) é adicionada a esse valor. O valor real para o seu hardware vem de um comando, não de uma estimativa aritmética, e é apresentado abaixo. Se ainda não escolheu um nível de quantização, quanto custam Q4, Q8 e FP16 explica o que é perdido em cada etapa.

Extraia a tag exata, nunca latest

latest é um ponteiro que muda. Quando a biblioteca o republica, o comportamento do seu agente muda na próxima extração, sem que haja nada nas suas notas para explicar o motivo. Isso já aconteceu uma vez com este modelo: em meados de outubro de 2026, a biblioteca moveu latest para um novo digest. Especifique a tag.

curl -fsSL https://ollama.com/install.sh | sh
ollama --version
ollama pull nemotron-3.5-lightning:30b-a3b-q4_K_M

O script de instalação configura um serviço systemd que é executado como o utilizador ollama e mantém os modelos em /usr/share/ollama/.ollama/models. Esse caminho fica no sistema de ficheiros raiz na maioria das imagens de VPS. Por isso, verifique o espaço disponível antes de pedir 25 GB. Se esse sistema de ficheiros tiver pouco espaço, vale a pena ler onde o Ollama armazena os modelos e como os mover antes da extração, e não depois de o disco ficar cheio.

df -h /usr/share/ollama

Uma extração que para a meio e apresenta no space left on device significa exatamente isso. Os blobs parciais permanecem no disco até serem eliminados. Depois, confirme o que foi instalado:

ollama show nemotron-3.5-lightning:30b-a3b-q4_K_M

ollama show apresenta a arquitetura, a quantidade de parâmetros, o tamanho do contexto e a quantização que o ficheiro realmente contém. Se algum desses dados não coincidir com a página da biblioteca, foi extraída uma tag diferente da pretendida.

Sirva o modelo e confirme onde foi executado

sudo systemctl enable --now ollama
ollama run nemotron-3.5-lightning:30b-a3b-q4_K_M "Reply with one word: ready"

Enquanto o modelo ainda estiver carregado, abra uma segunda shell:

ollama ps

Este é o comando que responde à questão da memória na sua máquina. ollama ps apresenta o modelo carregado, o espaço que ocupa na memória e uma coluna PROCESSOR. 100% GPU significa que todo o modelo está na VRAM. 100% CPU significa que não está na VRAM e que cada token é processado pelo processador a partir da RAM do sistema. Uma divisão como 65%/35% CPU/GPU significa que as camadas não couberam todas, e a proporção processada pela CPU determina a velocidade. Não estime o requisito. Carregue o modelo e leia esta linha.

Se não conseguir carregá-lo, o Ollama recusa o carregamento de forma controlada, sem falhar:

Error: model requires more system memory (28.4 GiB) than is available (15.6 GiB)

Um VPS somente com CPU é rápido o suficiente?

Um VPS de uso geral não tem GPU, portanto a CPU faz todo o trabalho e lê cada peso de que precisa a partir da RAM do sistema. O MoE ajuda neste ponto, porque apenas cerca de 3 bilhões dos 30 bilhões de parâmetros são utilizados por token. Assim, a quantidade de operações por token é muito menor do que num modelo denso de 30B. A memória não beneficia de todo. Os 30 bilhões de parâmetros têm de permanecer residentes, porque o router pode escolher qualquer expert para qualquer token.

Por isso, a inferência somente com CPU neste modelo é limitada pela largura de banda da memória, e não pelo número de cores. Adicionar vCPUs a um plano que já tenha uma quantidade razoável altera muito pouco o desempenho. Precisa de RAM suficiente para manter os pesos e a sua cache KV, além da memória mais rápida disponibilizada pelo plano.

Meça o desempenho antes de atribuir um agente a esse VPS, usando o método descrito em medir tokens por segundo para um LLM local:

ollama run --verbose nemotron-3.5-lightning:30b-a3b-q4_K_M "Write a 200 word summary of TCP slow start."

A linha eval rate apresentada no fim é a velocidade de geração, em tokens por segundo. Esse único número responde à questão, porque o tempo total de execução de um agente é dominado por ele. Multiplique-o pelo tamanho da resposta que espera. Se o resultado for superior ao tempo que está disposto a esperar, limitar a saída com num_predict é o mecanismo que limita uma chamada individual sem alterar o hardware.

GráficoAverage seconds per Intelligence Index task (Artificial Analysis, published August 2026)
Os dados por trás deste gráfico
[
  {
    "label": "Nemotron 3.5 Lightning",
    "sec_per_task": 30
  },
  {
    "label": "gpt-oss-120b",
    "sec_per_task": 204
  },
  {
    "label": "Qwen3.6 35B",
    "sec_per_task": 210
  }
]

Estes são valores publicados por terceiros e convertidos a partir dos minutos por tarefa comunicados pela Artificial Analysis no lançamento. As medições foram feitas em endpoints GPU alojados, e não num VPS. O Nemotron 3.5 Lightning teve uma média de cerca de 30 segundos por tarefa. gpt-oss-120b demorou aproximadamente 204, enquanto Qwen3.6 35B demorou aproximadamente 210. Use estes valores para perceber a dimensão da diferença, não como uma garantia para o seu hardware.

A orientação correta depende de quem está à espera. Se uma pessoa estiver à espera do agente, ou se o agente fizer longas sequências de chamadas consecutivas, alugue capacidade de GPU. Se for executado durante a noite segundo um agendamento e ninguém estiver a acompanhar, um plano de CPU com muita RAM é uma opção razoável. Em qualquer dos casos, a configuração é a mesma, e executar o Ollama numa VPS explica como dimensionar o plano e como uma instância com GPU se compara com o pagamento a um fornecedor de API por token. O ponto de equilíbrio depende da utilização: uma instância com GPU é faturada por cada hora em que existe, enquanto os tokens de API só são faturados quando utilizados. Assim, um agente ocupado durante a maior parte do dia favorece o servidor que controla, enquanto um agente que é executado duas vezes por hora normalmente não. O software Ollama não acrescenta qualquer custo a nenhum dos lados da comparação, porque pode ser executado gratuitamente num servidor alugado, e o que o Ollama cobra e o que não cobra explica como o Ollama Cloud se enquadra se preferir não alugar o hardware.

A janela de contexto de 1M não é gratuita

1M tokens é o máximo do modelo, mas o Ollama não o disponibiliza por predefinição. O Ollama utiliza uma janela predefinida muito menor e descarta os tokens mais antigos quando uma conversa ultrapassa esse limite. Nada é registado no nível de log predefinido quando isso acontece. Para um agente, parece que o modelo se esqueceu do início da própria tarefa.

Defina a janela de forma explícita. Para todo o servidor, edite o serviço:

sudo systemctl edit ollama

Adicione isto e execute sudo systemctl restart ollama:

[Service]
Environment="OLLAMA_CONTEXT_LENGTH=32768"

Por pedido, envie num_ctx no objeto de opções:

curl http://localhost:11434/api/chat -d '{
  "model": "nemotron-3.5-lightning:30b-a3b-q4_K_M",
  "messages": [{"role": "user", "content": "Say ready"}],
  "options": {"num_ctx": 32768},
  "stream": false
}'

Cada aumento consome memória, porque a cache KV cresce com o número de tokens permitido. Aumente o valor, reinicie e execute ollama ps novamente. Observe o aumento do tamanho apresentado. Se a coluna PROCESSOR mudar de 100% GPU para uma divisão depois dessa alteração, a cache KV retirou camadas do modelo da VRAM e a velocidade cairá muito. Escolher num_ctx no Ollama explica esta relação em detalhe. Não defina 1000000 apenas porque o model card permite esse valor. A alocação ocorre de imediato e o carregamento simplesmente falha.

Ligando-o a um agente sempre ativo

A página da biblioteca do Ollama documenta um atalho que inicia um agente compatível já configurado para usar este modelo:

ollama launch claude --model nemotron-3.5-lightning

A página lista claude, opencode, openclaw e hermes nessa posição. O subcomando requer uma versão atual do Ollama. Por isso, verifique primeiro ollama --version. Se o subcomando não estiver disponível, aponte manualmente o agente para a API. O Ollama expõe um endpoint compatível com OpenAI, aceite pela maioria dos frameworks de agentes:

export OPENAI_BASE_URL=http://localhost:11434/v1
export OPENAI_API_KEY=ollama

O Ollama ignora a chave, mas a maioria dos clientes não inicia sem uma chave definida. A configuração do lado do framework é abordada em apontar um agente de programação para o Ollama e em criar o seu próprio agente OpenClaw.

Quando o agente é executado sem supervisão, duas definições do servidor são importantes. OLLAMA_KEEP_ALIVE controla durante quanto tempo o modelo permanece na memória depois do último pedido. O valor predefinido descarrega-o após cinco minutos, fazendo com que a chamada seguinte volte a pagar todo o tempo de carregamento. Num ficheiro de 25 GB sem GPU, essa pausa é suficientemente longa para causar um timeout. Defina OLLAMA_KEEP_ALIVE=-1 para manter o modelo residente. OLLAMA_HOST=0.0.0.0:11434 torna a API acessível a partir de outras máquinas e não fornece qualquer autenticação. Exponha-a apenas por trás de uma regra de firewall ou numa rede privada.

Modos de falha e mensagens apresentadas

O pull falha imediatamente. Error: pull model manifest: file does not exist significa que essa tag não existe. Os nomes das tags são strings exatas. Copie uma da página da biblioteca em vez de adivinhar um sufixo de quantização.

O modelo não carrega. Error: model requires more system memory (28.4 GiB) than is available (15.6 GiB) significa que a tag é demasiado grande para este plano com a configuração atual. Use uma quantização menor ou reduza OLLAMA_CONTEXT_LENGTH, porque o cache KV é contabilizado nesse requisito.

Nada responde na porta 11434. curl: (7) Failed to connect to localhost port 11434 significa que o serviço não está em execução ou não está a escutar no endereço esperado. Consulte systemctl status ollama e journalctl -u ollama -n 50. Se também iniciou ollama serve manualmente, a segunda cópia termina com Error: listen tcp 127.0.0.1:11434: bind: address already in use.

Responde, mas muito lentamente. Verifique ollama ps antes de alterar qualquer coisa. Qualquer utilização de CPU na coluna PROCESSOR de uma máquina com GPU significa que parte do modelo saiu da VRAM. Reduza o contexto ou use uma quantização menor. Numa máquina sem GPU, a lentidão é esperada e nenhuma definição a corrige.

O agente esquece as instruções a meio de uma tarefa. A conversa ultrapassou a janela de contexto e os tokens mais antigos foram descartados silenciosamente. Aumente OLLAMA_CONTEXT_LENGTH, confirme com ollama ps que o modelo continua a caber e, se já não couber, a solução é uma máquina maior, não uma janela menor.

Onde este modelo se posiciona face às alternativas

Alojar um MoE de 30B é uma tarefa exigente para uma utilização pequena. Se um modelo denso de 8B já tratar da sua tarefa, será muito mais barato de executar e carregará em poucos segundos. Qwen 3 a 8B e 27B num VPS é a comparação direta para essa decisão. Para obter uma visão mais ampla do que um determinado plano consegue efetivamente alojar, comece por quais os modelos de IA que pode alojar por conta própria. Se pretende servir vários agentes em simultâneo, em vez de apenas um, leia primeiro Ollama comparado com vLLM. O Ollama consegue processar pedidos em paralelo para um modelo, mas OLLAMA_NUM_PARALLEL é fornecido com o valor 1. Assim, por predefinição, o pedido de um segundo agente fica numa fila até o primeiro terminar. Neste modelo, aumentar esse valor também não ajuda: a partir do Ollama v0.40.11, o agendador força a arquitetura nemotron_h_moe transportada por esta tag a processar um pedido de cada vez e regista model architecture does not currently support parallel requests. Nos modelos que aceitam esse valor, aumentá-lo consome memória: a FAQ do Ollama indica que a RAM necessária aumenta por um fator de OLLAMA_NUM_PARALLEL vezes OLLAMA_CONTEXT_LENGTH. Num modelo grande, é esse aumento que limita a escalabilidade de uma configuração para um único utilizador.

FAQ

Que tag do Nemotron 3.5 Lightning devo transferir para um VPS Linux?

Use nemotron-3.5-lightning:30b-a3b-q4_K_M. Ocupa 25 GB, inclui o contexto máximo completo de 1M e é a compilação devolvida pelos apontadores latest, 30b e 30b-a3b quando foram consultados em 25 de outubro de 2026, embora a biblioteca tenha movido esses apontadores para um digest separado em meados de outubro. Indique-o explicitamente em vez de transferir latest, para que uma futura republicação desse apontador não altere o comportamento do seu agente sem que se aperceba. As tags mlx são compilações para Apple silicon, tal como 30b-a3b-nvfp4, que partilha o digest 30b-a3b-mlx. Não serão úteis no Linux.

De quanta RAM precisa o Nemotron 3.5 Lightning?

A NVIDIA não publica um valor mínimo de memória para as compilações do Ollama, por isso faça uma medição em vez de uma estimativa. Transfira a tag, execute o modelo uma vez e leia ollama ps enquanto este estiver carregado: o comando apresenta o tamanho efetivamente ocupado e indica se o modelo foi carregado na GPU ou na CPU. O tamanho da transferência, 25 GB para a tag predefinida, é um valor mínimo, porque a cache KV é adicionada a esse valor e cresce de acordo com a janela de contexto configurada. Se o plano tiver memória insuficiente, o Ollama recusa a operação com model requires more system memory e apresenta ambos os valores.

Posso executar o Nemotron 3.5 Lightning num VPS sem GPU?

Sim, se o plano tiver RAM suficiente para manter os pesos, e o desenho MoE ajuda porque apenas cerca de 3 dos 30 mil milhões de parâmetros são calculados por token. A velocidade é a limitação. Sem uma GPU, o modelo fica limitado pela largura de banda da memória, pelo que adicionar vCPUs quase não altera o resultado. Execute ollama run --verbose com um prompt fixo, leia a linha eval rate e compare esse valor com o prazo aceitável para o seu agente. Para uma tarefa em lote executada durante a noite, costuma ser suficiente. Para qualquer tarefa cujo resultado tenha de ser aguardado por uma pessoa, normalmente não é.

Porque é que o Ollama não me dá a janela de contexto completa de 1M?

1M é o máximo do modelo, não o valor predefinido do Ollama. O Ollama aplica uma janela muito menor e descarta os tokens mais antigos quando uma conversa ultrapassa esse limite, sem apresentar qualquer erro. Isto faz parecer que o agente se esqueceu das próprias instruções. Defina OLLAMA_CONTEXT_LENGTH no serviço systemd ou passe num_ctx em cada pedido. Aumente o valor gradualmente e verifique novamente ollama ps de cada vez, porque a memória da cache KV cresce com a janela e pode fazer com que algumas camadas do modelo deixem de caber na GPU.

O Nemotron 3.5 Lightning pode ser utilizado gratuitamente em ambiente comercial?

A ficha do modelo da NVIDIA coloca o modelo sob a licença OpenMDW-1.1 e indica que está preparado para utilização comercial, conforme verificado em 25 de outubro de 2026. A página da biblioteca do Ollama identifica a licença incluída na transferência como NVIDIA Open Model License Agreement. Leia ambas antes de depender de qualquer uma delas. Isto abrange os pesos que transfere e executa por sua conta. Não abrange o restante software da sua stack. Verifique separadamente as licenças do agent harness e de quaisquer ferramentas ligadas ao agente. Leia também a ficha atual do modelo antes de utilizar esta informação para qualquer finalidade contratual.

Este artigo foi útil?