Come eseguire Meta Muse Glimmer 30B su una VPS Linux

Requisiti di Muse Glimmer su una VPS

Muse Glimmer viene eseguito su una normale VPS Linux senza GPU; il tag utilizzato determina se il modello rientra nella memoria disponibile. Meta Superintelligence Labs ha pubblicato il modello il 10 agosto 2026 sotto licenza Apache 2.0: 30 miliardi di parametri, una finestra di contesto da 128K e un encoder di percezione dedicato da 1,8B di parametri per l'analisi di immagini insieme al testo. Meta lo propone per agenti locali sempre attivi piuttosto che per la chat, con un livello di capacità di ragionamento impostabile per ogni singola richiesta.

I tag Ollama pubblicati, consultati il 16 agosto 2026, variano da 17 GB a 59 GB. Questo intervallo definisce l'intero problema di dimensionamento. Il tag predefinito è indicato a circa 18 GB, pertanto l'istanza minima sensibile deve disporre chiaramente di più di 18 GB di RAM libera. Lo spazio su disco per il download e la memoria per la finestra di contesto vanno aggiunti a tale valore.

Quale tag muse-glimmer dovresti scaricare?

[
  {
    "label": "30b-nvfp4",
    "size_gb": 17
  },
  {
    "label": "30b (default)",
    "size_gb": 18
  },
  {
    "label": "30b-q4_K_M",
    "size_gb": 18
  },
  {
    "label": "30b-q4_K_M-dflash",
    "size_gb": 20
  },
  {
    "label": "30b-nvfp4-dflash",
    "size_gb": 21
  },
  {
    "label": "30b-q8_0",
    "size_gb": 31
  },
  {
    "label": "30b-mxfp8",
    "size_gb": 33
  },
  {
    "label": "30b-q8_0-dflash",
    "size_gb": 33
  },
  {
    "label": "30b-mxfp8-dflash",
    "size_gb": 35
  },
  {
    "label": "30b-bf16",
    "size_gb": 57
  },
  {
    "label": "30b-bf16-dflash",
    "size_gb": 59
  }
]

Ollama ha elencato 11 tag per questo modello che non sono build per Apple. Contengono gli stessi 30 miliardi di pesi memorizzati con diverse precisioni numeriche. La dimensione visualizzata corrisponde a quella del download ed è approssimativamente quella che devi mantenere in memoria prima dell'aggiunta di qualsiasi contesto.

Le due build a 4-bit sono quelle più leggere: 30b-nvfp4 da 17 GB e 30b-q4_K_M da 18 GB. Il tag predefinito 30b è elencato con la stessa dimensione della build q4_K_M. Le build a 8-bit, 30b-q8_0 e 30b-mxfp8, si attestano vicino ai 31 GB. 30b-bf16 è la release a 16-bit non quantizzata da 57 GB, che richiede più RAM di quanta ne offrano la maggior parte dei server a noleggio a un prezzo sostenibile per un progetto secondario.

I tag -dflash sono le stesse build con supporto DFlash e ognuna è elencata con una dimensione maggiore rispetto alla controparte standard. Ollama descrive DFlash come una funzionalità per la velocità e la dimostra su Apple Silicon e GPU desktop. Su un VPS basato solo su CPU pagheresti quella dimensione extra in memoria reale per una funzionalità misurata su altro hardware; quindi, inizia con il tag standard e modifica una cosa alla volta.

Inizia con la versione a 4-bit a meno che tu non abbia un motivo specifico per non farlo. Passare da 4-bit a 8-bit raddoppia approssimativamente i byte che la CPU deve leggere per ogni token generato, riducendo il throughput e aumentando l'utilizzo della memoria. Questo compromesso è l'argomento di cosa comportano realmente le quantizzazioni q4, q8 e fp16 e, su un server basato su CPU, la risposta breve è che la build a 4-bit è l'unica da cui vale la pena iniziare.

Perché i tag MLX non hanno effetto su un server Linux

MLX è il framework per array di Apple e il motore MLX di Ollama è il suo backend per Apple Silicon. Qualsiasi tag con mlx nel nome è compilato per quel motore e per quell'hardware. Su una VPS Linux x86, si tratta di decine di gigabyte di download che non è possibile eseguire e che occuperanno spazio su disco senza alcuna utilità. Le prestazioni dichiarate nell'annuncio, misurate su un Mac, si riferiscono a quei tag e non descrivono quindi il comportamento del proprio server. Quando si consulta l'elenco dei tag nella pagina del modello, filtrare innanzitutto ogni nome mlx e successivamente selezionare la dimensione tra quelli rimanenti.

Di quanta RAM e spazio su disco ha realmente bisogno?

Due elementi richiedono memoria, ma solo uno dipende dalla dimensione del tag. I pesi sono fissati dal tag che scarichi. La KV cache, ovvero lo stato per token che il modello mantiene per la conversazione, cresce in base alla lunghezza del contesto configurato. La documentazione di Ollama specifica che servire richieste in parallelo moltiplica il contesto per il numero di richieste attive; pertanto, un server che risponde a due agenti contemporaneamente necessita di più memoria rispetto a uno che ne gestisce solo uno.

Non fare affidamento sui valori di RAM indicati in nessuna guida, inclusa questa. Scarica il tag, invia un prompt e, mentre il modello è ancora in memoria, esegui questi due comandi.

ollama ps
free -h

ollama ps mostra cosa è attualmente caricato e come il carico è suddiviso tra CPU e GPU. free -h mostra la memoria residua. Questi due output sulla tua macchina sono più affidabili di qualsiasi tabella pubblicata, poiché includono già le tue impostazioni di contesto, la quantizzazione e ogni altro processo in esecuzione sul server.

Il disco è la parte più semplice. Ollama archivia i modelli in /usr/share/ollama/.ollama/models su Linux, percorso che nella maggior parte delle immagini VPS risiede nel filesystem root. Un volume root da 40GB non può contenere la build bf16 da 57 GB, né può ospitare due tag a 8-bit contemporaneamente. Sposta l'archivio su un volume montato prima di scaricare qualsiasi cosa.

sudo systemctl edit ollama

[Service]
Environment="OLLAMA_MODELS=/mnt/models"

sudo mkdir -p /mnt/models
sudo chown -R ollama:ollama /mnt/models
sudo systemctl daemon-reload
sudo systemctl restart ollama

L'utente ollama deve essere il proprietario di quella directory, poiché il servizio viene eseguito come ollama e scrive i propri blob con tale identità. Se un download fallisce a causa dei permessi, journalctl -u ollama -n 50 è il punto in cui appare la causa.

Sullo swap è necessaria una precisazione: lo swap non permette di eseguire un tag più grande. La generazione accede ai pesi per ogni token prodotto; di conseguenza, i pesi che risiedono nello swap vengono letti continuamente dal disco. vmstat 1 mostrerà le colonne si e so occupate e la generazione rallenterà fino a richiedere secondi per singolo token. Mantieni un piccolo file di swap come protezione contro l'OOM killer. Dimensiona la RAM in base al tag che intendi effettivamente utilizzare.

Installare Ollama e fissare un tag specifico

curl -fsSL https://ollama.com/install.sh | sh
ollama --version
systemctl status ollama

Lo script di installazione configura un servizio systemd, garantendo che il server si riavvii automaticamente dopo un reboot. Se si preferisce non eseguire il software come servizio gestito da root, la guida eseguire Ollama senza privilegi di root con Podman illustra la procedura alternativa. Successivamente, scaricare un tag esplicito.

ollama pull muse-glimmer:30b
ollama list

Controllare personalmente la colonna delle dimensioni in ollama list e confrontarla con l'elenco dei tag aggiornato sulla pagina del modello. I tag pubblicati vengono aggiunti, rinominati o rimossi; le dimensioni indicate in una guida rappresentano solo un'istantanea temporale.

Non scrivere mai ollama pull muse-glimmer su un server in produzione. Il nome del modello senza tag viene risolto automaticamente nel tag latest, mentre latest è un puntatore che l'autore può reindirizzare a una build differente. Un comando di pull eseguito di routine sostituirebbe il modello sottostante al proprio agente, modificando i requisiti di memoria e il comportamento, senza che alcun log segnali l'avvenuta variazione. Specificare sempre il tag negli script, nei file unit e nella configurazione dell'agente. La guida Self-hosting di un LLM con Ollama su una VPS copre la restante configurazione del server.

È possibile eseguire Muse Glimmer senza una GPU?

Sì, ed è necessario essere chiari sui limiti. La generazione di un token comporta la lettura dei pesi del modello dalla memoria; pertanto, la velocità è determinata dalla larghezza di banda della memoria e non dal numero di vCPU pubblicizzate dal piano. Oltre un certo numero di core, aggiungere ulteriori risorse apporta benefici minimi. Su un VPS condiviso, tale larghezza di banda è spartita con tutti gli altri tenant sull'host, quindi un modello da 30B a 4-bit produrrà un numero limitato di token al secondo.

Non accettare i numeri di nessuno, inclusi i miei. Misura i token al secondo sulla tua macchina e decidi in base a ciò che osservi.

Il risultato è una netta distinzione negli ambiti di utilizzo del modello. La chat interattiva risulta frustrante, poiché la velocità di lettura umana supera quella di scrittura del server e ogni risposta inizia con una lunga pausa. Il lavoro di background come agente è invece accettabile, poiché un'attività eseguita senza supervisione per dieci minuti non risente della lentezza. Questo secondo carico di lavoro è esattamente quello descritto da Meta per questo modello.

Se hai bisogno di velocità interattiva, le uniche due risposte oneste sono una GPU o un'API in hosting. Calcola il punto di pareggio tra un VPS con GPU e i token API prima di noleggiare qualsiasi risorsa, e cosa offre realmente un VPS con GPU descrive cosa stai acquistando. Per la questione più ampia su cosa possa ospitare una determinata macchina, inizia da quali modelli puoi ospitare autonomamente, mentre eseguire un modello Qwen di dimensioni simili su un VPS rappresenta il confronto più vicino in questa classe di dimensioni.

Perché dimentica le informazioni molto prima dei 128K token?

Perché la finestra di contesto predefinita di Ollama è di 4096 token, indipendentemente da quanto supportato dal modello. Questo valore predefinito è indicato nelle FAQ di Ollama aggiornate ad agosto 2026. Il tag pubblicizza 128K, ma il server fornisce al modello 4096 token finché non viene specificato diversamente; di conseguenza, una lunga trascrizione di un agente perde i primi scambi e il modello sembra soffrire di amnesia.

È necessario aumentarlo sul server per ogni richiesta:

[Service]
Environment="OLLAMA_CONTEXT_LENGTH=32768"

All'interno di una sessione interattiva, /set parameter num_ctx 32768 modifica il valore solo per quella sessione. Tramite API, inviare num_ctx nelle opzioni della richiesta.

Ogni token di contesto aggiuntivo occupa memoria oltre ai pesi del modello. Richiedere l'intero valore di 128K su una macchina dimensionata solo per i pesi causerà il fallimento del caricamento o un ripiegamento su prestazioni più lente. Aumentare il valore gradualmente ed eseguire ollama ps dopo ogni incremento. Come funzionano num_ctx e la lunghezza del contesto in Ollama illustra i calcoli necessari.

Livelli di capacità di ragionamento: low, medium, high e xhigh

Meta documenta quattro livelli di capacità di ragionamento per Muse Glimmer, da low a xhigh, e raccomanda i due più elevati per attività di programmazione complesse e compiti basati su agenti. In Ollama, questa impostazione si basa sul parametro think. Utilizzare --think= dalla riga di comando, oppure inviare think nel corpo della richiesta API.

ollama run muse-glimmer:30b --think=high "Summarise the changes in /tmp/patch.diff"

All'interno di una sessione interattiva, /set think e /set nothink permettono di alternare le impostazioni. La documentazione di Ollama indica che la maggior parte dei modelli accetta un valore booleano o un livello come low, medium o high, e che alcuni accettano max per il livello massimo disponibile. Le stringhe esatte accettate da questo modello sono riportate nella relativa pagina del modello; è preferibile consultarla invece di procedere per tentativi, testando manualmente il valore prima di integrarlo in un agente.

Su una macchina dotata solo di CPU, questo parametro ha un impatto significativo. Un livello di capacità più elevato comporta la generazione di un numero maggiore di token di ragionamento prima che appaia la prima parola della risposta; ogni token di ragionamento richiede lo stesso tempo di elaborazione di un token di risposta. Mantenere l'impostazione low per le attività di routine.

Mantenere il modello caricato per un agente sempre attivo

Per impostazione predefinita, Ollama scarica un modello inattivo dopo cinque minuti. Per un agente che viene eseguito ogni dieci minuti, ciò significa dover caricare ogni volta 18 GB dal disco, un'operazione non rapida su un VPS con storage di rete. È preferibile bloccarlo in memoria.

[Service]
Environment="OLLAMA_KEEP_ALIVE=-1"

Un valore negativo mantiene il modello residente finché non viene scaricato esplicitamente; inoltre, keep_alive in una richiesta API sovrascrive il valore predefinito del server per quella specifica chiamata. Il costo è chiaro: la RAM rimane occupata anche quando non c'è attività, quindi questa impostazione è adatta a una macchina dedicata all'agente. Mantenere un modello Ollama caricato illustra le diverse varianti.

Configurare un agente di programmazione

Ollama espone un'API compatibile con OpenAI su http://127.0.0.1:11434/v1, pertanto la maggior parte degli strumenti per agenti si connette utilizzando un URL di base e una chiave API qualsiasi, purché non vuota. La pagina Muse Glimmer di Ollama documenta anche una scorciatoia di avvio che collega un agente supportato a un modello locale con un singolo comando; è consigliabile fissare anche il tag in quella sede.

ollama launch claude --model muse-glimmer:30b

Gli agenti inviano prompt di grandi dimensioni. I contenuti dei file, l'output degli strumenti e la cronologia in espansione arrivano tutti come token di input; su una macchina basata su CPU, l'elaborazione del prompt è la fase che richiede più tempo, ancor prima che inizi la generazione. Mantieni il contesto il più limitato possibile in base al compito. Configurare un agente di programmazione su Ollama tratta il lato client, eseguire un agente di programmazione su una VPS descrive la macchina ospite, e controllare i costi di un agente su una VPS spiega cosa accade quando il processo rimane attivo tutto il giorno.

L'input di immagini funziona allo stesso modo. L'API di Ollama accetta immagini nel campo images di un messaggio; di conseguenza, un client che supporta solo testo non ne invierà mai, indipendentemente dalle capacità dell'encoder di percezione.

Non aprire la porta 11434

L'API di Ollama non dispone di autenticazione. Impostare OLLAMA_HOST=0.0.0.0:11434 per renderla raggiungibile dal proprio portatile espone un motore di esecuzione modelli non autenticato su Internet; chiunque lo trovi può caricare modelli sul disco e leggere qualsiasi dato inviato dall'agente. Mantenere il binding su localhost e utilizzare un tunnel.

ssh -N -L 11434:127.0.0.1:11434 user@your-vps

Metodi per proteggere l'endpoint dell'API di Ollama illustra le opzioni corrette, incluso l'uso di un reverse proxy che richiede credenziali.

Cosa si rompe e cosa vedrai

Il pull si interrompe a metà. Disco. Esegui df -h sulla directory del modello. Una build bf16 da 57 GB non entra in un volume root da 40GB, e lo stesso vale per due tag a 8-bit affiancati.

Il modello viene caricato e poi il processo termina. Memoria esaurita. dmesg -T registra l'intervento del kernel out of memory killer che seleziona un processo, e journalctl -u ollama -n 100 mostra il lato servizio dello stesso evento. La soluzione è un tag più piccolo o una num_ctx inferiore. Non è aggiungere swap.

L'esecuzione richiede secondi per token. Esegui vmstat 1 e monitora le colonne si e so. Un'attività di swap costante significa che i pesi non entrano nella RAM e il sistema li sta leggendo dal disco durante l'elaborazione.

Un tag che funzionava la scorsa settimana non c'è più. Gli elenchi dei tag cambiano. Rileggi la pagina del modello, blocca la versione corrente e annota il nome del tag in un posto dove potrai ritrovarlo.

ollama pull muse-glimmer:30b
ollama list
sudo du -sh /usr/share/ollama/.ollama/models

FAQ

Quanta RAM richiede Muse Glimmer su una VPS?

Parti dalla dimensione del tag e aggiungi la finestra di contesto. Il tag predefinito è indicato a circa 18 GB al 16 agosto 2026, quindi un server da 16GB non può ospitarlo affatto e uno da 24GB lo ospita con poco spazio residuo per il contesto. Consideralo un punto di partenza, non una risposta definitiva. Scarica il tag, caricalo una volta, quindi esegui ollama ps e free -h sul tuo server e leggi i tuoi valori. Un contesto più lungo e le richieste parallele aumentano il consumo di memoria oltre al peso dei pesi del modello.

Posso eseguire Muse Glimmer senza una GPU?

Sì. Si carica e risponde su una VPS basata solo su CPU. La velocità di generazione è limitata dalla larghezza di banda della memoria piuttosto che dal numero di core; su un host condiviso tale banda è condivisa, quindi aspettati un numero ridotto di token al secondo a 4-bit. È utilizzabile per attività di agenti in background che vengono eseguite senza supervisione, ma è lento per una chat interattiva. Esegui ollama ps durante una richiesta e leggi la colonna del processore per confermare dove viene eseguito il carico di lavoro.

I tag MLX sono utili su una VPS Linux?

No. Ogni tag con mlx nel nome è creato per il motore MLX di Ollama, che è il suo backend per Apple Silicon. Su un server Linux x86 quei tag sono un download pesante che non puoi eseguire. Usa il tag semplice 30b, o uno degli altri tag non MLX, e ignora i benchmark dell'hardware Apple associati alle build MLX.

Perché il modello dimentica le cose molto prima dei 128K token?

Perché la finestra di contesto predefinita di Ollama è di 4096 token, indipendentemente da ciò che il modello supporta; il server tronca le conversazioni lunghe prima ancora che il modello le veda. Imposta OLLAMA_CONTEXT_LENGTH sul server, o /set parameter num_ctx per una singola sessione, oppure invia num_ctx nelle opzioni della richiesta API. L'uso della memoria aumenta di conseguenza, quindi aumenta il valore gradualmente e controlla ollama ps ogni volta.

Dovrei fissare il tag o usare semplicemente latest?

Fissalo. muse-glimmer senza un tag punta a latest, che è un riferimento che l'editore può spostare su una build diversa in qualsiasi momento; pertanto, un comando di pull di routine potrebbe cambiare il modello su cui gira il tuo agente. Scrivi muse-glimmer:30b negli script, nei file unit e nella configurazione dell'agente. Controlla l'elenco dei tag sulla pagina del modello prima di fissarlo, poiché i tag pubblicati cambiano.