Auto-héberger Mistral Large 4 : ce qu'il faut vraiment

Peut-on auto-héberger Mistral Large 4 sur un serveur en France ?

Auto-héberger Mistral Large 4 demande un nœud multi-GPU avec au moins un demi-téraoctet de mémoire pour les seuls poids, même en 4 bits. Un VPS ne suffit pas, y compris un VPS avec GPU. Au 8 octobre 2026, Mistral n'a pas encore publié les poids. Le modèle existe sous forme d'API en préversion publique.

Ce guide fait le calcul mémoire à partir des chiffres publiés par Mistral. Il compare ensuite les routes réalistes pour un lecteur qui veut garder la main sur ses données. Pour chacune, il dit qui traite vos requêtes. C'est la vraie question derrière l'envie d'héberger un modèle français sur un serveur français.

Ce que Mistral publie sur Large 4

La page de documentation du modèle porte le statut Public Preview, la version v26.10 et la date du 6 octobre 2026. Elle donne ces chiffres :

• 1 050 milliards de paramètres au total (1,05T dans la notation anglaise, soit 1,05 billion en français) ;
• 52 milliards de paramètres actifs par token ;
• un encodeur de vision de 1,6 milliard de paramètres, car le modèle accepte des images ;
• une fenêtre de contexte de 1 million de tokens.

L'article d'annonce, publié le 6 octobre 2026, arrondit à « 1 trillion-parameter », soit mille milliards.

49 ou 52 milliards de paramètres actifs ?

Les sources ne sont pas d'accord. La documentation de Mistral, l'en-tête de la page Ollama et l'article d'annonce tel qu'il est en ligne le 8 octobre disent 52 milliards. Le Readme de la page Ollama dit 49 milliards, et certaines premières reprises aussi. Ce guide suit la documentation de Mistral, donc 52 milliards. Pour le calcul mémoire, l'écart ne change rien, car la mémoire dépend du total et non des paramètres actifs. La suite explique pourquoi.

Licence et poids : ce qui n'est pas encore là

La documentation qualifie le modèle d'open-weight (poids ouverts) et affiche une étiquette « Open ». Elle ne nomme aucune licence. L'article d'annonce, lui, promet : « We will release the weights by the end of the month ». C'est une promesse, pas une disponibilité.

Avant de planifier un achat ou une location de matériel, ouvrez la fiche du modèle sur Hugging Face, dans l'organisation mistralai. Vérifiez d'abord que les poids y sont bien publiés. Lisez ensuite la licence et la liste des quantifications proposées. Une quantification est une version des poids stockée sur moins de bits par paramètre. Elle réduit la mémoire nécessaire, avec une perte de qualité qui dépend de la méthode. Ne comptez sur aucun format tant qu'il n'apparaît pas sur la fiche.

Combien de mémoire faut-il pour Mistral Large 4 ?

Le calcul est simple. On multiplie le nombre total de paramètres par le nombre d'octets utilisés pour stocker chacun :

• BF16 (brain floating point sur 16 bits) : 2 octets par paramètre ;
• FP8 (virgule flottante sur 8 bits) : 1 octet par paramètre ;
• 4 bits : 0,5 octet par paramètre, avant les facteurs d'échelle que la plupart des formats ajoutent.

[
  {
    "label": "BF16 (2 octets par param\u00e8tre)",
    "poids_go": 2100
  },
  {
    "label": "FP8 (1 octet par param\u00e8tre)",
    "poids_go": 1050
  },
  {
    "label": "4 bits (0,5 octet par param\u00e8tre)",
    "poids_go": 525
  }
]

En BF16, les poids pèsent environ 2100 Go. En FP8, environ 1050 Go. En 4 bits, environ 525 Go. Ce sont des estimations arithmétiques, pas des chiffres de Mistral. Mistral n'a publié ni taille de fichier ni configuration matérielle recommandée pour Large 4.

Ces chiffres sont un plancher. Ils ignorent plusieurs postes réels :

• l'encodeur de vision de 1,6 milliard de paramètres ;
• le cache KV (cache clé-valeur), qui garde l'état de chaque token déjà lu et grossit avec la longueur du contexte ;
• les activations et la marge propre au moteur d'inférence ;
• les facteurs d'échelle des formats 4 bits.

Le contexte de 1 million de tokens pèse lourd ici. Plus vous allouez de contexte, plus le cache KV prend de place, en plus des poids. Pour refaire ce calcul avec d'autres modèles, la méthode complète est dans notre guide sur la taille de LLM qui tient dans votre RAM.

Voici un exemple concret, toujours en arithmétique simple. Avec des cartes de 80 Go, il faut au moins sept cartes rien que pour les poids en 4 bits, car six cartes n'offrent que 480 Go. En FP8, il en faut au moins quatorze. Et il reste à loger le cache KV.

Pourquoi 52 milliards de paramètres actifs ne réduisent pas la mémoire

Mistral Large 4 utilise une architecture MoE (Mixture of Experts, ou mélange d'experts). Le réseau contient de nombreux blocs spécialisés, appelés experts. Pour chaque token, un routeur choisit quelques experts, et seuls ceux-là calculent. Ici, cela représente 52 milliards de paramètres sur 1 050, soit environ 5 % du modèle par token.

Ce chiffre fixe la quantité de calcul par token, donc la vitesse en tokens par seconde. Il ne fixe pas la mémoire. Le routeur peut choisir n'importe quel expert au token suivant, donc les 1 050 milliards de paramètres doivent rester chargés. Si un expert n'est pas en mémoire GPU au moment où le routeur le choisit, il faut aller le chercher ailleurs, et ce transfert coûte du temps à chaque token concerné.

En pratique, un MoE se calcule comme un modèle moyen, mais il se loge comme un très gros modèle. C'est le même constat que pour l'auto-hébergement de Kimi K3, un autre modèle de l'ordre du millier de milliards de paramètres.

Un VPS avec GPU suffit-il ?

Non. Un VPS avec GPU vous donne en général une seule carte, parfois deux. C'est très bien pour un modèle de 8 à 30 milliards de paramètres. Ce n'est pas l'ordre de grandeur de Large 4. Si vous hésitez sur ce que permet une offre GPU, lisez ce qu'un VPS avec GPU peut réellement faire tourner.

Héberger Large 4 vous-même suppose donc un serveur dédié multi-GPU, loué ou acheté, avec un moteur d'inférence capable de répartir le modèle sur plusieurs cartes. Ce projet se chiffre en serveurs entiers, pas en abonnement mensuel de VPS. Il n'a de sens qu'une fois les poids publiés et la licence lue.

Qui traite vos données ? Les trois routes réalistes

Le motif de souveraineté est clair : un laboratoire parisien, un modèle entraîné en Europe, alors pourquoi pas un serveur en France ? Selon l'article d'annonce, Large 4 a été entraîné sur 3 800 GPU NVIDIA Grace Blackwell dans les centres de données de Mistral en Europe. Attention : cette phrase parle de l'entraînement. Elle ne dit rien de l'endroit où vos requêtes sont traitées aujourd'hui.

Ce guide ne fait aucune affirmation de conformité au RGPD (règlement général sur la protection des données) ou à SecNumCloud pour ces services. Si votre projet en dépend, lisez le Trust Center de Mistral et sa liste de sous-traitants, ou les documents équivalents d'Ollama.

Route 1 : l'API de Mistral

Vos requêtes vont chez Mistral. Le prix catalogue indiqué sur l'article d'annonce est de 1,36 $ par million de tokens en entrée et de 4,18 $ par million de tokens en sortie. Au 8 octobre 2026, la page de tarifs affiche un prix de lancement : 0,68 $ en entrée, 0,07 $ pour l'entrée en cache (au lieu de 0,14 $) et 2,09 $ en sortie. La page ne donne aucune date de fin. Les prix sont affichés en dollars, avec un bouton pour basculer en euros.

Pour l'emplacement, la documentation sur l'inférence régionale décrit plusieurs points d'accès. api.mistral.ai est le point global et ne prend aucun engagement de lieu. api.eu.mistral.ai sert depuis plusieurs centres de données de l'Union européenne et de l'AELE (Association européenne de libre-échange). api.us.mistral.ai sert depuis les États-Unis. Les points régionaux sont facturés 1,1 fois le prix catalogue, soit 10 % de plus.

La même page précise : « Regional endpoints only serve models hosted in that region. » Elle ne liste pas Large 4 parmi les modèles servis en Europe. Ne supposez donc rien et vérifiez. L'article d'annonce parle d'une disponibilité dans plusieurs régions, dont un déploiement européen, mais au futur.

Pour vérifier, installez le SDK Python de Mistral dans un environnement virtuel. Sur Ubuntu 24.04, pip refuse d'installer un paquet dans le Python du système avec l'erreur externally-managed-environment, d'où le venv.

sudo apt update && sudo apt install -y python3-venv
python3 -m venv ~/mistral-env
~/mistral-env/bin/pip install mistralai
export MISTRAL_API_KEY="votre_cle"

Puis interrogez le point d'accès européen :

~/mistral-env/bin/python - <<'EOF'
import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"], server="eu")
print(client.models.list())
EOF

Cherchez un identifiant qui contient large-4 dans la sortie. S'il n'y en a pas, le modèle n'est pas servi depuis l'Europe pour votre compte, et un appel vers ce point d'accès échouera. Une erreur d'authentification signifie que MISTRAL_API_KEY est vide ou fausse dans ce terminal. Notez aussi une limite documentée : les Agents, le traitement par lots (Batch) et l'API Files ne sont pas disponibles sur les points régionaux.

Route 2 : Ollama Cloud piloté depuis un petit VPS

Ollama propose une étiquette mistral-large-4:cloud. C'est la seule étiquette listée pour ce modèle au 8 octobre 2026. Elle n'a pas de taille de téléchargement, car rien n'est téléchargé : le modèle tourne dans le cloud d'Ollama, et votre serveur ne fait qu'envoyer des requêtes. La page indique un contexte de 1 million de tokens, des entrées texte et image, et la mention « High Usage ».

Sur un VPS Ubuntu, la commande d'installation officielle est la première ligne ci-dessous :

curl -fsSL https://ollama.com/install.sh | sh
sudo systemctl status ollama
ollama signin
ollama run mistral-large-4:cloud

systemctl status doit afficher active (running). ollama signin relie la machine à votre compte Ollama, ce qui est nécessaire pour les modèles cloud. Le détail de cette mise en place est dans notre guide pour faire tourner les modèles Ollama Cloud sur un petit VPS.

Pour l'API HTTP, les requêtes vont vers https://ollama.com/api/chat avec un en-tête Authorization: Bearer qui porte votre OLLAMA_API_KEY. Le nom du modèle dans l'API n'est pas toujours celui de l'étiquette :cloud. Consultez https://ollama.com/api/tags pour trouver le nom exact avant d'écrire votre code.

Côté données, soyons précis. Vos prompts vont chez Ollama, pas chez Mistral, et pas sur votre serveur. La documentation d'Ollama dit qu'Ollama traite les prompts et les réponses pour répondre, et ne les utilise pas pour entraîner des modèles. Sa politique de confidentialité dit que ce contenu est traité de façon transitoire. Elle dit aussi : « Data may be transferred to and processed in the United States. » Ses sous-traitants incluent des fournisseurs d'infrastructure cloud et d'inférence, sans les nommer. Votre VPS en France ne change rien à ce trajet.

Côté prix, au 8 octobre 2026, la page de tarifs d'Ollama propose plusieurs formules. Free est à 0 $, avec des crédits à l'usage, un ensemble plus restreint de modèles de démarrage et 1 requête simultanée. Pro coûte 20 $ par mois (200 $ par an), avec 60 $ de crédits mensuels et 3 requêtes simultanées. Max coûte 100 $ par mois, avec 300 $ de crédits et 10 requêtes simultanées. Nous n'avons pas pu confirmer quelle formule donne accès à Large 4. Vérifiez sur votre page d'usage avant de compter dessus. Pour comparer ce modèle économique à un serveur à vous, lisez Ollama Cloud face à votre propre serveur.

Route 3 : les petits modèles Mistral qui tiennent sur un VPS

C'est la seule route où le modèle tourne réellement sur votre machine. C'est donc la seule où les prompts ne quittent pas votre serveur. Le prix à payer est la taille du modèle. Ollama liste ces modèles Mistral, avec leur taille de téléchargement par défaut :

[
  {
    "label": "ministral-3:3b",
    "taille_go": 3
  },
  {
    "label": "ministral-3:8b",
    "taille_go": 6
  },
  {
    "label": "ministral-3:14b",
    "taille_go": 9.1
  },
  {
    "label": "mistral-small3.2 (24B)",
    "taille_go": 15
  }
]

La famille ministral-3 existe en 3, 8 et 14 milliards de paramètres. La page Ollama indique un contexte de 256K tokens et une licence Apache 2.0. Le plus petit pèse 3 Go, la variante 8b 6 Go. mistral-small3.2 compte 24 milliards de paramètres et pèse 15 Go, avec un contexte de 128K, la vision et l'appel d'outils. Sa page Ollama n'indique pas de licence, donc vérifiez-la avant un usage commercial.

Ces tailles sont celles du fichier, pas la RAM nécessaire. Il faut ajouter le cache KV et la marge du système. Sans GPU, un modèle de 24 milliards de paramètres tournera lentement sur CPU. Nous n'avons pas mesuré ces modèles sur un VPS, alors testez avec votre propre charge. La fenêtre de 256K est un maximum. La mémoire réellement prise dépend du contexte que vous configurez, comme l'explique notre guide sur num_ctx et la longueur de contexte dans Ollama.

ollama pull ministral-3:8b
ollama run ministral-3:8b

Si vous choisissez cette route pour la confidentialité, coupez aussi les fonctions cloud d'Ollama. Sinon, une étiquette :cloud tapée par erreur enverrait vos prompts hors de la machine. La FAQ d'Ollama documente la variable OLLAMA_NO_CLOUD=1. Pour le service systemd, ajoutez-la dans un fichier de surcharge :

sudo mkdir -p /etc/systemd/system/ollama.service.d
printf '[Service]\nEnvironment="OLLAMA_NO_CLOUD=1"\n' | sudo tee /etc/systemd/system/ollama.service.d/no-cloud.conf
sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo journalctl -u ollama -n 50 | grep -i "cloud disabled"

La dernière commande doit afficher Ollama cloud disabled: true. Si elle n'affiche rien, le service n'a pas relu sa configuration. Vérifiez le chemin du fichier, puis relancez daemon-reload et restart. La FAQ d'Ollama indique aussi une autre méthode, la clé disable_ollama_cloud dans ~/.ollama/server.json, à placer dans le répertoire de l'utilisateur qui fait tourner le serveur.

Que vérifier le jour où les poids sortent ?

Si Mistral publie les poids comme annoncé, ne partez pas des estimations de cet article. Partez de la fiche Hugging Face :

1. Lisez la licence et vérifiez qu'elle couvre votre usage.
2. Notez la taille réelle des fichiers pour chaque format publié.
3. Ajoutez le cache KV pour la longueur de contexte dont vous avez vraiment besoin, pas pour 1 million de tokens par défaut.
4. Vérifiez que votre moteur d'inférence prend en charge l'architecture et le format, encodeur de vision compris.
5. Comparez le coût mensuel d'un nœud multi-GPU avec la facture de l'API pour votre volume réel de tokens.

Pour la plupart des équipes, la réponse honnête tient en deux options : l'API européenne de Mistral si Large 4 y est servi, ou un modèle Mistral plus petit sur votre propre serveur. Le nœud multi-GPU se justifie quand le volume est très élevé, ou quand une exigence contractuelle impose que les poids et les données restent sur votre matériel.

FAQ

Peut-on faire tourner Mistral Large 4 sur un VPS ?

Non. Le modèle compte 1 050 milliards de paramètres, ce qui donne environ 525 Go de poids même en 4 bits, avant le cache KV. Un VPS, même avec un GPU, est loin de cet ordre de grandeur. Il faut un serveur multi-GPU. Sur un VPS, vous pouvez en revanche piloter l'étiquette mistral-large-4:cloud d'Ollama, qui tourne dans le cloud d'Ollama, ou faire tourner localement un modèle comme ministral-3.

Combien de mémoire faut-il pour Mistral Large 4 ?

Pour les seuls poids, comptez environ 2100 Go en BF16, 1050 Go en FP8 et 525 Go en 4 bits. Ce sont des calculs faits à partir des 1 050 milliards de paramètres documentés par Mistral, pas des chiffres officiels. Il faut y ajouter l'encodeur de vision, le cache KV, qui grossit avec le contexte, et la marge du moteur d'inférence.

Mistral Large 4 a-t-il 49 ou 52 milliards de paramètres actifs ?

La documentation de Mistral et son article d'annonce, tel qu'il est en ligne le 8 octobre 2026, disent 52 milliards. Le Readme de la page Ollama dit 49 milliards. Pour la mémoire, cela ne change rien. Un modèle MoE doit garder tous ses experts chargés, donc c'est le total de 1 050 milliards qui compte. Les paramètres actifs fixent la vitesse, pas la mémoire.

Avec mistral-large-4:cloud sur Ollama, où vont mes données ?

Chez Ollama, pas chez Mistral et pas sur votre serveur. Ollama dit ne pas utiliser les prompts pour l'entraînement et les traiter de façon transitoire. Sa politique de confidentialité précise que les données peuvent être transférées et traitées aux États-Unis, par des sous-traitants qu'elle ne nomme pas. Héberger le client sur un VPS en France ne change pas ce trajet.

Quelle est la licence de Mistral Large 4 ?

Au 8 octobre 2026, la documentation de Mistral décrit le modèle comme open-weight mais ne nomme aucune licence, et les poids ne sont pas encore publiés. Mistral annonce leur publication pour la fin du mois. Consultez la fiche du modèle sur Hugging Face, dans l'organisation mistralai, pour connaître la licence et les quantifications disponibles avant de planifier quoi que ce soit.