Puis-je faire tourner Mistral Nemo 12B ?
Mistral Nemo 12B de Mistral AI demande environ 12 GB de RAM avec la quantisation 4 bits recommandée (7.4 GB à télécharger). Votre matériel est vérifié ci-dessous — instantanément, rien ne quitte votre navigateur.
Lecture des signaux matériels…
Caractéristiques
Taille selon la quantisation
| Quantisation | Bits/poids | Téléchargement | RAM min. | Qualité |
|---|---|---|---|---|
| Q2_K | 3.35 | 5.1 GB | 8 GB | Perte sensible |
| Q4_K_MRecommandée | 4.85 | 7.4 GB | 12 GB | Recommandée |
| Q5_K_M | 5.65 | 8.6 GB | 16 GB | Élevée |
| Q8_0 | 8.5 | 13.0 GB | 24 GB | Quasi originale |
| F16 | 16 | 24.4 GB | 32 GB | Originale |
Les tailles sont estimées à partir du nombre de paramètres × bits par poids ; les builds GGUF réels varient légèrement.
Le faire tourner en local
Le chemin le plus simple est Ollama — une commande et vous discutez :
ollama run mistral-nemoSources et téléchargements
Ollama Library
Téléchargez et lancez le modèle avec une seule commande.
ollama.comHugging Face
Poids du modèle, fichiers et détails de la licence.
huggingface.coDépôt GitHub officiel
Code source, releases et issues de Mistral AI.
github.comMistral AI — page officielle
Page officielle et documentation de Mistral AI.
mistral.ai