← Todos os modelosVERIFICAÇÃO DE MODELO

Posso rodar o Mistral Nemo 12B?

O Mistral Nemo 12B, da Mistral AI, precisa de cerca de 12 GB de RAM na quantização recomendada de 4 bits (download de 7.4 GB). Seu hardware é verificado abaixo — na hora, nada sai do seu navegador.

Lendo os sinais do seu hardware…

Especificações

Parâmetros12.2B
Janela de contexto128K tokens
FornecedorMistral AI
LicençaApache 2.0
Lançamento2024-07
Ideal paraChat

Tamanho por quantização

QuantizaçãoBits/pesoDownloadRAM mínimaQualidade
Q2_K3.355.1 GB8 GBPerda perceptível
Q4_K_MRecomendada4.857.4 GB12 GBRecomendada
Q5_K_M5.658.6 GB16 GBAlta
Q8_08.513.0 GB24 GBQuase original
F161624.4 GB32 GBOriginal

Os tamanhos são estimativas de número de parâmetros × bits por peso; builds GGUF reais variam um pouco.

Rode localmente

O caminho mais fácil é o Ollama — um comando e você já está conversando:

ollama run mistral-nemo

Perguntas frequentes

Requisitos de sistema do Mistral Nemo 12B — Posso rodar localmente?