Posso rodar o Ministral 3 14B?
O Ministral 3 14B, da Mistral AI, precisa de cerca de 16 GB de RAM na quantização recomendada de 4 bits (download de 8.5 GB). Seu hardware é verificado abaixo — na hora, nada sai do seu navegador. Espere cerca de ~36 tok/s em um NVIDIA RTX 3060 12GB.
Lendo os sinais do seu hardware…
Notas do mundo real
O Ministral 3 14B é o modelo de porte médio da Mistral, lançado em dezembro de 2025: uma rede densa de 14B de parâmetros que também lida com visão. É a escolha certa quando você quer um único modelo local que conversa e lê imagens sem ter que alternar entre dois checkpoints. Em quantização de 4 bits, ele fica em torno de 8.5 GB, um pouco acima do que uma placa de 8 GB acomoda com folga, mas perfeitamente em casa numa RTX 3060 de 12 GB ou em qualquer Mac com Apple Silicon e 16 GB ou mais de memória unificada. Se o aperto for grande, uma build de 2 bits encolhe para cerca de 5.9 GB; já a build q8 fica mais perto de 15 GB.
No dia a dia, ele parece rápido para o tamanho. Numa RTX 3060 12 GB você verá cerca de 36 tokens por segundo em 4 bits, confortavelmente acima da velocidade de leitura, e uma RTX 4090 leva isso a aproximadamente 101 tok/s. Um M-series Max fica perto de 41 tok/s. A janela de contexto de 256K é o número de destaque, mas trate-a como teto, não como padrão: mesmo em 128K, a memória total sobe para cerca de 30 GB assim que o cache KV enche, bem além de um único dispositivo de 12 GB ou 16 GB. Mantenha o contexto de trabalho em alguns milhares de tokens, a menos que você tenha uma placa de 24 GB ou mais para gastar.
Em comparação com seus vizinhos, o Ministral 3 14B normalmente leva vantagem sobre irmãos mais antigos como o Mistral 7B e o Mistral Nemo 12B em prompts mais difíceis e de várias etapas, simplesmente por ser maior e mais novo, enquanto o OLMo 2 13B é a alternativa de dados totalmente abertos se a reprodutibilidade importa mais para você do que a capacidade bruta. Seu verdadeiro diferencial é a visão embutida nesse porte, com um perfil de velocidade de fato utilizável. E a licença é a parte fácil: Apache 2.0, então você pode usá-lo comercialmente e em produção sem amarras específicas do provedor.
Especificações
Tamanho por quantização
| Quantização | Bits/peso | Download | RAM mínima | Qualidade |
|---|---|---|---|---|
| Q2_K | 3.35 | 5.9 GB | 12 GB | Perda perceptível |
| Q4_K_MRecomendada | 4.85 | 8.5 GB | 16 GB | Recomendada |
| Q5_K_M | 5.65 | 9.9 GB | 16 GB | Alta |
| Q8_0 | 8.5 | 14.9 GB | 24 GB | Quase original |
| F16 | 16 | 28.0 GB | 48 GB | Original |
Os tamanhos são estimativas de número de parâmetros × bits por peso; builds GGUF reais variam um pouco. · Dados atualizados: 2026-06-11 · Como calculamos esses números →
Memória necessária por tamanho de contexto
| Contexto | Cache KV (est.) | Memória total (Q4) |
|---|---|---|
| 4K tokens | ~0.7 GB | ~9.2 GB |
| 8K tokens | ~1.3 GB | ~9.8 GB |
| 32K tokens | ~5.4 GB | ~13.9 GB |
| 128K tokens | ~21.6 GB | ~30.1 GB |
O cache KV cresce com o tamanho do contexto — um modelo que cabe em 4K pode ficar sem memória em 32K. As estimativas assumem cache em FP16 com grouped-query attention; o uso real varia conforme o runtime.
Velocidade estimada por hardware
| Hardware | Largura de banda | ~Velocidade |
|---|---|---|
| NVIDIA RTX 3060 12GB | 360 GB/s | ~36 tok/s |
| NVIDIA RTX 4090 24GB | 1008 GB/s | ~101 tok/s |
| Apple M-series (base) | 100 GB/s | ~10 tok/s |
| Apple M-series Pro | 270 GB/s | ~27 tok/s |
| Apple M-series Max | 410 GB/s | ~41 tok/s |
| CPU only (dual-channel DDR5) | 60 GB/s | ~6 tok/s |
A geração de tokens é limitada pela largura de banda da memória: tok/s ≈ largura de banda × 0,85 ÷ tamanho do modelo em Q4. Os números reais variam conforme o runtime e o tamanho do contexto.
Rode localmente
O caminho mais fácil é o Ollama — um comando e você já está conversando:
ollama run ministral-3:14b