← Todos os modelosVERIFICAÇÃO DE MODELO

Posso rodar o Mistral 7B?

O Mistral 7B, da Mistral AI, precisa de cerca de 8 GB de RAM na quantização recomendada de 4 bits (download de 4.4 GB). Seu hardware é verificado abaixo — na hora, nada sai do seu navegador.

Lendo os sinais do seu hardware…

Especificações

Parâmetros7.2B
Janela de contexto32K tokens
FornecedorMistral AI
LicençaApache 2.0
Lançamento2023-09
Ideal paraChat

Tamanho por quantização

QuantizaçãoBits/pesoDownloadRAM mínimaQualidade
Q2_K3.353.0 GB6 GBPerda perceptível
Q4_K_MRecomendada4.854.4 GB8 GBRecomendada
Q5_K_M5.655.1 GB8 GBAlta
Q8_08.57.7 GB12 GBQuase original
F161614.4 GB24 GBOriginal

Os tamanhos são estimativas de número de parâmetros × bits por peso; builds GGUF reais variam um pouco.

Rode localmente

O caminho mais fácil é o Ollama — um comando e você já está conversando:

ollama run mistral

Perguntas frequentes

Requisitos de sistema do Mistral 7B — Posso rodar localmente?