← Todos os modelosVERIFICAÇÃO DE MODELO

Posso rodar o Llama 3.1 8B?

O Llama 3.1 8B, da Meta, precisa de cerca de 8 GB de RAM na quantização recomendada de 4 bits (download de 4.9 GB). Seu hardware é verificado abaixo — na hora, nada sai do seu navegador.

Lendo os sinais do seu hardware…

Especificações

Parâmetros8B
Janela de contexto128K tokens
FornecedorMeta
LicençaLlama Community
Lançamento2024-07
Ideal paraChat

Tamanho por quantização

QuantizaçãoBits/pesoDownloadRAM mínimaQualidade
Q2_K3.353.4 GB6 GBPerda perceptível
Q4_K_MRecomendada4.854.9 GB8 GBRecomendada
Q5_K_M5.655.7 GB12 GBAlta
Q8_08.58.5 GB16 GBQuase original
F161616.0 GB24 GBOriginal

Os tamanhos são estimativas de número de parâmetros × bits por peso; builds GGUF reais variam um pouco.

Rode localmente

O caminho mais fácil é o Ollama — um comando e você já está conversando:

ollama run llama3.1

Perguntas frequentes

Requisitos de sistema do Llama 3.1 8B — Posso rodar localmente?