← Todos os modelosVERIFICAÇÃO DE MODELO

Posso rodar o OLMo 2 13B?

O OLMo 2 13B, da Ai2, precisa de cerca de 12 GB de RAM na quantização recomendada de 4 bits (download de 8.3 GB). Seu hardware é verificado abaixo — na hora, nada sai do seu navegador.

Lendo os sinais do seu hardware…

Especificações

Parâmetros13.7B
Janela de contexto4K tokens
FornecedorAi2
LicençaApache 2.0
Lançamento2024-11
Ideal paraChat

Tamanho por quantização

QuantizaçãoBits/pesoDownloadRAM mínimaQualidade
Q2_K3.355.7 GB12 GBPerda perceptível
Q4_K_MRecomendada4.858.3 GB12 GBRecomendada
Q5_K_M5.659.7 GB16 GBAlta
Q8_08.514.6 GB24 GBQuase original
F161627.4 GB48 GBOriginal

Os tamanhos são estimativas de número de parâmetros × bits por peso; builds GGUF reais variam um pouco.

Rode localmente

O caminho mais fácil é o Ollama — um comando e você já está conversando:

ollama run olmo2:13b

Perguntas frequentes