Posso rodar o Devstral 2 123B?

O Devstral 2 123B é o grande modelo denso de programação da Mistral, voltado para quem está montando setups locais sérios de código, não para o pessoal de notebook. Em 4-bit ele ocupa cerca de 74.6 GB, o que já conta a história: ele não cabe numa RTX 3060 de 12 GB nem numa RTX 4090 de 24 GB, ponto final. Você precisa de aproximadamente 96 GB de memória para carregá-lo com folga, então, na prática, isso significa uma máquina Apple Silicon com bastante memória ou uma workstation com RAM de respeito. É um modelo em torno do qual você planeja o hardware, não um que você baixa por curiosidade para testar.

No dia a dia, a ressalva honesta é a velocidade. Num Apple M Max você vai ver algo perto de 5 tokens por segundo, e uma máquina só com CPU e DDR5 cai para mais ou menos 1 token por segundo, o que está mais para tarefa em lote do que para chat interativo. Ele lê e escreve código bem, mas você vai sentir cada resposta chegando devagar. A janela de contexto é generosa, 256K no papel, embora a memória seja o limite real: chegar a 128K de contexto já pede cerca de 132 GB no total, então, numa máquina de 96 GB, você mantém o contexto de trabalho modesto e aposta em prompts mais curtos e focados.

Comparado ao MoE Qwen 3.5 122B-A10B em related_models, o trade-off fica claro: aquele modelo ativa apenas uma fração dos seus pesos por token e costuma parecer mais rápido com contagem de parâmetros semelhante, enquanto o Devstral 2 roda cada um dos seus 123B parâmetros a cada token. O grande diferencial do Devstral é ser um especialista em código denso e focado, da Mistral, com contexto longo, desde que você tenha memória para alimentá-lo. Um detalhe prático sobre a licença: ele vem sob uma licença Modified MIT, então leia os termos específicos antes de qualquer uso comercial, em vez de presumir a liberdade do MIT puro.