Posso rodar o Ministral 3 8B?

O Ministral 3 8B é a aposta da Mistral, lançada no fim de 2025, naquele modelo local pequeno que faz de tudo, e ele dá conta tanto de chat quanto de visão no mesmo pacote de 8B. Em quantização de 4 bits, fica em torno de 4.9 GB, então cabe numa GPU de 8 GB com folga e roda tranquilo na memória unificada de qualquer Mac com Apple Silicon. O mínimo de 8 GB de RAM é honesto só para os pesos, o que torna o modelo uma escolha realista para um notebook ou uma GPU barata de segunda mão, em vez de algo que exige uma workstation.

No dia a dia ele parece rápido. Numa RTX 3060 dá para esperar cerca de 63 tokens por segundo em 4 bits, uma 4090 leva isso a aproximadamente 177, e um M-series Max fica perto de 72, todos mais rápidos do que você consegue ler a resposta em streaming. O destaque é a janela de contexto de 256K, mas trate isso como um teto, não como o padrão. Com 128K de contexto, o uso total de memória sobe para cerca de 21.7 GB, bem além do que uma placa de 8 GB comporta, então mantenha o contexto de trabalho em alguns milhares de tokens, a menos que você tenha VRAM para sustentar a janela longa.

Frente aos irmãos, ele fica no meio-termo: o Mistral Nemo 12B em geral tem mais fôlego para raciocínios mais difíceis, se você puder bancar o modelo maior, enquanto o Mistral 7B é a alternativa mais enxuta quando a memória está apertada. O traço que diferencia o Ministral 3 8B é que a visão cabe no mesmo footprint pequeno, então você ganha entendimento de imagens sem precisar pular para um modelo multimodal mais pesado. Ele vem sob a licença Apache 2.0, o que significa que você pode usá-lo comercialmente e em produção sem amarras específicas do provedor, uma licença realmente limpa para um modelo tão capaz.