Puis-je faire tourner Ministral 3 8B ?

Ministral 3 8B est la réponse de Mistral, fin 2025, au petit modèle local polyvalent : il gère à la fois le chat et la vision dans un même format 8B. En quantification 4-bit, il pèse environ 4.9 GB, ce qui le fait tenir sur un GPU de 8 GB avec de la marge et tourner sans souci dans la mémoire unifiée de n'importe quel Mac Apple Silicon. Les 8 GB de RAM minimum annoncés sont honnêtes pour les poids seuls, ce qui en fait un choix réaliste pour un ordinateur portable ou un GPU d'occasion bon marché, plutôt qu'un modèle réservé à une station de travail.

À l'usage quotidien, il est rapide. Sur une RTX 3060, comptez environ 63 tokens par seconde en 4-bit ; une 4090 monte à près de 177, et une puce M-series Max se situe autour de 72 — dans tous les cas plus vite que vous ne lisez une réponse en streaming. L'argument phare, c'est la fenêtre de contexte de 256K, mais traitez-la comme un plafond, pas comme une valeur par défaut. À 128K de contexte, l'empreinte mémoire totale grimpe à environ 21.7 GB, bien au-delà de ce qu'une carte de 8 GB peut contenir : limitez donc le contexte de travail à quelques milliers de tokens, sauf si vous disposez de la VRAM pour soutenir la fenêtre longue.

Face à ses cousins, il trouve un juste milieu : Mistral Nemo 12B offre généralement plus de marge pour le raisonnement difficile si vous pouvez vous permettre le modèle plus lourd, tandis que Mistral 7B reste le repli plus léger quand la mémoire est limitée. La vraie force de Ministral 3 8B, c'est que la vision tient dans la même petite empreinte : vous bénéficiez de la compréhension d'images sans passer à un modèle multimodal plus exigeant. Il est distribué sous licence Apache 2.0, ce qui signifie que vous pouvez l'utiliser à des fins commerciales et en production sans aucune contrainte spécifique au fournisseur — une licence vraiment propre pour un modèle aussi capable.