Puis-je faire tourner Devstral 2 123B ?

Le Devstral 2 123B est le gros modèle de code dense de Mistral, pensé pour les gens qui montent de vraies stations locales de programmation, pas pour la foule des portables. En 4-bit, il occupe environ 74.6 GB, et ça dit déjà tout : il ne tient ni sur une RTX 3060 de 12 GB ni sur une RTX 4090 de 24 GB, point final. Il te faut à peu près 96 GB de mémoire pour le charger confortablement, ce qui veut dire concrètement une machine Apple Silicon bien dotée en mémoire ou une workstation avec une RAM costaude. C'est un modèle autour duquel tu planifies ton matériel, pas un que tu télécharges par curiosité pour l'essayer.

Au quotidien, la réserve honnête, c'est la vitesse. Sur un Apple M Max, tu tournes autour de 5 tok/s, et une machine CPU seul en DDR5 chute à environ 1 tok/s, ce qui relève davantage du traitement par lots que du chat interactif. Il lit et écrit du code correctement, mais tu sentiras chaque réponse arriver lentement, goutte à goutte. La fenêtre de contexte est généreuse sur le papier, 256K, mais la vraie limite est la mémoire : monter à 128K de contexte réclame déjà environ 132 GB au total, donc sur une machine de 96 GB tu gardes le contexte de travail modeste et tu mises sur des prompts plus courts et ciblés.

Comparé au modèle MoE Qwen 3.5 122B-A10B présent dans related_models, le compromis est net : ce dernier n'active qu'une fraction de ses poids par token et paraît en général plus rapide à nombre de paramètres comparable, alors que le Devstral 2 fait tourner chacun de ses 123B paramètres à chaque token. La force de Devstral, c'est d'être un spécialiste du code dense et focalisé signé Mistral, avec un contexte long, à condition d'avoir la mémoire pour le nourrir. Une note pratique sur la licence : il est distribué sous une licence Modified MIT, donc lis les conditions précises avant tout usage commercial plutôt que de présumer la liberté du MIT classique.