Puis-je faire tourner Qwen 3 32B ?

Qwen 3 32B est le modèle vers lequel on se tourne quand un modèle 8B bute systématiquement sur les passages difficiles et qu'on dispose de mémoire à revendre. C'est un modèle dense de 32,8 milliards de paramètres conçu pour la conversation et le raisonnement, et en quantification 4-bit il pèse environ 19.9 GB. Cela le met hors de portée d'une carte 12 GB comme une RTX 3060, où il ne tient tout simplement pas, et il réclame au moins 32 GB de RAM système. Ses véritables foyers, ce sont un GPU 24 GB comme une RTX 4090 ou un Mac Apple Silicon doté d'une mémoire unifiée généreuse. Ce n'est pas un modèle qu'on emporte partout sur un portable : c'est un modèle de station de travail.

À l'usage quotidien, il paraît posé plutôt que vif. Sur une RTX 4090, vous pouvez tabler sur environ 43 tok/s en 4-bit, confortablement plus rapide que la vitesse de lecture, tandis qu'un Max de la série M se stabilise autour de 18 tok/s et que le CPU pur sur DDR5 se traîne à environ 3 tok/s, correct pour des traitements par lots mais pénible pour une conversation en direct. Le contexte de 128K est réellement utile pour les longues chaînes de raisonnement, mais à manier avec respect : le remplir fait grimper la mémoire totale à environ 51.6 GB, ce qui déborde d'une seule carte 24 GB. Gardez un contexte de travail modeste, sauf si vous avez la marge mémoire pour le soutenir.

Face à l'autre option de raisonnement en 32B, DeepSeek R1 32B, l'arbitrage tient au tempérament : R1 a tendance à pousser davantage la chaîne de pensée explicite, tandis que Qwen 3 32B donne globalement l'impression d'être plus équilibré, un assistant généraliste qui sait encore raisonner quand on le lui demande. Sa marque de fabrique, c'est cette combinaison entre une large polyvalence et une licence Apache 2.0 propre : vous pouvez l'utiliser commercialement et en production sans friction juridique. Si vous avez dépassé les plus petits modèles de chat Qwen 3 0.6B et 1.7B et que vous voulez un vrai poids de raisonnement entièrement à vous, c'est le palier supérieur, à condition que votre matériel puisse l'héberger.