Puis-je faire tourner Qwen 3 4B ?

Qwen 3 4B est le modèle vers lequel se tourner quand on veut du vrai raisonnement dans un petit format. En quantification 4-bit, il pèse environ 2.4 GB, ce qui lui permet de tenir à peu près partout : un GPU de 6 GB garde de la marge, n'importe quel Mac Apple Silicon l'avale sans broncher, et même un vieux portable avec une carte intégrée peut l'héberger. Pour un usage confortable, comptez au minimum 6 GB de RAM. Sur une machine sans GPU ou un appareil de type Raspberry, c'est l'un des rares modèles qui reste réellement utile à cette empreinte, et pas seulement chargeable sur le papier.

À l'usage quotidien, il paraît rapide. Sur une RTX 3060, il atteint environ 126 tokens par seconde en 4-bit, et un M-series Max tourne autour de 144, bien au-delà de la vitesse de lecture : les réponses défilent instantanément pour le chat et les courtes chaînes de raisonnement. Une 4090 grimpe à environ 353 si vous en avez une. En CPU pur sur DDR5, on tombe à environ 21 tokens par seconde, lent mais exploitable pour des tâches en arrière-plan. La fenêtre de contexte est de 32K, largement suffisante pour la plupart des travaux, mais la remplir fait monter la mémoire totale à environ 5.5 GB : sur une machine juste à 6 GB, gardez donc un contexte de travail modeste.

Face à sa propre famille, Qwen 3 4B est la montée en gamme évidente par rapport à Qwen 3 1.7B quand le plus petit modèle commence à trébucher sur les prompts multi-étapes, tout en restant bien plus léger que la catégorie 7-8B. Phi-4 Mini 3.8B est une alternative raisonnable à taille comparable et fait globalement jeu égal sur le chat, mais la vraie force de Qwen 3 4B, c'est de jouer au-dessus de son nombre de paramètres sur les tâches de raisonnement, pour un coût d'exécution minime. Il est distribué sous licence Apache 2.0 : vous pouvez donc l'utiliser commercialement et en production sans souci de licence, ce qui est rare à ce rapport qualité/taille.