Puis-je faire tourner Qwen 3 1.7B ?

Qwen 3 1.7B est un tout petit modèle de chat pour ceux qui veulent un assistant local qui se charge instantanément et sollicite à peine leur matériel. En quantification 4-bit, il pèse environ 1 GB sur le disque, et l'ensemble tourne dans à peu près 3 GB de RAM : il tient donc sur presque tout, un vieux portable, une carte de type Raspberry Pi, un téléphone ou un GPU d'entrée de gamme oublié au fond d'un tiroir. C'est le modèle vers lequel se tourner quand on n'a pas de carte graphique dédiée, ou qu'on veut faire tourner quelque chose en arrière-plan sans jamais se soucier de la mémoire.

Sur un vrai GPU, il est d'une rapidité presque absurde. Une RTX 3060 délivre autour de ~297 tok/s et une 4090 dépasse ~831 tok/s, tandis qu'un Apple Silicon M Max se situe vers ~338 tok/s. Même en CPU pur sur de la DDR5, il atteint environ ~49 tok/s, ce qui reste plus rapide que votre vitesse de lecture. La fenêtre de contexte est de 32K, et contrairement aux poids lourds, vous pouvez réellement la remplir ici sans trop de peine : à 32K de contexte plein, l'empreinte totale n'est que d'environ 3.1 GB, si bien qu'une machine modeste peut conserver une longue conversation en mémoire sans problème.

Soyons honnêtes : avec 1.7B de paramètres, c'est un modèle de chat, pas un moteur de raisonnement. Il gère très bien les questions-réponses courtes, la reformulation et les appels d'outils simples, mais il devient fragile sur la logique multi-étapes ou tout ce qui exige une vraie planification. Si vous avez la mémoire, Qwen 3 4B raisonne en général nettement mieux ; si vous êtes encore plus contraint, Qwen 3 0.6B est le cran inférieur plus léger, tandis que SmolLM2 1.7B est un concurrent de même taille à mettre en balance. Son atout majeur reste le rapport vitesse/taille, et comme il est sous licence Apache 2.0, vous pouvez l'utiliser commercialement et en production sans aucun souci de licence.