← Tous les modèlesTEST DU MODÈLE

Puis-je faire tourner Qwen 3.5 9B ?

Qwen 3.5 9B de Alibaba demande environ 12 GB de RAM avec la quantisation 4 bits recommandée (5.5 GB à télécharger). Votre matériel est vérifié ci-dessous — instantanément, rien ne quitte votre navigateur. Comptez environ ~56 tok/s sur un NVIDIA RTX 3060 12GB.

Lecture des signaux matériels…

Notes pratiques

Qwen 3.5 9B est le modèle généraliste d'Alibaba sorti début 2026, et son point fort, c'est qu'il gère la vision en plus du chat et du raisonnement, pas seulement le texte. En quantification 4-bit, il pèse environ 5.5 GB, ce qui passe juste mais reste exploitable sur un GPU de 12 GB, et tient sans souci dans la mémoire unifiée d'un Mac Apple Silicon. Si vous voulez le caser sur plus petit, vous pouvez descendre à une version 2-bit autour de 3.8 GB, mais la qualité en pâtit. Prévoyez environ 12 GB de RAM système comme plancher réaliste.

À l'usage quotidien, il est rapide. Sur une RTX 3060, comptez autour de 56 tokens par seconde en 4-bit, et un M-series Max monte à environ 64, soit plus vite que vous ne lisez dans les deux cas. Une RTX 4090 s'envole à près de 157 tok/s si vous en avez une. La fenêtre de contexte de 256K est le chiffre qui fait la une, mais soyez lucide sur la mémoire : même à 128K de contexte, l'empreinte totale grimpe à environ 23.2 GB, ce qui déborde largement une carte de 12 GB. Gardez un contexte de travail modeste, sauf si vous disposez d'un GPU de 24 GB.

Au sein de sa propre famille, le positionnement est limpide : les Qwen 3 0.6B et 1.7B sont des poids plume orientés chat uniquement, pensés pour le matériel contraint, tandis que ce 9B est celui vers lequel on se tourne quand on veut du raisonnement et de la compréhension d'images dans un seul modèle. GLM-4.6V-Flash est l'alternative comparable, également capable de vision et de même taille, et les deux se rendent coup pour coup selon la tâche. La vraie force de Qwen 3.5 9B, c'est cette polyvalence en un seul téléchargement, et la licence Apache 2.0 vous permet de l'utiliser commercialement sans aucune contrainte.

Caractéristiques

Paramètres9B
Fenêtre de contexte256K tokens
ÉditeurAlibaba
LicenceApache 2.0
Sortie2026-03
Idéal pourChat, Raisonnement, Vision

Taille selon la quantisation

QuantisationBits/poidsTéléchargementRAM min.Qualité
Q2_K3.353.8 GB8 GBPerte sensible
Q4_K_MRecommandée4.855.5 GB12 GBRecommandée
Q5_K_M5.656.4 GB12 GBÉlevée
Q8_08.59.6 GB16 GBQuasi originale
F161618.0 GB24 GBOriginale

Les tailles sont estimées à partir du nombre de paramètres × bits par poids ; les builds GGUF réels varient légèrement. · Données mises à jour: 2026-06-11 · Comment nous calculons ces chiffres →

Mémoire nécessaire selon la longueur de contexte

ContexteCache KV (est.)Mémoire totale (Q4)
4K tokens~0.6 GB~6.1 GB
8K tokens~1.1 GB~6.6 GB
32K tokens~4.4 GB~9.9 GB
128K tokens~17.7 GB~23.2 GB

Le cache KV grossit avec la longueur du contexte — un modèle qui tient à 4K peut manquer de mémoire à 32K. Les estimations supposent un cache FP16 avec grouped-query attention ; l'usage réel varie selon le runtime.

Vitesse estimée selon le matériel

MatérielBande passante~Vitesse
NVIDIA RTX 3060 12GB360 GB/s~56 tok/s
NVIDIA RTX 4090 24GB1008 GB/s~157 tok/s
Apple M-series (base)100 GB/s~16 tok/s
Apple M-series Pro270 GB/s~42 tok/s
Apple M-series Max410 GB/s~64 tok/s
CPU only (dual-channel DDR5)60 GB/s~9 tok/s

La génération de tokens est limitée par la bande passante mémoire : tok/s ≈ bande passante × 0,85 ÷ taille du modèle en Q4. Les chiffres réels varient selon le runtime et la longueur du contexte.

Le faire tourner en local

Le chemin le plus simple est Ollama — une commande et vous discutez :

ollama run qwen3.5:9b

Questions fréquentes

Configuration requise pour Qwen 3.5 9B — Puis-je le faire tourner en local ?