Puis-je faire tourner Qwen 3.5 9B ?
Qwen 3.5 9B de Alibaba demande environ 12 GB de RAM avec la quantisation 4 bits recommandée (5.5 GB à télécharger). Votre matériel est vérifié ci-dessous — instantanément, rien ne quitte votre navigateur. Comptez environ ~56 tok/s sur un NVIDIA RTX 3060 12GB.
Lecture des signaux matériels…
Notes pratiques
Qwen 3.5 9B est le modèle généraliste d'Alibaba sorti début 2026, et son point fort, c'est qu'il gère la vision en plus du chat et du raisonnement, pas seulement le texte. En quantification 4-bit, il pèse environ 5.5 GB, ce qui passe juste mais reste exploitable sur un GPU de 12 GB, et tient sans souci dans la mémoire unifiée d'un Mac Apple Silicon. Si vous voulez le caser sur plus petit, vous pouvez descendre à une version 2-bit autour de 3.8 GB, mais la qualité en pâtit. Prévoyez environ 12 GB de RAM système comme plancher réaliste.
À l'usage quotidien, il est rapide. Sur une RTX 3060, comptez autour de 56 tokens par seconde en 4-bit, et un M-series Max monte à environ 64, soit plus vite que vous ne lisez dans les deux cas. Une RTX 4090 s'envole à près de 157 tok/s si vous en avez une. La fenêtre de contexte de 256K est le chiffre qui fait la une, mais soyez lucide sur la mémoire : même à 128K de contexte, l'empreinte totale grimpe à environ 23.2 GB, ce qui déborde largement une carte de 12 GB. Gardez un contexte de travail modeste, sauf si vous disposez d'un GPU de 24 GB.
Au sein de sa propre famille, le positionnement est limpide : les Qwen 3 0.6B et 1.7B sont des poids plume orientés chat uniquement, pensés pour le matériel contraint, tandis que ce 9B est celui vers lequel on se tourne quand on veut du raisonnement et de la compréhension d'images dans un seul modèle. GLM-4.6V-Flash est l'alternative comparable, également capable de vision et de même taille, et les deux se rendent coup pour coup selon la tâche. La vraie force de Qwen 3.5 9B, c'est cette polyvalence en un seul téléchargement, et la licence Apache 2.0 vous permet de l'utiliser commercialement sans aucune contrainte.
Caractéristiques
Taille selon la quantisation
| Quantisation | Bits/poids | Téléchargement | RAM min. | Qualité |
|---|---|---|---|---|
| Q2_K | 3.35 | 3.8 GB | 8 GB | Perte sensible |
| Q4_K_MRecommandée | 4.85 | 5.5 GB | 12 GB | Recommandée |
| Q5_K_M | 5.65 | 6.4 GB | 12 GB | Élevée |
| Q8_0 | 8.5 | 9.6 GB | 16 GB | Quasi originale |
| F16 | 16 | 18.0 GB | 24 GB | Originale |
Les tailles sont estimées à partir du nombre de paramètres × bits par poids ; les builds GGUF réels varient légèrement. · Données mises à jour: 2026-06-11 · Comment nous calculons ces chiffres →
Mémoire nécessaire selon la longueur de contexte
| Contexte | Cache KV (est.) | Mémoire totale (Q4) |
|---|---|---|
| 4K tokens | ~0.6 GB | ~6.1 GB |
| 8K tokens | ~1.1 GB | ~6.6 GB |
| 32K tokens | ~4.4 GB | ~9.9 GB |
| 128K tokens | ~17.7 GB | ~23.2 GB |
Le cache KV grossit avec la longueur du contexte — un modèle qui tient à 4K peut manquer de mémoire à 32K. Les estimations supposent un cache FP16 avec grouped-query attention ; l'usage réel varie selon le runtime.
Vitesse estimée selon le matériel
| Matériel | Bande passante | ~Vitesse |
|---|---|---|
| NVIDIA RTX 3060 12GB | 360 GB/s | ~56 tok/s |
| NVIDIA RTX 4090 24GB | 1008 GB/s | ~157 tok/s |
| Apple M-series (base) | 100 GB/s | ~16 tok/s |
| Apple M-series Pro | 270 GB/s | ~42 tok/s |
| Apple M-series Max | 410 GB/s | ~64 tok/s |
| CPU only (dual-channel DDR5) | 60 GB/s | ~9 tok/s |
La génération de tokens est limitée par la bande passante mémoire : tok/s ≈ bande passante × 0,85 ÷ taille du modèle en Q4. Les chiffres réels varient selon le runtime et la longueur du contexte.
Le faire tourner en local
Le chemin le plus simple est Ollama — une commande et vous discutez :
ollama run qwen3.5:9bSources et téléchargements
Ollama Library
Téléchargez et lancez le modèle avec une seule commande.
ollama.comHugging Face
Poids du modèle, fichiers et détails de la licence.
huggingface.coDépôt GitHub officiel
Code source, releases et issues de Alibaba.
github.comAlibaba — page officielle
Page officielle et documentation de Alibaba.
qwen.ai