Puis-je faire tourner Qwen 3.5 27B ?

Qwen 3.5 27B est le modèle vers lequel on se tourne quand un 8B paraît trop léger et qu'on dispose d'une vraie machine. C'est un modèle dense de 27B qui gère le chat, le raisonnement, le code et la vision : il fait donc office de cheval de bataille local plutôt que d'assistant limité à une seule tâche. Le hic, c'est l'empreinte mémoire : en 4 bits il pèse environ 16,4 GB, et il faut au moins 24 GB de RAM pour le charger proprement. Cela exclut une carte de 12 GB comme une RTX 3060, où il ne tient tout simplement pas, et vous oriente vers un GPU de 24 GB ou un Mac Apple Silicon doté d'une mémoire unifiée généreuse.

Sur une RTX 4090, comptez environ 52 tokens par seconde en 4 bits : ça défile plus vite que vous ne lisez et reste confortable pour un usage interactif. Sur un Mac M-series Max, on tombe autour de 21 tokens par seconde, encore correct pour le chat et le code mais plus lent sur les générations longues ; en pur CPU sur DDR5, on descend à environ 3 tokens par seconde, soit le territoire de la patience. Le contexte de 256K est le chiffre vedette, mais traitez-le comme un plafond : à 128K, la mémoire totale grimpe à environ 45,4 GB, donc sur une carte de 24 GB gardez votre contexte de travail bien en dessous du maximum.

La comparaison naturelle est Gemma 3 27B, l'autre modèle 27B à poids ouverts avec vision dans cette catégorie de taille. Gemma est généralement le choix le plus sûr si vous cherchez surtout un chat soigné et une bonne compréhension d'image, tandis que Qwen 3.5 27B se montre en règle générale plus fort sur le code et le raisonnement structuré, là où réside sa vraie valeur pour les développeurs. Le grand avantage pratique, c'est la licence : il est distribué sous Apache 2.0, ce qui vous permet de l'utiliser commercialement et en production sans contrainte propre au fournisseur, contrairement aux conditions de poids ouverts qui accompagnent Gemma.