Puis-je faire tourner Gemma 3 27B ?

Gemma 3 27B est le modèle vers lequel on se tourne quand un assistant de classe 8B paraît trop léger et qu'on a la mémoire disponible. C'est un modèle de chat et de vision de 27,4B signé Google, ce qui signifie qu'il lit aussi bien les images que le texte, et cette capacité est la principale raison de le préférer à un modèle texte seul de taille équivalente. En quantification 4 bits, il pèse environ 16,6 GB : une carte de 12 GB comme une RTX 3060 ne peut tout simplement pas le contenir, et il faut viser au moins 24 GB de RAM ou de mémoire unifiée pour qu'il tourne confortablement. Une RTX 4090 de 24 GB ou un Mac de la série M avec beaucoup de mémoire unifiée est son terrain naturel.

À l'usage quotidien, il se comporte comme un interlocuteur nettement plus solide que les petits modèles, l'aspect multimodal le rendant vraiment utile pour décrire des captures d'écran et des photos ou raisonner dessus. Sur une 4090 en 4 bits, on peut compter sur environ 52 tokens par seconde, soit un débit plus rapide que votre vitesse de lecture ; un Mac M Max se situe plutôt autour de 21 tok/s, ce qui reste très exploitable, tandis qu'en CPU seul sur DDR5 on tombe à environ 3 tok/s, vraiment réservé aux traitements par lots. Le contexte de 128K est bien réel mais coûteux ici : le remplir fait grimper la mémoire totale à environ 45,8 GB, bien au-delà de ce qu'un seul appareil de 24 GB peut contenir, alors gardez un contexte de travail modeste sauf si vous avez de la marge.

Au sein de sa propre famille, c'est le poids lourd, Gemma 3 4B étant le choix plus léger quand la mémoire est limitée et que l'on veut tout de même la vision. La comparaison la plus intéressante est avec Qwen 3.5 27B, un modèle de taille quasi identique qui apporte des atouts dédiés au raisonnement et au code ; pour les tâches de mathématiques structurées ou de programmation, il prend généralement l'avantage sur Gemma, donc choisissez Gemma 3 27B davantage pour un bon chat couplé à la compréhension d'images que pour du raisonnement difficile. Sa grande force, c'est cet équilibre vision-plus-chat dans une taille gérable sur un seul GPU. Une réserve : la licence Gemma est à poids ouverts, pas open source, lisez donc les conditions de Google avant de l'intégrer dans un produit commercial.