whatsmy.fyiVotre empreinte numérique
← Tous les modèlesTEST DE L'APPAREIL

Quels LLM un NVIDIA RTX 4090 peut-il faire tourner ?

Le NVIDIA RTX 4090 dispose de 24 GB de VRAM et d'environ 1008 GB/s de bande passante mémoire. Voici tous les modèles de notre catalogue qui tiennent, avec leur vitesse de génération estimée. Plus gros choix : Qwen 3.5 35B-A3B à ~471 tok/s.

Caractéristiques

Mémoire24 GB de VRAM
Bande passante~1008 GB/s
Type de mémoireVRAM dédiée
Sortie2022-10

Les modèles sur le NVIDIA RTX 4090

62 / 73 modèles
ModèleTéléchargement (Q4)Ça tient ?~Vitesse
Qwen 3.5 35B-A3B21.2 GBÇa tourne~471 tok/s
Qwen 3.6 35B-A3B21.2 GBÇa tourne~471 tok/s
Command R 35B21.2 GBÇa tourne~40 tok/s
Qwen3-VL 32B20.0 GBÇa tourne~43 tok/s
EXAONE 4.5 33B20.0 GBÇa tourne~43 tok/s
Qwen 3 32B19.9 GBÇa tourne~43 tok/s
Qwen 2.5 Coder 32B19.9 GBÇa tourne~43 tok/s
QwQ 32B19.9 GBÇa tourne~43 tok/s
DeepSeek R1 32B19.9 GBÇa tourne~43 tok/s
Granite 4.0 H Small19.4 GBÇa tourne~157 tok/s
Nemotron 3 Nano 30B-A3B19.2 GBÇa tourne~393 tok/s
Gemma 4 31B18.6 GBÇa tourne~46 tok/s
Qwen 3 30B-A3B18.5 GBÇa tourne~428 tok/s
Qwen3-VL 30B-A3B18.2 GBÇa tourne~471 tok/s
Gemma 3 27B16.6 GBÇa tourne~52 tok/s
Qwen 3.5 27B16.4 GBÇa tourne~52 tok/s
Qwen 3.6 27B16.4 GBÇa tourne~52 tok/s
Gemma 4 26B A4B15.3 GBÇa tourne~372 tok/s
Mistral Small 3.1 24B14.6 GBÇa tourne~59 tok/s
Devstral 24B14.6 GBÇa tourne~59 tok/s
Magistral Small 1.214.6 GBÇa tourne~59 tok/s
Devstral Small 2 24B14.6 GBÇa tourne~59 tok/s
Codestral 22B13.5 GBÇa tourne~64 tok/s
GPT-OSS 20B12.7 GBÇa tourne~393 tok/s
Phi-4 Reasoning Vision 15B9.1 GBÇa tourne~94 tok/s
Qwen 3 14B9.0 GBÇa tourne~95 tok/s
DeepSeek R1 14B9.0 GBÇa tourne~95 tok/s
Phi-4 14B8.9 GBÇa tourne~96 tok/s
Ministral 3 14B8.5 GBÇa tourne~101 tok/s
OLMo 2 13B8.3 GBÇa tourne~103 tok/s
Gemma 3 12B7.4 GBÇa tourne~116 tok/s
Mistral Nemo 12B7.4 GBÇa tourne~116 tok/s
Gemma 4 12B7.3 GBÇa tourne~118 tok/s
Mellum 2 12B-A2.5B7.3 GBÇa tourne~565 tok/s
Qwen 3.5 9B5.5 GBÇa tourne~157 tok/s
GLM-4.6V-Flash5.5 GBÇa tourne~157 tok/s
Qwen 2.5 VL 7B5.0 GBÇa tourne~170 tok/s
Qwen 3 8B5.0 GBÇa tourne~172 tok/s
Granite 3.3 8B5.0 GBÇa tourne~172 tok/s
Llama 3.1 8B4.9 GBÇa tourne~177 tok/s
DeepSeek R1 8B4.9 GBÇa tourne~177 tok/s
Gemma 4 E4B4.9 GBÇa tourne~314 tok/s
Qwen3-VL 8B4.9 GBÇa tourne~177 tok/s
Ministral 3 8B4.9 GBÇa tourne~177 tok/s
Gemma 3n E4B4.7 GBÇa tourne~353 tok/s
Qwen 2.5 Coder 7B4.6 GBÇa tourne~186 tok/s
DeepSeek R1 7B4.6 GBÇa tourne~186 tok/s
Mistral 7B4.4 GBÇa tourne~196 tok/s
Gemma 4 E2B3.1 GBÇa tourne~614 tok/s
Gemma 3 4B2.6 GBÇa tourne~329 tok/s
Qwen 3 4B2.4 GBÇa tourne~353 tok/s
Qwen 3.5 4B2.4 GBÇa tourne~353 tok/s
Phi-4 Mini 3.8B2.3 GBÇa tourne~372 tok/s
Llama 3.2 3B1.9 GBÇa tourne~442 tok/s
DeepSeek-OCR1.8 GBÇa tourne~2479 tok/s
Ministral 3 3B1.8 GBÇa tourne~471 tok/s
DeepSeek R1 1.5B1.1 GBÇa tourne~785 tok/s
Qwen 3 1.7B1.0 GBÇa tourne~831 tok/s
SmolLM2 1.7B1.0 GBÇa tourne~831 tok/s
Llama 3.2 1B0.7 GBÇa tourne~1178 tok/s
Gemma 3 1B0.6 GBÇa tourne~1413 tok/s
Qwen 3 0.6B0.4 GBÇa tourne~2355 tok/s

Pour tourner entièrement sur le GPU, le build 4 bits doit tenir en VRAM. Les modèles qui ne tiennent pas peuvent quand même tourner sur CPU + RAM système, plusieurs fois plus lentement. · Données mises à jour: 2026-06-11 · Comment nous calculons ces chiffres →

Questions fréquentes

Autres appareils

NVIDIA RTX 3060

12 GB · 360 GB/s

Vérifier la configuration →

NVIDIA RTX 4060

8 GB · 272 GB/s

Vérifier la configuration →

Apple M1

8–16 GB · 68 GB/s

Vérifier la configuration →

Apple M2

8–24 GB · 100 GB/s

Vérifier la configuration →

Apple M3

8–24 GB · 102 GB/s

Vérifier la configuration →

Apple M4

16–32 GB · 120 GB/s

Vérifier la configuration →

Apple M4 Pro

24–64 GB · 273 GB/s

Vérifier la configuration →
Quels LLM un NVIDIA RTX 4090 peut-il faire tourner ? (24 GB de VRAM) — Vérification en direct