← 全部模型设备检测
NVIDIA RTX 4090 能跑哪些大模型？
NVIDIA RTX 4090 拥有 24 GB 显存，内存带宽约 1008 GB/s。下方列出我们目录中所有装得下的模型，并附预估生成速度。 最大可选：Qwen 3.5 35B-A3B，约 ~471 tok/s。
规格参数
内存24 GB 显存
带宽~1008 GB/s
内存类型独立显存
发布时间2022-10
NVIDIA RTX 4090 上的模型
62 / 73 个模型| 模型 | 下载体积（Q4） | 装得下？ | 约·速度 |
|---|---|---|---|
| Qwen 3.5 35B-A3B | 21.2 GB | 能跑 | ~471 tok/s |
| Qwen 3.6 35B-A3B | 21.2 GB | 能跑 | ~471 tok/s |
| Command R 35B | 21.2 GB | 能跑 | ~40 tok/s |
| Qwen3-VL 32B | 20.0 GB | 能跑 | ~43 tok/s |
| EXAONE 4.5 33B | 20.0 GB | 能跑 | ~43 tok/s |
| Qwen 3 32B | 19.9 GB | 能跑 | ~43 tok/s |
| Qwen 2.5 Coder 32B | 19.9 GB | 能跑 | ~43 tok/s |
| QwQ 32B | 19.9 GB | 能跑 | ~43 tok/s |
| DeepSeek R1 32B | 19.9 GB | 能跑 | ~43 tok/s |
| Granite 4.0 H Small | 19.4 GB | 能跑 | ~157 tok/s |
| Nemotron 3 Nano 30B-A3B | 19.2 GB | 能跑 | ~393 tok/s |
| Gemma 4 31B | 18.6 GB | 能跑 | ~46 tok/s |
| Qwen 3 30B-A3B | 18.5 GB | 能跑 | ~428 tok/s |
| Qwen3-VL 30B-A3B | 18.2 GB | 能跑 | ~471 tok/s |
| Gemma 3 27B | 16.6 GB | 能跑 | ~52 tok/s |
| Qwen 3.5 27B | 16.4 GB | 能跑 | ~52 tok/s |
| Qwen 3.6 27B | 16.4 GB | 能跑 | ~52 tok/s |
| Gemma 4 26B A4B | 15.3 GB | 能跑 | ~372 tok/s |
| Mistral Small 3.1 24B | 14.6 GB | 能跑 | ~59 tok/s |
| Devstral 24B | 14.6 GB | 能跑 | ~59 tok/s |
| Magistral Small 1.2 | 14.6 GB | 能跑 | ~59 tok/s |
| Devstral Small 2 24B | 14.6 GB | 能跑 | ~59 tok/s |
| Codestral 22B | 13.5 GB | 能跑 | ~64 tok/s |
| GPT-OSS 20B | 12.7 GB | 能跑 | ~393 tok/s |
| Phi-4 Reasoning Vision 15B | 9.1 GB | 能跑 | ~94 tok/s |
| Qwen 3 14B | 9.0 GB | 能跑 | ~95 tok/s |
| DeepSeek R1 14B | 9.0 GB | 能跑 | ~95 tok/s |
| Phi-4 14B | 8.9 GB | 能跑 | ~96 tok/s |
| Ministral 3 14B | 8.5 GB | 能跑 | ~101 tok/s |
| OLMo 2 13B | 8.3 GB | 能跑 | ~103 tok/s |
| Gemma 3 12B | 7.4 GB | 能跑 | ~116 tok/s |
| Mistral Nemo 12B | 7.4 GB | 能跑 | ~116 tok/s |
| Gemma 4 12B | 7.3 GB | 能跑 | ~118 tok/s |
| Mellum 2 12B-A2.5B | 7.3 GB | 能跑 | ~565 tok/s |
| Qwen 3.5 9B | 5.5 GB | 能跑 | ~157 tok/s |
| GLM-4.6V-Flash | 5.5 GB | 能跑 | ~157 tok/s |
| Qwen 2.5 VL 7B | 5.0 GB | 能跑 | ~170 tok/s |
| Qwen 3 8B | 5.0 GB | 能跑 | ~172 tok/s |
| Granite 3.3 8B | 5.0 GB | 能跑 | ~172 tok/s |
| Llama 3.1 8B | 4.9 GB | 能跑 | ~177 tok/s |
| DeepSeek R1 8B | 4.9 GB | 能跑 | ~177 tok/s |
| Gemma 4 E4B | 4.9 GB | 能跑 | ~314 tok/s |
| Qwen3-VL 8B | 4.9 GB | 能跑 | ~177 tok/s |
| Ministral 3 8B | 4.9 GB | 能跑 | ~177 tok/s |
| Gemma 3n E4B | 4.7 GB | 能跑 | ~353 tok/s |
| Qwen 2.5 Coder 7B | 4.6 GB | 能跑 | ~186 tok/s |
| DeepSeek R1 7B | 4.6 GB | 能跑 | ~186 tok/s |
| Mistral 7B | 4.4 GB | 能跑 | ~196 tok/s |
| Gemma 4 E2B | 3.1 GB | 能跑 | ~614 tok/s |
| Gemma 3 4B | 2.6 GB | 能跑 | ~329 tok/s |
| Qwen 3 4B | 2.4 GB | 能跑 | ~353 tok/s |
| Qwen 3.5 4B | 2.4 GB | 能跑 | ~353 tok/s |
| Phi-4 Mini 3.8B | 2.3 GB | 能跑 | ~372 tok/s |
| Llama 3.2 3B | 1.9 GB | 能跑 | ~442 tok/s |
| DeepSeek-OCR | 1.8 GB | 能跑 | ~2479 tok/s |
| Ministral 3 3B | 1.8 GB | 能跑 | ~471 tok/s |
| DeepSeek R1 1.5B | 1.1 GB | 能跑 | ~785 tok/s |
| Qwen 3 1.7B | 1.0 GB | 能跑 | ~831 tok/s |
| SmolLM2 1.7B | 1.0 GB | 能跑 | ~831 tok/s |
| Llama 3.2 1B | 0.7 GB | 能跑 | ~1178 tok/s |
| Gemma 3 1B | 0.6 GB | 能跑 | ~1413 tok/s |
| Qwen 3 0.6B | 0.4 GB | 能跑 | ~2355 tok/s |
要完全在 GPU 上运行，4 位版本必须装进显存。装不下的模型仍可用 CPU + 系统内存运行，速度会慢上数倍。 · 数据更新于: 2026-06-11 · 这些数字是怎么算出来的 →