← Tüm modellerCİHAZ KONTROLÜ
NVIDIA RTX 4060 hangi LLM'leri çalıştırır?
NVIDIA RTX 4060, 8 GB VRAM belleğe ve yaklaşık 272 GB/s bellek bant genişliğine sahip. Aşağıda katalogdaki sığan her model, tahmini üretim hızıyla listeleniyor. En büyük seçim: Gemma 3 12B, ~31 tok/s.
Teknik özellikler
Bellek8 GB VRAM
Bant genişliği~272 GB/s
Bellek türüAyrılmış VRAM
Çıkış2023-06
NVIDIA RTX 4060 üzerindeki modeller
32 / 73 model| Model | İndirme (Q4) | Sığar mı? | ~Hız |
|---|---|---|---|
| Gemma 3 12B | 7.4 GB | Çalışır | ~31 tok/s |
| Mistral Nemo 12B | 7.4 GB | Çalışır | ~31 tok/s |
| Gemma 4 12B | 7.3 GB | Çalışır | ~32 tok/s |
| Mellum 2 12B-A2.5B | 7.3 GB | Çalışır | ~153 tok/s |
| Qwen 3.5 9B | 5.5 GB | Çalışır | ~42 tok/s |
| GLM-4.6V-Flash | 5.5 GB | Çalışır | ~42 tok/s |
| Qwen 2.5 VL 7B | 5.0 GB | Çalışır | ~46 tok/s |
| Qwen 3 8B | 5.0 GB | Çalışır | ~47 tok/s |
| Granite 3.3 8B | 5.0 GB | Çalışır | ~47 tok/s |
| Llama 3.1 8B | 4.9 GB | Çalışır | ~48 tok/s |
| DeepSeek R1 8B | 4.9 GB | Çalışır | ~48 tok/s |
| Gemma 4 E4B | 4.9 GB | Çalışır | ~85 tok/s |
| Qwen3-VL 8B | 4.9 GB | Çalışır | ~48 tok/s |
| Ministral 3 8B | 4.9 GB | Çalışır | ~48 tok/s |
| Gemma 3n E4B | 4.7 GB | Çalışır | ~95 tok/s |
| Qwen 2.5 Coder 7B | 4.6 GB | Çalışır | ~50 tok/s |
| DeepSeek R1 7B | 4.6 GB | Çalışır | ~50 tok/s |
| Mistral 7B | 4.4 GB | Çalışır | ~53 tok/s |
| Gemma 4 E2B | 3.1 GB | Çalışır | ~166 tok/s |
| Gemma 3 4B | 2.6 GB | Çalışır | ~89 tok/s |
| Qwen 3 4B | 2.4 GB | Çalışır | ~95 tok/s |
| Qwen 3.5 4B | 2.4 GB | Çalışır | ~95 tok/s |
| Phi-4 Mini 3.8B | 2.3 GB | Çalışır | ~100 tok/s |
| Llama 3.2 3B | 1.9 GB | Çalışır | ~119 tok/s |
| DeepSeek-OCR | 1.8 GB | Çalışır | ~669 tok/s |
| Ministral 3 3B | 1.8 GB | Çalışır | ~127 tok/s |
| DeepSeek R1 1.5B | 1.1 GB | Çalışır | ~212 tok/s |
| Qwen 3 1.7B | 1.0 GB | Çalışır | ~224 tok/s |
| SmolLM2 1.7B | 1.0 GB | Çalışır | ~224 tok/s |
| Llama 3.2 1B | 0.7 GB | Çalışır | ~318 tok/s |
| Gemma 3 1B | 0.6 GB | Çalışır | ~381 tok/s |
| Qwen 3 0.6B | 0.4 GB | Çalışır | ~636 tok/s |
Modelin tamamen GPU'da çalışması için 4-bit sürümün VRAM'e sığması gerekir. Sığmayan modeller CPU + sistem RAM'i ile yine çalışır, ama birkaç kat daha yavaş. · Veri güncellemesi: 2026-06-11 · Bu sayıları nasıl hesaplıyoruz? →
Sık sorulan sorular
Diğer cihazlar
NVIDIA RTX 3060
12 GB · 360 GB/s
Gereksinimlere bak →NVIDIA RTX 4090
24 GB · 1008 GB/s
Gereksinimlere bak →Apple M1
8–16 GB · 68 GB/s
Gereksinimlere bak →Apple M2
8–24 GB · 100 GB/s
Gereksinimlere bak →Apple M3
8–24 GB · 102 GB/s
Gereksinimlere bak →Apple M4
16–32 GB · 120 GB/s
Gereksinimlere bak →Apple M4 Pro
24–64 GB · 273 GB/s
Gereksinimlere bak →