← Tüm modellerCİHAZ KONTROLÜ

NVIDIA RTX 3060 hangi LLM'leri çalıştırır?

NVIDIA RTX 3060, 12 GB VRAM belleğe ve yaklaşık 360 GB/s bellek bant genişliğine sahip. Aşağıda katalogdaki sığan her model, tahmini üretim hızıyla listeleniyor. En büyük seçim: Phi-4 Reasoning Vision 15B, ~34 tok/s.

Teknik özellikler

Bellek12 GB VRAM
Bant genişliği~360 GB/s
Bellek türüAyrılmış VRAM
Çıkış2021-02

NVIDIA RTX 3060 üzerindeki modeller

38 / 73 model
Modelİndirme (Q4)Sığar mı?~Hız
Phi-4 Reasoning Vision 15B9.1 GBÇalışır~34 tok/s
Qwen 3 14B9.0 GBÇalışır~34 tok/s
DeepSeek R1 14B9.0 GBÇalışır~34 tok/s
Phi-4 14B8.9 GBÇalışır~34 tok/s
Ministral 3 14B8.5 GBÇalışır~36 tok/s
OLMo 2 13B8.3 GBÇalışır~37 tok/s
Gemma 3 12B7.4 GBÇalışır~41 tok/s
Mistral Nemo 12B7.4 GBÇalışır~41 tok/s
Gemma 4 12B7.3 GBÇalışır~42 tok/s
Mellum 2 12B-A2.5B7.3 GBÇalışır~202 tok/s
Qwen 3.5 9B5.5 GBÇalışır~56 tok/s
GLM-4.6V-Flash5.5 GBÇalışır~56 tok/s
Qwen 2.5 VL 7B5.0 GBÇalışır~61 tok/s
Qwen 3 8B5.0 GBÇalışır~62 tok/s
Granite 3.3 8B5.0 GBÇalışır~62 tok/s
Llama 3.1 8B4.9 GBÇalışır~63 tok/s
DeepSeek R1 8B4.9 GBÇalışır~63 tok/s
Gemma 4 E4B4.9 GBÇalışır~112 tok/s
Qwen3-VL 8B4.9 GBÇalışır~63 tok/s
Ministral 3 8B4.9 GBÇalışır~63 tok/s
Gemma 3n E4B4.7 GBÇalışır~126 tok/s
Qwen 2.5 Coder 7B4.6 GBÇalışır~66 tok/s
DeepSeek R1 7B4.6 GBÇalışır~66 tok/s
Mistral 7B4.4 GBÇalışır~70 tok/s
Gemma 4 E2B3.1 GBÇalışır~219 tok/s
Gemma 3 4B2.6 GBÇalışır~117 tok/s
Qwen 3 4B2.4 GBÇalışır~126 tok/s
Qwen 3.5 4B2.4 GBÇalışır~126 tok/s
Phi-4 Mini 3.8B2.3 GBÇalışır~133 tok/s
Llama 3.2 3B1.9 GBÇalışır~158 tok/s
DeepSeek-OCR1.8 GBÇalışır~886 tok/s
Ministral 3 3B1.8 GBÇalışır~168 tok/s
DeepSeek R1 1.5B1.1 GBÇalışır~280 tok/s
Qwen 3 1.7B1.0 GBÇalışır~297 tok/s
SmolLM2 1.7B1.0 GBÇalışır~297 tok/s
Llama 3.2 1B0.7 GBÇalışır~421 tok/s
Gemma 3 1B0.6 GBÇalışır~505 tok/s
Qwen 3 0.6B0.4 GBÇalışır~841 tok/s

Modelin tamamen GPU'da çalışması için 4-bit sürümün VRAM'e sığması gerekir. Sığmayan modeller CPU + sistem RAM'i ile yine çalışır, ama birkaç kat daha yavaş. · Veri güncellemesi: 2026-06-11 · Bu sayıları nasıl hesaplıyoruz? →

Sık sorulan sorular

NVIDIA RTX 3060 Hangi LLM'leri Çalıştırır? (12 GB VRAM) — Canlı Kontrol