← Alle ModelleGERÄTE-CHECK
Welche LLMs schafft eine NVIDIA RTX 3060?
Die NVIDIA RTX 3060 hat 12 GB VRAM und rund 360 GB/s Speicherbandbreite. Unten steht jedes Modell aus unserem Katalog, das passt — mit geschätzter Generierungsgeschwindigkeit. Größte Empfehlung: Phi-4 Reasoning Vision 15B mit ~34 tok/s.
Technische Daten
Speicher12 GB VRAM
Bandbreite~360 GB/s
SpeichertypDedizierter VRAM
Veröffentlicht2021-02
Modelle auf der NVIDIA RTX 3060
38 / 73 Modelle| Modell | Download (Q4) | Passt? | ~Tempo |
|---|---|---|---|
| Phi-4 Reasoning Vision 15B | 9.1 GB | Läuft | ~34 tok/s |
| Qwen 3 14B | 9.0 GB | Läuft | ~34 tok/s |
| DeepSeek R1 14B | 9.0 GB | Läuft | ~34 tok/s |
| Phi-4 14B | 8.9 GB | Läuft | ~34 tok/s |
| Ministral 3 14B | 8.5 GB | Läuft | ~36 tok/s |
| OLMo 2 13B | 8.3 GB | Läuft | ~37 tok/s |
| Gemma 3 12B | 7.4 GB | Läuft | ~41 tok/s |
| Mistral Nemo 12B | 7.4 GB | Läuft | ~41 tok/s |
| Gemma 4 12B | 7.3 GB | Läuft | ~42 tok/s |
| Mellum 2 12B-A2.5B | 7.3 GB | Läuft | ~202 tok/s |
| Qwen 3.5 9B | 5.5 GB | Läuft | ~56 tok/s |
| GLM-4.6V-Flash | 5.5 GB | Läuft | ~56 tok/s |
| Qwen 2.5 VL 7B | 5.0 GB | Läuft | ~61 tok/s |
| Qwen 3 8B | 5.0 GB | Läuft | ~62 tok/s |
| Granite 3.3 8B | 5.0 GB | Läuft | ~62 tok/s |
| Llama 3.1 8B | 4.9 GB | Läuft | ~63 tok/s |
| DeepSeek R1 8B | 4.9 GB | Läuft | ~63 tok/s |
| Gemma 4 E4B | 4.9 GB | Läuft | ~112 tok/s |
| Qwen3-VL 8B | 4.9 GB | Läuft | ~63 tok/s |
| Ministral 3 8B | 4.9 GB | Läuft | ~63 tok/s |
| Gemma 3n E4B | 4.7 GB | Läuft | ~126 tok/s |
| Qwen 2.5 Coder 7B | 4.6 GB | Läuft | ~66 tok/s |
| DeepSeek R1 7B | 4.6 GB | Läuft | ~66 tok/s |
| Mistral 7B | 4.4 GB | Läuft | ~70 tok/s |
| Gemma 4 E2B | 3.1 GB | Läuft | ~219 tok/s |
| Gemma 3 4B | 2.6 GB | Läuft | ~117 tok/s |
| Qwen 3 4B | 2.4 GB | Läuft | ~126 tok/s |
| Qwen 3.5 4B | 2.4 GB | Läuft | ~126 tok/s |
| Phi-4 Mini 3.8B | 2.3 GB | Läuft | ~133 tok/s |
| Llama 3.2 3B | 1.9 GB | Läuft | ~158 tok/s |
| DeepSeek-OCR | 1.8 GB | Läuft | ~886 tok/s |
| Ministral 3 3B | 1.8 GB | Läuft | ~168 tok/s |
| DeepSeek R1 1.5B | 1.1 GB | Läuft | ~280 tok/s |
| Qwen 3 1.7B | 1.0 GB | Läuft | ~297 tok/s |
| SmolLM2 1.7B | 1.0 GB | Läuft | ~297 tok/s |
| Llama 3.2 1B | 0.7 GB | Läuft | ~421 tok/s |
| Gemma 3 1B | 0.6 GB | Läuft | ~505 tok/s |
| Qwen 3 0.6B | 0.4 GB | Läuft | ~841 tok/s |
Damit ein Modell vollständig auf der GPU läuft, muss der 4-Bit-Build in den VRAM passen. Modelle, die nicht passen, laufen trotzdem auf CPU + System-RAM — nur um ein Vielfaches langsamer. · Daten aktualisiert: 2026-06-11 · So berechnen wir diese Zahlen →
Häufig gestellte Fragen
Weitere Geräte
NVIDIA RTX 4060
8 GB · 272 GB/s
Anforderungen prüfen →NVIDIA RTX 4090
24 GB · 1008 GB/s
Anforderungen prüfen →Apple M1
8–16 GB · 68 GB/s
Anforderungen prüfen →Apple M2
8–24 GB · 100 GB/s
Anforderungen prüfen →Apple M3
8–24 GB · 102 GB/s
Anforderungen prüfen →Apple M4
16–32 GB · 120 GB/s
Anforderungen prüfen →Apple M4 Pro
24–64 GB · 273 GB/s
Anforderungen prüfen →