Uma NVIDIA RTX 4060 consegue rodar o Llama 3.1 8B?

Sim — a build de 4 bits é um download de 4.9 GB e cabe em 8 GB de VRAM. Espere cerca de ~48 tok/s.

Qual é o maior LLM que uma NVIDIA RTX 4060 consegue rodar?

O Gemma 3 12B é o maior modelo do nosso catálogo que cabe (7.4 GB em 4 bits). Espere cerca de ~31 tok/s.

Quão rápida é a NVIDIA RTX 4060 para LLMs locais?

A geração de tokens é limitada pela largura de banda da memória. Com cerca de 272 GB/s, a NVIDIA RTX 4060 gera por volta de ~48 tok/s em um modelo da classe 8B em 4 bits — a velocidade cai proporcionalmente ao tamanho do modelo.

O modelo inteiro precisa caber na VRAM?

Para velocidade total na GPU, sim. Runtimes como o llama.cpp conseguem dividir as camadas entre VRAM e RAM do sistema, mas cada camada que transborda para a RAM deixa a geração bem mais lenta.

← Todos os modelosVERIFICAÇÃO DE DISPOSITIVO

Quais LLMs uma NVIDIA RTX 4060 consegue rodar?

A NVIDIA RTX 4060 tem 8 GB de VRAM e cerca de 272 GB/s de largura de banda de memória. Abaixo está cada modelo do nosso catálogo que cabe, com a velocidade de geração estimada. Maior escolha: Gemma 3 12B a ~31 tok/s.

Especificações

Memória8 GB de VRAM

Largura de banda~272 GB/s

Tipo de memóriaVRAM dedicada

Lançamento2023-06

Modelos na NVIDIA RTX 4060

32 / 73 modelos

Modelo	Download (Q4)	Cabe?	~Velocidade
Gemma 3 12BGoogle	7.4 GB	Roda	~31 tok/s
Mistral Nemo 12BMistral AI	7.4 GB	Roda	~31 tok/s
Gemma 4 12BGoogle	7.3 GB	Roda	~32 tok/s
Mellum 2 12B-A2.5BJetBrains	7.3 GB	Roda	~153 tok/s
Qwen 3.5 9BAlibaba	5.5 GB	Roda	~42 tok/s
GLM-4.6V-FlashZ.ai	5.5 GB	Roda	~42 tok/s
Qwen 2.5 VL 7BAlibaba	5.0 GB	Roda	~46 tok/s
Qwen 3 8BAlibaba	5.0 GB	Roda	~47 tok/s
Granite 3.3 8BIBM	5.0 GB	Roda	~47 tok/s
Llama 3.1 8BMeta	4.9 GB	Roda	~48 tok/s
DeepSeek R1 8BDeepSeek	4.9 GB	Roda	~48 tok/s
Gemma 4 E4BGoogle	4.9 GB	Roda	~85 tok/s
Qwen3-VL 8BAlibaba	4.9 GB	Roda	~48 tok/s
Ministral 3 8BMistral AI	4.9 GB	Roda	~48 tok/s
Gemma 3n E4BGoogle	4.7 GB	Roda	~95 tok/s
Qwen 2.5 Coder 7BAlibaba	4.6 GB	Roda	~50 tok/s
DeepSeek R1 7BDeepSeek	4.6 GB	Roda	~50 tok/s
Mistral 7BMistral AI	4.4 GB	Roda	~53 tok/s
Gemma 4 E2BGoogle	3.1 GB	Roda	~166 tok/s
Gemma 3 4BGoogle	2.6 GB	Roda	~89 tok/s
Qwen 3 4BAlibaba	2.4 GB	Roda	~95 tok/s
Qwen 3.5 4BAlibaba	2.4 GB	Roda	~95 tok/s
Phi-4 Mini 3.8BMicrosoft	2.3 GB	Roda	~100 tok/s
Llama 3.2 3BMeta	1.9 GB	Roda	~119 tok/s
DeepSeek-OCRDeepSeek	1.8 GB	Roda	~669 tok/s
Ministral 3 3BMistral AI	1.8 GB	Roda	~127 tok/s
DeepSeek R1 1.5BDeepSeek	1.1 GB	Roda	~212 tok/s
Qwen 3 1.7BAlibaba	1.0 GB	Roda	~224 tok/s
SmolLM2 1.7BHugging Face	1.0 GB	Roda	~224 tok/s
Llama 3.2 1BMeta	0.7 GB	Roda	~318 tok/s
Gemma 3 1BGoogle	0.6 GB	Roda	~381 tok/s
Qwen 3 0.6BAlibaba	0.4 GB	Roda	~636 tok/s

Para rodar totalmente na GPU, a build de 4 bits precisa caber na VRAM. Modelos que não cabem ainda podem rodar na CPU + RAM do sistema, várias vezes mais devagar. · Dados atualizados: 2026-06-11 · Como calculamos esses números →