Uma Apple M2 consegue rodar o Llama 3.1 8B?

Sim — a build de 4 bits é um download de 4.9 GB e cabe em 8–24 GB de memória unificada. Espere cerca de ~18 tok/s.

Qual é o maior LLM que uma Apple M2 consegue rodar?

O Gemma 3 27B é o maior modelo do nosso catálogo que cabe (16.6 GB em 4 bits). Espere cerca de ~5 tok/s.

Quão rápida é a Apple M2 para LLMs locais?

A geração de tokens é limitada pela largura de banda da memória. Com cerca de 100 GB/s, a Apple M2 gera por volta de ~18 tok/s em um modelo da classe 8B em 4 bits — a velocidade cai proporcionalmente ao tamanho do modelo.

A memória unificada da Apple é boa para LLMs locais?

Sim — a GPU pode usar quase todo o pool de memória, então um Mac com 32 GB roda modelos que exigiriam uma GPU dedicada caríssima. O limite de velocidade costuma ser a largura de banda, não a capacidade.

← Todos os modelosVERIFICAÇÃO DE DISPOSITIVO

Quais LLMs uma Apple M2 consegue rodar?

A Apple M2 tem 8–24 GB de memória unificada e cerca de 100 GB/s de largura de banda de memória. Abaixo está cada modelo do nosso catálogo que cabe, com a velocidade de geração estimada. Maior escolha: Gemma 3 27B a ~5 tok/s.

Especificações

Memória8–24 GB de memória unificada

Largura de banda~100 GB/s

Tipo de memóriaMemória unificada

Lançamento2022-06

Modelos na Apple M2

48 / 73 modelos

Modelo	Download (Q4)	8 GB	16 GB	24 GB	~Velocidade
Gemma 3 27BGoogle	16.6 GB	Não cabe	Não cabe	Roda	~5 tok/s
Qwen 3.5 27BAlibaba	16.4 GB	Não cabe	Não cabe	Roda	~5 tok/s
Qwen 3.6 27BAlibaba	16.4 GB	Não cabe	Não cabe	Roda	~5 tok/s
Gemma 4 26B A4BGoogle	15.3 GB	Não cabe	Não cabe	Roda	~37 tok/s
Mistral Small 3.1 24BMistral AI	14.6 GB	Não cabe	Não cabe	Roda	~6 tok/s
Devstral 24BMistral AI	14.6 GB	Não cabe	Não cabe	Roda	~6 tok/s
Magistral Small 1.2Mistral AI	14.6 GB	Não cabe	Não cabe	Roda	~6 tok/s
Devstral Small 2 24BMistral AI	14.6 GB	Não cabe	Não cabe	Roda	~6 tok/s
Codestral 22BMistral AI	13.5 GB	Não cabe	Não cabe	Roda	~6 tok/s
GPT-OSS 20BOpenAI	12.7 GB	Não cabe	Não cabe	Roda	~39 tok/s
Phi-4 Reasoning Vision 15BMicrosoft	9.1 GB	Não cabe	Roda	Roda	~9 tok/s
Qwen 3 14BAlibaba	9.0 GB	Não cabe	Roda	Roda	~9 tok/s
DeepSeek R1 14BDeepSeek	9.0 GB	Não cabe	Roda	Roda	~9 tok/s
Phi-4 14BMicrosoft	8.9 GB	Não cabe	Roda	Roda	~10 tok/s
Ministral 3 14BMistral AI	8.5 GB	Não cabe	Roda	Roda	~10 tok/s
OLMo 2 13BAi2	8.3 GB	Não cabe	Roda	Roda	~10 tok/s
Gemma 3 12BGoogle	7.4 GB	Não cabe	Roda	Roda	~11 tok/s
Mistral Nemo 12BMistral AI	7.4 GB	Não cabe	Roda	Roda	~11 tok/s
Gemma 4 12BGoogle	7.3 GB	Não cabe	Roda	Roda	~12 tok/s
Mellum 2 12B-A2.5BJetBrains	7.3 GB	Não cabe	Roda	Roda	~56 tok/s
Qwen 3.5 9BAlibaba	5.5 GB	Não cabe	Roda	Roda	~16 tok/s
GLM-4.6V-FlashZ.ai	5.5 GB	Não cabe	Roda	Roda	~16 tok/s
Qwen 2.5 VL 7BAlibaba	5.0 GB	Roda	Roda	Roda	~17 tok/s
Qwen 3 8BAlibaba	5.0 GB	Roda	Roda	Roda	~17 tok/s
Granite 3.3 8BIBM	5.0 GB	Roda	Roda	Roda	~17 tok/s
Llama 3.1 8BMeta	4.9 GB	Roda	Roda	Roda	~18 tok/s
DeepSeek R1 8BDeepSeek	4.9 GB	Roda	Roda	Roda	~18 tok/s
Gemma 4 E4BGoogle	4.9 GB	Roda	Roda	Roda	~31 tok/s
Qwen3-VL 8BAlibaba	4.9 GB	Roda	Roda	Roda	~18 tok/s
Ministral 3 8BMistral AI	4.9 GB	Roda	Roda	Roda	~18 tok/s
Gemma 3n E4BGoogle	4.7 GB	Roda	Roda	Roda	~35 tok/s
Qwen 2.5 Coder 7BAlibaba	4.6 GB	Roda	Roda	Roda	~18 tok/s
DeepSeek R1 7BDeepSeek	4.6 GB	Roda	Roda	Roda	~18 tok/s
Mistral 7BMistral AI	4.4 GB	Roda	Roda	Roda	~19 tok/s
Gemma 4 E2BGoogle	3.1 GB	Roda	Roda	Roda	~61 tok/s
Gemma 3 4BGoogle	2.6 GB	Roda	Roda	Roda	~33 tok/s
Qwen 3 4BAlibaba	2.4 GB	Roda	Roda	Roda	~35 tok/s
Qwen 3.5 4BAlibaba	2.4 GB	Roda	Roda	Roda	~35 tok/s
Phi-4 Mini 3.8BMicrosoft	2.3 GB	Roda	Roda	Roda	~37 tok/s
Llama 3.2 3BMeta	1.9 GB	Roda	Roda	Roda	~44 tok/s
DeepSeek-OCRDeepSeek	1.8 GB	Roda	Roda	Roda	~246 tok/s
Ministral 3 3BMistral AI	1.8 GB	Roda	Roda	Roda	~47 tok/s
DeepSeek R1 1.5BDeepSeek	1.1 GB	Roda	Roda	Roda	~78 tok/s
Qwen 3 1.7BAlibaba	1.0 GB	Roda	Roda	Roda	~82 tok/s
SmolLM2 1.7BHugging Face	1.0 GB	Roda	Roda	Roda	~82 tok/s
Llama 3.2 1BMeta	0.7 GB	Roda	Roda	Roda	~117 tok/s
Gemma 3 1BGoogle	0.6 GB	Roda	Roda	Roda	~140 tok/s
Qwen 3 0.6BAlibaba	0.4 GB	Roda	Roda	Roda	~234 tok/s

O Apple Silicon compartilha um único pool de memória entre CPU e GPU, então quase toda a memória unificada fica disponível para o modelo (menos o overhead do sistema). · Dados atualizados: 2026-06-11 · Como calculamos esses números →