Apple M2 能跑 Llama 3.1 8B 吗？

能 — 4 位版本下载体积 4.9 GB，可装进 8–24 GB 统一内存。预计速度约 ~18 tok/s。

Apple M2 能跑的最大模型是哪个？

Gemma 3 27B 是我们目录中能装下的最大模型（4 位下 16.6 GB）。预计速度约 ~5 tok/s。

Apple M2 跑本地大模型有多快？

Token 生成速度受内存带宽限制。在约 100 GB/s 的带宽下，Apple M2 跑 8B 级 4 位量化模型约 ~18 tok/s — 速度与模型大小成反比。

Apple 统一内存适合跑本地大模型吗？

适合 — GPU 几乎可以使用整个内存池，所以一台 32 GB 的 Mac 能装下原本需要昂贵独立显卡的模型。速度瓶颈通常在带宽，而不是容量。

← 全部模型设备检测

Apple M2 能跑哪些大模型？

Apple M2 拥有 8–24 GB 统一内存，内存带宽约 100 GB/s。下方列出我们目录中所有装得下的模型，并附预估生成速度。最大可选：Gemma 3 27B，约 ~5 tok/s。

规格参数

内存8–24 GB 统一内存

带宽~100 GB/s

内存类型统一内存

发布时间2022-06

Apple M2 上的模型

48 / 73 个模型

模型	下载体积（Q4）	8 GB	16 GB	24 GB	约·速度
Gemma 3 27BGoogle	16.6 GB	装不下	装不下	能跑	~5 tok/s
Qwen 3.5 27BAlibaba	16.4 GB	装不下	装不下	能跑	~5 tok/s
Qwen 3.6 27BAlibaba	16.4 GB	装不下	装不下	能跑	~5 tok/s
Gemma 4 26B A4BGoogle	15.3 GB	装不下	装不下	能跑	~37 tok/s
Mistral Small 3.1 24BMistral AI	14.6 GB	装不下	装不下	能跑	~6 tok/s
Devstral 24BMistral AI	14.6 GB	装不下	装不下	能跑	~6 tok/s
Magistral Small 1.2Mistral AI	14.6 GB	装不下	装不下	能跑	~6 tok/s
Devstral Small 2 24BMistral AI	14.6 GB	装不下	装不下	能跑	~6 tok/s
Codestral 22BMistral AI	13.5 GB	装不下	装不下	能跑	~6 tok/s
GPT-OSS 20BOpenAI	12.7 GB	装不下	装不下	能跑	~39 tok/s
Phi-4 Reasoning Vision 15BMicrosoft	9.1 GB	装不下	能跑	能跑	~9 tok/s
Qwen 3 14BAlibaba	9.0 GB	装不下	能跑	能跑	~9 tok/s
DeepSeek R1 14BDeepSeek	9.0 GB	装不下	能跑	能跑	~9 tok/s
Phi-4 14BMicrosoft	8.9 GB	装不下	能跑	能跑	~10 tok/s
Ministral 3 14BMistral AI	8.5 GB	装不下	能跑	能跑	~10 tok/s
OLMo 2 13BAi2	8.3 GB	装不下	能跑	能跑	~10 tok/s
Gemma 3 12BGoogle	7.4 GB	装不下	能跑	能跑	~11 tok/s
Mistral Nemo 12BMistral AI	7.4 GB	装不下	能跑	能跑	~11 tok/s
Gemma 4 12BGoogle	7.3 GB	装不下	能跑	能跑	~12 tok/s
Mellum 2 12B-A2.5BJetBrains	7.3 GB	装不下	能跑	能跑	~56 tok/s
Qwen 3.5 9BAlibaba	5.5 GB	装不下	能跑	能跑	~16 tok/s
GLM-4.6V-FlashZ.ai	5.5 GB	装不下	能跑	能跑	~16 tok/s
Qwen 2.5 VL 7BAlibaba	5.0 GB	能跑	能跑	能跑	~17 tok/s
Qwen 3 8BAlibaba	5.0 GB	能跑	能跑	能跑	~17 tok/s
Granite 3.3 8BIBM	5.0 GB	能跑	能跑	能跑	~17 tok/s
Llama 3.1 8BMeta	4.9 GB	能跑	能跑	能跑	~18 tok/s
DeepSeek R1 8BDeepSeek	4.9 GB	能跑	能跑	能跑	~18 tok/s
Gemma 4 E4BGoogle	4.9 GB	能跑	能跑	能跑	~31 tok/s
Qwen3-VL 8BAlibaba	4.9 GB	能跑	能跑	能跑	~18 tok/s
Ministral 3 8BMistral AI	4.9 GB	能跑	能跑	能跑	~18 tok/s
Gemma 3n E4BGoogle	4.7 GB	能跑	能跑	能跑	~35 tok/s
Qwen 2.5 Coder 7BAlibaba	4.6 GB	能跑	能跑	能跑	~18 tok/s
DeepSeek R1 7BDeepSeek	4.6 GB	能跑	能跑	能跑	~18 tok/s
Mistral 7BMistral AI	4.4 GB	能跑	能跑	能跑	~19 tok/s
Gemma 4 E2BGoogle	3.1 GB	能跑	能跑	能跑	~61 tok/s
Gemma 3 4BGoogle	2.6 GB	能跑	能跑	能跑	~33 tok/s
Qwen 3 4BAlibaba	2.4 GB	能跑	能跑	能跑	~35 tok/s
Qwen 3.5 4BAlibaba	2.4 GB	能跑	能跑	能跑	~35 tok/s
Phi-4 Mini 3.8BMicrosoft	2.3 GB	能跑	能跑	能跑	~37 tok/s
Llama 3.2 3BMeta	1.9 GB	能跑	能跑	能跑	~44 tok/s
DeepSeek-OCRDeepSeek	1.8 GB	能跑	能跑	能跑	~246 tok/s
Ministral 3 3BMistral AI	1.8 GB	能跑	能跑	能跑	~47 tok/s
DeepSeek R1 1.5BDeepSeek	1.1 GB	能跑	能跑	能跑	~78 tok/s
Qwen 3 1.7BAlibaba	1.0 GB	能跑	能跑	能跑	~82 tok/s
SmolLM2 1.7BHugging Face	1.0 GB	能跑	能跑	能跑	~82 tok/s
Llama 3.2 1BMeta	0.7 GB	能跑	能跑	能跑	~117 tok/s
Gemma 3 1BGoogle	0.6 GB	能跑	能跑	能跑	~140 tok/s
Qwen 3 0.6BAlibaba	0.4 GB	能跑	能跑	能跑	~234 tok/s