Потянет ли Apple M4 Llama 3.1 8B?

Да — 4-битная сборка весит 4.9 GB и помещается в 16–32 GB объединённой памяти. Ожидайте примерно ~21 tok/s.

Какая самая большая LLM, которую потянет Apple M4?

Qwen 3.5 35B-A3B — крупнейшая модель нашего каталога, которая помещается (21.2 GB в 4 битах). Ожидайте около ~56 tok/s.

Насколько быстр Apple M4 для локальных LLM?

Генерация токенов упирается в пропускную способность памяти. При примерно 120 GB/s Apple M4 выдаёт около ~21 tok/s на модели класса 8B в 4 битах — скорость обратно пропорциональна размеру модели.

Хороша ли объединённая память Apple для локальных LLM?

Да — GPU может использовать почти весь пул памяти, поэтому Mac с 32 GB вмещает модели, которым понадобился бы очень дорогой дискретный GPU. Скорость обычно ограничивает пропускная способность, а не объём.

← Все моделиПРОВЕРКА УСТРОЙСТВА

Какие LLM потянет Apple M4?

У Apple M4 16–32 GB объединённой памяти и около 120 GB/s пропускной способности памяти. Ниже — все модели нашего каталога, которые помещаются, с оценкой скорости генерации. Самая крупная: Qwen 3.5 35B-A3B на ~56 tok/s.

Характеристики

Память16–32 GB объединённой памяти

Пропускная способность~120 GB/s

Тип памятиОбъединённая память

Дата выхода2024-05

Модели на Apple M4

62 / 73 моделей

Модель	Загрузка (Q4)	16 GB	24 GB	32 GB	~Скорость
Qwen 3.5 35B-A3BAlibaba	21.2 GB	Не поместится	Не поместится	Запустится	~56 tok/s
Qwen 3.6 35B-A3BAlibaba	21.2 GB	Не поместится	Не поместится	Запустится	~56 tok/s
Command R 35BCohere	21.2 GB	Не поместится	Не поместится	Запустится	~5 tok/s
Qwen3-VL 32BAlibaba	20.0 GB	Не поместится	Не поместится	Запустится	~5 tok/s
EXAONE 4.5 33BLG AI Research	20.0 GB	Не поместится	Не поместится	Запустится	~5 tok/s
Qwen 3 32BAlibaba	19.9 GB	Не поместится	Не поместится	Запустится	~5 tok/s
Qwen 2.5 Coder 32BAlibaba	19.9 GB	Не поместится	Не поместится	Запустится	~5 tok/s
QwQ 32BAlibaba	19.9 GB	Не поместится	Не поместится	Запустится	~5 tok/s
DeepSeek R1 32BDeepSeek	19.9 GB	Не поместится	Не поместится	Запустится	~5 tok/s
Granite 4.0 H SmallIBM	19.4 GB	Не поместится	Не поместится	Запустится	~19 tok/s
Nemotron 3 Nano 30B-A3BNVIDIA	19.2 GB	Не поместится	Не поместится	Запустится	~47 tok/s
Gemma 4 31BGoogle	18.6 GB	Не поместится	Не поместится	Запустится	~5 tok/s
Qwen 3 30B-A3BAlibaba	18.5 GB	Не поместится	Не поместится	Запустится	~51 tok/s
Qwen3-VL 30B-A3BAlibaba	18.2 GB	Не поместится	Не поместится	Запустится	~56 tok/s
Gemma 3 27BGoogle	16.6 GB	Не поместится	Запустится	Запустится	~6 tok/s
Qwen 3.5 27BAlibaba	16.4 GB	Не поместится	Запустится	Запустится	~6 tok/s
Qwen 3.6 27BAlibaba	16.4 GB	Не поместится	Запустится	Запустится	~6 tok/s
Gemma 4 26B A4BGoogle	15.3 GB	Не поместится	Запустится	Запустится	~44 tok/s
Mistral Small 3.1 24BMistral AI	14.6 GB	Не поместится	Запустится	Запустится	~7 tok/s
Devstral 24BMistral AI	14.6 GB	Не поместится	Запустится	Запустится	~7 tok/s
Magistral Small 1.2Mistral AI	14.6 GB	Не поместится	Запустится	Запустится	~7 tok/s
Devstral Small 2 24BMistral AI	14.6 GB	Не поместится	Запустится	Запустится	~7 tok/s
Codestral 22BMistral AI	13.5 GB	Не поместится	Запустится	Запустится	~8 tok/s
GPT-OSS 20BOpenAI	12.7 GB	Не поместится	Запустится	Запустится	~47 tok/s
Phi-4 Reasoning Vision 15BMicrosoft	9.1 GB	Запустится	Запустится	Запустится	~11 tok/s
Qwen 3 14BAlibaba	9.0 GB	Запустится	Запустится	Запустится	~11 tok/s
DeepSeek R1 14BDeepSeek	9.0 GB	Запустится	Запустится	Запустится	~11 tok/s
Phi-4 14BMicrosoft	8.9 GB	Запустится	Запустится	Запустится	~11 tok/s
Ministral 3 14BMistral AI	8.5 GB	Запустится	Запустится	Запустится	~12 tok/s
OLMo 2 13BAi2	8.3 GB	Запустится	Запустится	Запустится	~12 tok/s
Gemma 3 12BGoogle	7.4 GB	Запустится	Запустится	Запустится	~14 tok/s
Mistral Nemo 12BMistral AI	7.4 GB	Запустится	Запустится	Запустится	~14 tok/s
Gemma 4 12BGoogle	7.3 GB	Запустится	Запустится	Запустится	~14 tok/s
Mellum 2 12B-A2.5BJetBrains	7.3 GB	Запустится	Запустится	Запустится	~67 tok/s
Qwen 3.5 9BAlibaba	5.5 GB	Запустится	Запустится	Запустится	~19 tok/s
GLM-4.6V-FlashZ.ai	5.5 GB	Запустится	Запустится	Запустится	~19 tok/s
Qwen 2.5 VL 7BAlibaba	5.0 GB	Запустится	Запустится	Запустится	~20 tok/s
Qwen 3 8BAlibaba	5.0 GB	Запустится	Запустится	Запустится	~21 tok/s
Granite 3.3 8BIBM	5.0 GB	Запустится	Запустится	Запустится	~21 tok/s
Llama 3.1 8BMeta	4.9 GB	Запустится	Запустится	Запустится	~21 tok/s
DeepSeek R1 8BDeepSeek	4.9 GB	Запустится	Запустится	Запустится	~21 tok/s
Gemma 4 E4BGoogle	4.9 GB	Запустится	Запустится	Запустится	~37 tok/s
Qwen3-VL 8BAlibaba	4.9 GB	Запустится	Запустится	Запустится	~21 tok/s
Ministral 3 8BMistral AI	4.9 GB	Запустится	Запустится	Запустится	~21 tok/s
Gemma 3n E4BGoogle	4.7 GB	Запустится	Запустится	Запустится	~42 tok/s
Qwen 2.5 Coder 7BAlibaba	4.6 GB	Запустится	Запустится	Запустится	~22 tok/s
DeepSeek R1 7BDeepSeek	4.6 GB	Запустится	Запустится	Запустится	~22 tok/s
Mistral 7BMistral AI	4.4 GB	Запустится	Запустится	Запустится	~23 tok/s
Gemma 4 E2BGoogle	3.1 GB	Запустится	Запустится	Запустится	~73 tok/s
Gemma 3 4BGoogle	2.6 GB	Запустится	Запустится	Запустится	~39 tok/s
Qwen 3 4BAlibaba	2.4 GB	Запустится	Запустится	Запустится	~42 tok/s
Qwen 3.5 4BAlibaba	2.4 GB	Запустится	Запустится	Запустится	~42 tok/s
Phi-4 Mini 3.8BMicrosoft	2.3 GB	Запустится	Запустится	Запустится	~44 tok/s
Llama 3.2 3BMeta	1.9 GB	Запустится	Запустится	Запустится	~53 tok/s
DeepSeek-OCRDeepSeek	1.8 GB	Запустится	Запустится	Запустится	~295 tok/s
Ministral 3 3BMistral AI	1.8 GB	Запустится	Запустится	Запустится	~56 tok/s
DeepSeek R1 1.5BDeepSeek	1.1 GB	Запустится	Запустится	Запустится	~93 tok/s
Qwen 3 1.7BAlibaba	1.0 GB	Запустится	Запустится	Запустится	~99 tok/s
SmolLM2 1.7BHugging Face	1.0 GB	Запустится	Запустится	Запустится	~99 tok/s
Llama 3.2 1BMeta	0.7 GB	Запустится	Запустится	Запустится	~140 tok/s
Gemma 3 1BGoogle	0.6 GB	Запустится	Запустится	Запустится	~168 tok/s
Qwen 3 0.6BAlibaba	0.4 GB	Запустится	Запустится	Запустится	~280 tok/s

Apple Silicon делит один пул памяти между CPU и GPU, поэтому модели доступна почти вся объединённая память (за вычетом расходов ОС). · Данные обновлены: 2026-06-11 · Как мы считаем эти цифры →