Могу ли я запустить DeepSeek R1 8B?

DeepSeek R1 8B — это в первую очередь модель для рассуждений, а не универсальный чат-движок на каждый день, и это стоит понимать ещё до загрузки. Это плотная модель на 8B, поэтому в 4-битной квантизации она занимает около 4.9 GB и спокойно помещается в 8 GB видеопамяти с запасом; заявленный минимум в 8 GB RAM делает её пригодной для скромного десктопа или любого Mac на Apple Silicon с унифицированной памятью. Лицензия MIT — самая простая часть: её можно использовать коммерчески, в продакшене, без каких-либо ограничений со стороны разработчика. Берите её, когда нужна модель, которая продумывает задачу, а не просто быстро выдаёт ответ.

В повседневной работе на реальном железе она ощущается шустрой для своего размера. RTX 3060 12GB выдаёт около 63 tok/s, M-серия Max — порядка 72 tok/s, а 4090 — примерно 177 tok/s, так что стриминг ответа нигде не упирается в потолок. На CPU с DDR5 скорость падает до примерно 11 tok/s — нормально для редкого запроса, но не для рабочего цикла. Главная оговорка — привычка к цепочке рассуждений: R1 рассуждает вслух, поэтому расходует контекст быстрее обычной чат-модели. Окно в 128K реальное, но при его заполнении общий объём памяти вырастает примерно до 21.7 GB, так что держите рабочий контекст умеренным, если нет запаса.

Если говорить честно, это дистиллированная модель для рассуждений, а не фронтир-уровень в маленькой коробке. По сравнению с Llama 3.1 8B она, как правило, уступает в широте разговорной гладкости и зрелости инструментария, но выигрывает в пошаговых рассуждениях; а если нужно ещё легче — ценой глубины — существуют DeepSeek R1 7B и 1.5B. Её главная сильная сторона — видимый ход рассуждений, который действительно полезен для математики, логики и отладки, где хочется видеть саму работу. Если вам в основном нужен быстрый непринуждённый чат, чат-ориентированная модель на 8B будет лучшим выбором по умолчанию; но если нужна локальная модель, которая именно рассуждает, R1 8B своё место оправдывает.