Могу ли я запустить DeepSeek R1 32B?

DeepSeek R1 32B — это reasoning-модель для тех, кому нужна локальная работа с цепочкой рассуждений, а не быстрый чат. С 32.8B параметрами это не модель «на попробовать»: 4-битная квантизация занимает около 19.9 GB, и для комфортной работы желательно иметь минимум 32 GB RAM. На карту с 12 GB вроде RTX 3060 она не влезет, так что реалистично речь идёт о GPU на 24 GB, Mac на Apple Silicon с большим объёмом памяти или рабочей станции с запасом системной памяти. Если такое железо есть, это один из лучших reasoner'ов с открытыми весами, который можно поднять у себя.

В повседневной работе модель «думает вслух» перед ответом — в этом и смысл, но и плата: каждый ответ тратит токены на рассуждение, поэтому сырая скорость важна. На RTX 4090 можно рассчитывать примерно на 43 токена в секунду при 4-битной квантизации — этого достаточно, чтобы поток видимых рассуждений оставался читаемым; на Apple M Max скорость падает до примерно 18 tok/s, а на CPU с DDR5 еле ползёт — около 3 tok/s, что годится для пакетных задач, но не для интерактива. Контекст в 128K щедрый, но заполнять его здесь дорого: при полном окне суммарный объём памяти вырастает примерно до 51.6 GB, так что закладывайте мощную машину или держите контекст умеренным.

По сравнению с Qwen 3 32B — той же размерности и тоже умеющей в рассуждения — DeepSeek R1 32B обычно сильнее опирается на явное пошаговое размышление, тогда как Qwen 3 32B в целом ощущается более сбалансированным для смешанной работы «чат плюс reasoning». Главная черта R1 32B — этот видимый след рассуждений: для математики, логики и многошаговых задач, где вы хотите видеть и проверять ход решения модели, в этом размере её трудно превзойти. Она поставляется под лицензией MIT, так что её можно использовать коммерчески и в продакшене без специфичных условий провайдера, которые встречаются у некоторых семейств с открытыми весами.