Могу ли я запустить DeepSeek R1 1.5B?

DeepSeek R1 1.5B — это дистиллированная reasoning-модель, и слово это важно: она настроена рассуждать вслух над задачей, а не бойко вести беседу. С 1.8B параметров она крошечная. 4-битный квант весит около 1.1 GB, а даже 8-битная сборка занимает всего 1.9 GB, так что модель укладывается в минимальные требования заметно меньше 3 GB RAM. Это значит, что она запустится где угодно: на старом ноутбуке, на плате уровня Raspberry Pi, на телефоне или как фоновый помощник, который едва трогает GPU. Скачайте её командой ollama run deepseek-r1:1.5b — и через секунды всё готово.

В повседневной работе она по-настоящему быстрая. На RTX 3060 можно рассчитывать примерно на 280 tok/s, 4090 выдаёт около 785, а Apple M-series Max держится в районе 319, так что скорость появления ответа определяется не сырой производительностью, а тем, как долго модель рассуждает. Даже на чистом CPU с DDR5 выходит около 47 tok/s. Подвох — это контекст в 128K: модель тратит токены на собственную цепочку рассуждений, и заполнение всего окна поднимает общий расход памяти примерно до 9.7 GB, далеко за пределы потребления в простое. Держите рабочий контекст скромным и давайте ей думать короткими порциями.

Честно говоря, при таком размере рассуждения работают через раз на любых многошаговых задачах; её более крупные родственники DeepSeek R1 7B и R1 8B куда надёжнее, когда ответ действительно важен, а Qwen 3 1.7B — лучший выбор, если вам нужен в основном обычный чат, а не видимое рассуждение. Сильная сторона 1.5B — доступность: это самый компактный способ увидеть R1-подобные следы рассуждений локально, и она делает это на железе, на котором не запустится больше ничего. Лицензия MIT — приятный бонус: полностью открытая и бесплатная, с правом коммерческого использования без каких-либо условий.