Могу ли я запустить Qwen 3.6 27B?

Qwen 3.6 27B — это среднеклассовая рабочая лошадка от Alibaba для тех, кто хочет закрывать чат, рассуждения, программирование и работу с изображениями одной толковой локальной моделью, вообще не обращаясь к облаку. Это плотная (dense) модель на 27B, то есть на каждом токене задействуются все параметры, и это сразу отражается на потребляемой памяти: 4-битная квантизация занимает около 16.4 GB, а чтобы просто загрузить модель, нужно как минимум порядка 24 GB RAM. Из-за этого она в принципе не помещается на 12-гигабайтную карту вроде RTX 3060 — туда она не влезает совсем. Это территория RTX 4090 с 24 GB или Mac на Apple Silicon с большим объёмом памяти.

На 4090 в 4-битном режиме можно рассчитывать примерно на 52 токена/с — это быстрее, чем вы успеваете читать, и для интерактивного ассистента ощущается по-настоящему плавно. На Apple Silicon серии Max скорость оседает в районе 21 tok/s, чего вполне комфортно хватает для чата и кодинга. Контекстное окно в 256K — заметная цифра, но воспринимайте её как потолок, а не как значение по умолчанию. По мере заполнения окна память растёт стремительно: при контексте 128K общий рабочий набор занимает около 45.4 GB. Так что, если у вас нет сборки уровня рабочей станции, держите повседневный контекст в разумных рамках, а длинное окно приберегите для тех редких задач, где оно действительно нужно.

В сравнении с другим очевидным вариантом на 27B — Gemma 3 27B — обе модели набирают очки по-своему: Gemma 3 закрывает чат и изображения, а Qwen 3.6 27B на той же базе с поддержкой картинок добавляет в целом более сильное программирование и рассуждения, что делает её более универсальным выбором для тех, кому нужна одна модель на все задачи. Если памяти в обрез, реалистичной запасной опцией будет куда меньшая Qwen 3 1.7B, но она только болтает: не рассуждает и не видит изображений. Главная сильная сторона Qwen 3.6 27B — именно эта широта возможностей в одной плотной модели. К тому же она выходит под Apache 2.0, то есть её можно без лицензионной головной боли использовать коммерчески и в продакшене.