Могу ли я запустить Qwen 3.5 9B?

Qwen 3.5 9B — это универсальная модель Alibaba начала 2026 года, и самое интересное в ней то, что она работает не только с текстом: помимо чата и рассуждений она понимает изображения. В 4-битной квантизации модель занимает около 5.5 GB — впритык, но реально помещается на GPU с 12 GB, а на Mac с Apple Silicon свободно ложится в унифицированную память. Если нужно ужать её под более слабое железо, можно опуститься до 2-битной сборки примерно на 3.8 GB, но за это вы платите качеством. На практике закладывайте около 12 GB системной RAM как нижнюю планку.

В повседневной работе модель ощущается быстрой. На RTX 3060 в 4-битном режиме можно рассчитывать примерно на 56 tok/s, а M-series Max выжимает около 64 tok/s — и то, и другое быстрее, чем вы успеваете читать. Если у вас есть RTX 4090, она уходит далеко вперёд, выдавая порядка 157 tok/s. Контекстное окно в 256K — главная цифра в характеристиках, но насчёт памяти будьте реалистами: даже при контексте 128K общий объём вырастает примерно до 23.2 GB, а это намного больше, чем влезает в карту на 12 GB. Держите рабочий контекст скромным, если только у вас нет GPU на 24 GB про запас.

На фоне собственного семейства позиционирование очевидно: модели Qwen 3 0.6B и 1.7B — это лёгкие чат-only варианты для ограниченного железа, тогда как эта 9B — та, к которой вы обращаетесь, когда нужны и рассуждения, и понимание изображений в одной модели. GLM-4.6V-Flash — сопоставимая альтернатива с поддержкой зрения того же размера, и обе модели обычно идут вровень в зависимости от задачи. Главная сильная сторона Qwen 3.5 9B — широта возможностей в одной загрузке, а лицензия Apache 2.0 означает, что вы можете использовать её в коммерческих проектах без каких-либо ограничений.