Могу ли я запустить Qwen 3 1.7B?

Qwen 3 1.7B — это крошечная чат-модель для тех, кому нужен локальный ассистент, который загружается мгновенно и почти не нагружает железо. В 4-битной квантизации она занимает около 1 GB на диске, а целиком работает примерно в 3 GB RAM, поэтому помещается почти куда угодно: на старый ноутбук, плату уровня Raspberry Pi, телефон или бюджетную GPU, о которой вы давно забыли. Это модель, к которой обращаются, когда нет отдельной видеокарты или когда нужно что-то фоновое, чтобы вообще не думать о памяти.

На настоящей GPU она работает почти абсурдно быстро. RTX 3060 выдаёт около 297 tok/s, а 4090 переваливает за 831, тогда как Apple Silicon M Max держится около 338. Даже на чистом CPU с DDR5 получается примерно 49 tok/s — это всё равно быстрее, чем вы читаете. Контекстное окно — 32K, и в отличие от тяжеловесов здесь его реально можно заполнить без особых мучений: при полном контексте 32K общий объём занимает всего около 3.1 GB, так что даже скромная машина спокойно удержит длинный диалог в памяти.

Будем честны: при 1.7B параметрах это чат-модель, а не движок рассуждений. С короткими вопросами-ответами, перефразированием и простым вызовом инструментов она справляется нормально, но на многошаговой логике или там, где нужно настоящее планирование, начинает сыпаться. Если памяти хватает, Qwen 3 4B обычно рассуждает заметно лучше; если ресурсов ещё меньше, Qwen 3 0.6B — более лёгкий шаг вниз, а SmolLM2 1.7B — ровесник того же размера, с которым стоит её сравнить. Её главное достоинство — соотношение скорости к размеру, и поскольку лицензия Apache 2.0, её можно использовать коммерчески и в продакшене без беспокойства о лицензировании.