Могу ли я запустить Phi-4 Reasoning Vision 15B?

Phi-4 Reasoning Vision 15B — это модель Microsoft с открытыми весами (под лицензией MIT, то есть её можно свободно использовать в коммерческих проектах), созданная для работы с изображениями и рассуждений, а не для обычного чата. Это плотная (dense) модель на 15B параметров: при каждом токене целиком загружается и работает вся сеть. В 4-битной квантизации она занимает около 9.1 GB, поэтому для полного размещения на GPU нужна карта вроде RTX 3060 на 12 GB, плюс минимум 16 GB оперативной памяти. На более скромном железе можно опуститься до 2-битной сборки (примерно 6.3 GB), но качество на этом уровне заметно падает.

В повседневной работе на RTX 3060 с 12 GB модель ощущается бодро — около 34 tok/s в 4-битном режиме, что комфортно для чтения, а RTX 4090 на 24 GB разгоняет её примерно до 94 tok/s. На Apple M-series Max стоит ожидать около 38 tok/s. Контекстное окно — 16K, что довольно скромно, поэтому относитесь к нему как к рабочему блокноту, а не как к месту для целых документов. Даже при 8K контекста полный объём памяти вырастает примерно до 10.5 GB, так что на карте с 12 GB оставляйте запас.

На фоне родственных моделей Phi-4 14B и Qwen 3 14B — лучший выбор, если вам нужна универсальная модель для чата и рассуждений, ведь эта сборка жертвует частью такой широты ради понимания изображений. Phi-4 Mini 3.8B — более лёгкий вариант, когда памяти в обрез. Главное достоинство здесь в том, что вы получаете настоящие мультимодальные рассуждения при объёме, который всё ещё помещается на одну видеокарту среднего класса, а лицензия MIT означает отсутствие каких-либо коммерческих ограничений.