Могу ли я запустить EXAONE 4.5 33B?

EXAONE 4.5 33B — это модель LG AI Research с поддержкой зрения и рассуждений, и с 33B плотных (dense) параметров она уверенно входит в тяжёлый сегмент того, что можно развернуть у себя. 4-битный квант занимает около 20 GB, поэтому на карту с 12 GB вроде RTX 3060 она вообще не влезет — нужен GPU на 24 GB, например 4090, или Mac с большим объёмом единой памяти. Разумный минимум для загрузки — около 32 GB RAM. Это не модель для обычного ноутбука. Она для тех, кому нужен сильный мультимодальный ассистент и у кого есть железо, чтобы его тянуть.

В повседневной работе на 4090 она выдаёт около 43 токенов в секунду в 4-битном режиме — комфортно для чата и разбора изображений, хотя заметно тяжелее, чем небольшая модель на 8B. На Apple M Max вы получите примерно 17 токенов в секунду — пользоваться можно, но размереннее, а на CPU с DDR5 скорость падает примерно до 3 токенов в секунду, что уже испытывает терпение. Контекстное окно на 256K большое, но есть нюанс с памятью: даже при контексте 128K общий объём вырастает примерно до 51.7 GB, так что на карте с 24 GB рабочий контекст придётся держать скромным.

В сравнении с Qwen3-VL 32B — ближайшим аналогом в своём классе — EXAONE обычно идёт на равных, а не доминирует; у Qwen3-VL, как правило, шире инструментарий и выбор квантов, тогда как Qwen 3 32B — более лёгкий вариант, если вам нужны только текстовые рассуждения. Сильная сторона EXAONE в том, что это действительно мощная модель «зрение плюс рассуждения» в одном пакете от крупной лаборатории. Важная оговорка — лицензия: модель распространяется под EXAONE License, которая является некоммерческой, поэтому вы не можете использовать её в продакшене или в любом коммерческом продукте. Ограничьтесь исследованиями, прототипированием и личным использованием.