Puis-je faire tourner EXAONE 4.5 33B ?

EXAONE 4.5 33B est le modèle de vision et de raisonnement de LG AI Research, et avec ses 33B de paramètres denses, il se place clairement dans la catégorie poids lourd de ce que l'on peut auto-héberger. Une quantification 4-bit pèse environ 20 GB, donc il ne tiendra absolument pas sur une carte de 12 GB comme une RTX 3060 ; il vous faut un GPU de 24 GB tel qu'une 4090, ou un Mac doté d'une grande quantité de mémoire unifiée. Le minimum pour le charger raisonnablement est d'environ 32 GB de RAM. Ce n'est pas un modèle pour ordinateur portable d'appoint. Il s'adresse à ceux qui veulent un assistant multimodal performant et disposent du matériel pour le faire tourner.

Au quotidien sur une 4090, il tourne autour de 43 tokens par seconde en 4-bit, ce qui reste confortable pour discuter et analyser des images, même si c'est nettement plus lourd qu'un petit modèle 8B. Sur un Apple M Max, vous obtenez environ 17 tokens par seconde, utilisable mais plus posé, et sur CPU avec de la DDR5 cela chute à environ 3 tokens par seconde, de quoi mettre votre patience à l'épreuve. La fenêtre de contexte de 256K est vaste, mais le piège vient de la mémoire : même à 128K de contexte, l'empreinte totale grimpe à environ 51.7 GB, si bien qu'une carte de 24 GB vous oblige à garder un contexte de travail modeste.

Face à Qwen3-VL 32B, la comparaison la plus proche dans sa catégorie, EXAONE rend généralement coup pour coup plutôt qu'il ne domine ; Qwen3-VL tend à offrir un outillage et une disponibilité de quantifications plus larges, tandis que Qwen 3 32B reste le choix plus léger si vous n'avez besoin que de raisonnement textuel. La grande force d'EXAONE est d'être un modèle réellement solide alliant vision et raisonnement dans un seul ensemble, signé par un grand laboratoire. La réserve importante concerne la licence : il est distribué sous l'EXAONE License, qui est non commerciale, vous ne pouvez donc pas l'utiliser en production ni dans aucun produit commercial. Réservez-le à la recherche, au prototypage et à un usage personnel.