EXAONE 4.5 33B çalıştırabilir miyim?

EXAONE 4.5 33B, LG AI Research'ün görsel ve akıl yürütme odaklı modeli; 33B yoğun (dense) parametresiyle kendi sunucunuzda barındırabileceğiniz modeller arasında üst segmentte yer alıyor. 4-bit niceleme (quant) yaklaşık 20 GB tutuyor, dolayısıyla RTX 3060 gibi 12 GB'lık bir karta kesinlikle sığmaz; 4090 gibi 24 GB'lık bir GPU ya da bol birleşik belleğe sahip bir Mac gerekiyor. Mantıklı şekilde çalıştırmak için en az 32 GB RAM şart. Bu sıradan bir dizüstü modeli değil. Yetenekli, çok kipli (multimodal) bir asistan isteyen ve buna uygun donanımı olan kullanıcılar için.

Günlük kullanımda 4090 üzerinde 4-bit'te saniyede yaklaşık 43 token üretiyor; sohbet ve görsel okuma için rahat bir hız, ancak küçük bir 8B modele göre belirgin biçimde daha ağır. Apple M Max'te saniyede kabaca 17 token'a iniyorsunuz; kullanılabilir ama daha ölçülü ilerliyor. DDR5'li CPU üzerinde ise saniyede yaklaşık 3 token'a düşüyor ki bu sabır sınayan bir tempo. 256K bağlam penceresi büyük, fakat asıl mesele bellek: 128K bağlamda bile toplam ayak izi yaklaşık 51.7 GB'a tırmanıyor, yani 24 GB'lık bir kart çalışma bağlamınızı mütevazı tutmanızı zorunlu kılıyor.

Sınıfındaki en yakın rakibi Qwen3-VL 32B ile karşılaştırıldığında EXAONE genelde üstünlük kurmaktan çok başa baş gidiyor; Qwen3-VL'in araç desteği ve quant seçenekleri daha geniş olma eğiliminde, yalnızca metin akıl yürütmesi gerekiyorsa Qwen 3 32B daha hafif tercih. EXAONE'in öne çıkan yanı, büyük bir laboratuvardan tek pakette gerçekten güçlü bir görsel artı akıl yürütme modeli olması. Önemli uyarı lisansta: EXAONE License altında geliyor ve bu lisans ticari değil (non-commercial), dolayısıyla onu üretimde ya da herhangi bir ticari üründe kullanamazsınız. Araştırma, prototipleme ve kişisel kullanımla sınırlı tutun.