Phi-4 Reasoning Vision 15B çalıştırabilir miyim?

Phi-4 Reasoning Vision 15B, Microsoft'un genel sohbet için değil görsel anlama ve akıl yürütme için tasarladığı açık ağırlıklı (MIT lisanslı, yani ticari olarak serbestçe kullanılabilir) bir model. Yoğun (dense) 15B parametreli bir model; bu da her token üretiminde modelin tamamının belleğe yüklenip çalıştığı anlamına geliyor. 4-bit niceleme (quant) ile boyutu yaklaşık 9.1 GB'a iniyor, dolayısıyla modeli tamamen GPU üzerinde tutmak için RTX 3060 gibi 12 GB'lık bir kart istersiniz ve en az 16 GB sistem RAM gerekir. Daha sıkışık donanıma sığdırıyorsanız 2-bit sürüme (yaklaşık 6.3 GB) düşebilirsiniz, ama o seviyede kalite gözle görülür biçimde düşer.

Günlük kullanımda 12 GB'lık RTX 3060 üzerinde 4-bit'te saniyede yaklaşık 34 token ile akıcı hissettiriyor; bu okuma hızının üzerinde, rahat bir tempo. 24 GB'lık RTX 4090 bunu saniyede 94 token civarına çıkarıyor. Apple M serisi Max çiplerinde ise saniyede yaklaşık 38 token bekleyebilirsiniz. Bağlam penceresi 16K, yani mütevazı; onu tüm belgeleri içine boşaltacağınız bir yer değil, çalışma müsveddesi gibi düşünün. 8K bağlamda bile toplam bellek ayak izi yaklaşık 10.5 GB'a tırmanıyor, o yüzden 12 GB'lık bir kartta pay bırakın.

Kardeş modelleriyle kıyaslandığında, genel sohbet ve akıl yürütme isteyenler için Phi-4 14B ve Qwen 3 14B daha doğru tercih; çünkü bu sürüm o genişliğin bir kısmını görsel anlama yeteneği için takas ediyor. Bellek kısıtlıyken Phi-4 Mini 3.8B daha hafif seçenek. Buradaki öne çıkan özellik, tek bir orta seviye GPU'ya sığmaya devam eden bir ayak izinde gerçek anlamda çok kipli (multimodal) akıl yürütme elde etmeniz; ayrıca MIT lisansı sayesinde endişelenecek hiçbir ticari kısıtlama yok.