هل يمكنني تشغيل Phi-4 Reasoning Vision 15B؟

نموذج Phi-4 Reasoning Vision 15B هو نموذج مفتوح الأوزان من Microsoft برخصة MIT، أي أنه قابل للاستخدام التجاري بحرية، وقد صُمّم للرؤية والاستدلال أكثر من الدردشة العامة. إنه نموذج كثيف بحجم 15B معامل، ما يعني أنه يُحمَّل ويعمل بالكامل مع كل توكِن. عند التكميم بدقة 4-bit يصل حجمه إلى نحو 9.1 GB، لذا تحتاج إلى بطاقة بسعة 12 GB مثل RTX 3060 لإبقائه كاملاً على كرت الرسوميات، مع 16 GB على الأقل من ذاكرة النظام. يمكنك النزول إلى بناء 2-bit (نحو 6.3 GB) إذا كنت تضغطه على عتاد أضيق، لكن الجودة تتراجع عند هذا المستوى.

في الاستخدام اليومي يبدو سريعاً على RTX 3060 بسعة 12 GB، بنحو 34 توكِن في الثانية عند 4-bit، وهو مريح لسرعة القراءة، بينما تدفعه بطاقة RTX 4090 بسعة 24 GB إلى نحو 94 توكِن في الثانية. وعلى معالج Apple من فئة M-series Max يمكنك توقّع نحو 38 توكِن في الثانية. نافذة السياق تبلغ 16K وهي متواضعة، لذا تعامل معها كمساحة عمل مؤقتة لا كمكان لإلقاء مستندات كاملة. حتى عند 8K من السياق يرتفع إجمالي استهلاك الذاكرة إلى نحو 10.5 GB، فاترك هامشاً على بطاقة بسعة 12 GB.

بالمقارنة مع أشقائه، يُعدّ Phi-4 14B و Qwen 3 14B الخياران الأفضل إذا أردت نموذجاً عاماً للدردشة والاستدلال، إذ يضحّي هذا البناء ببعض ذلك الاتساع مقابل فهم الصور. أما Phi-4 Mini 3.8B فهو الخيار الأخف حين تكون الذاكرة شحيحة. الميزة البارزة هنا أنك تحصل على استدلال متعدد الوسائط حقيقي ضمن حجم لا يزال يتسع لبطاقة رسوميات واحدة من الفئة المتوسطة، ورخصة MIT تعني أنه لا قيود تجارية تستدعي القلق.