هل يمكنني تشغيل Devstral 2 123B؟

نموذج Devstral 2 123B هو نموذج الترميز الكثيف الكبير من Mistral، وهو موجّه تحديداً لمن يبنون أنظمة ترميز محلية جادة، لا لأصحاب الحواسيب المحمولة. بدقة 4-bit يبلغ حجمه نحو 74.6 GB، وهذا وحده يكشف القصة: فهو لا يتسع على بطاقة RTX 3060 بسعة 12 GB ولا على RTX 4090 بسعة 24 GB، نقطة انتهى. تحتاج إلى نحو 96 GB من الذاكرة لتحميله براحة، أي عملياً جهاز Apple Silicon عالي الذاكرة أو محطة عمل بذاكرة RAM ضخمة. هذا نموذج تخطط عتادك حوله، لا نموذج تجرّبه بشكل عابر.

في الاستخدام اليومي، التحفّظ الصادق هو السرعة. على معالج Apple M Max ستحصل على نحو 5 tok/s، أما صندوق يعتمد على المعالج وحده بذاكرة DDR5 فينخفض إلى نحو 1 tok/s، وهو أقرب إلى مهام الدفعات منه إلى الدردشة التفاعلية. يقرأ الشيفرة ويكتبها جيداً، لكنك ستشعر بكل رد يتدفق ببطء. نافذة السياق سخية وتبلغ 256K على الورق، غير أن الذاكرة هي القيد الحقيقي: الدفع إلى سياق 128K يتطلب وحده نحو 132 GB إجمالاً، لذا على جهاز بسعة 96 GB تُبقي سياق العمل متواضعاً وتعتمد على مطالبات أقصر ومركّزة.

مقارنةً بنموذج MoE وهو Qwen 3.5 122B-A10B المذكور في related_models، تكون المقايضة واضحة: ذلك النموذج يفعّل شريحة فقط من أوزانه لكل رمز ويبدو عموماً أسرع عند عدد معاملات مماثل، بينما يشغّل Devstral 2 كل معاملاته البالغة 123B على كل رمز. ميزة Devstral البارزة هي كونه متخصص ترميز كثيفاً ومركّزاً من Mistral بسياق طويل، إذا توفرت لديك الذاكرة لتغذيته. ملاحظة عملية حول الترخيص: يُطرح تحت ترخيص Modified MIT، لذا اقرأ الشروط المحددة قبل أي نشر تجاري بدلاً من افتراض حرية MIT الصرفة.