هل يمكنني تشغيل Codestral 22B؟

Codestral 22B هو النموذج المخصص للبرمجة من Mistral AI، مبني لإكمال الكود وتوليده أكثر منه للدردشة المفتوحة. بـ 22.2 مليار وسيط، يمثل قفزة حقيقية في الحجم مقارنة بنماذج 7B-12B التي يبدأ بها معظم الناس، وبصمته الذاكرية تعكس ذلك: تبلغ نسخة التكميم 4-bit نحو 13.5 GB، ويحتاج النموذج إلى 24 GB من ذاكرة RAM على الأقل لكي يعمل بأريحية. هذا يضعه خارج متناول بطاقة سعتها 12 GB مثل RTX 3060، حيث لا يتسع ببساطة. نقطة الدخول الواقعية هي بطاقة GPU بسعة 24 GB مثل RTX 4090، أو جهاز Apple Silicon Mac بذاكرة موحّدة وفيرة.

على RTX 4090 يمكنك توقّع نحو 64 رمزًا في الثانية عند 4-bit، وهي سرعة كافية لتبدو اقتراحات الكود شبه فورية. أما Apple M-series Max فيأتي أدنى عند نحو 26 tok/s، ويبقى صالحًا للتحرير التفاعلي، في حين يهبط التشغيل على المعالج وحده فوق DDR5 إلى نحو 4 tok/s، وهي سرعة لا تصلح إلا للمهام الدفعية التي يمكنك تركها والانصراف عنها. نافذة السياق هي 32K، متواضعة بمعايير اليوم لكنها سخية لمعظم أعمال الملف الواحد والمستودعات الصغيرة. وإذا ملأتها بالكامل فستكون أمام نحو 20.1 GB من إجمالي الذاكرة، لذا على بطاقة سعتها 24 GB يترك السياق الكامل هامشًا ضئيلًا.

بمقارنته بنظرائه من العائلة نفسها، يُعد Codestral المتخصص: فإن Mistral Nemo 12B هو الخيار الأخف للدردشة العامة إذا كانت ذاكرتك محدودة، وعادةً ما يتفوق GPT-OSS 20B في الاستدلال والمحادثة. ميزة Codestral البارزة أنه دُرّب خصيصًا على الكود عبر لغات كثيرة، لذا في إكمال fill-in-the-middle (ملء المنتصف) والتوليد يميل إلى أن يكون أكثر دقة من نموذج عام بالحجم نفسه. التحذير الجدّي يكمن في الترخيص: يأتي Codestral بترخيص MNPL الخاص بـ Mistral، وهو ترخيص غير إنتاجي (non-production)، لذا لا يمكنك استخدامه تجاريًا أو في منتج إنتاجي. تعامل معه كأداة للبحث والاستخدام الشخصي فقط.