هل يمكنني تشغيل Qwen 2.5 Coder 32B؟

Qwen 2.5 Coder 32B هو نموذج البرمجة المصمَّم خصيصًا من Alibaba، وهو الخيار الذي يلجأ إليه المطوّرون حين يريدون مساعدًا محليًا ينافس فعلًا الأدوات السحابية في أعمال البرمجة الحقيقية. بحجم 32.8B معامل، ليس تنزيلًا عابرًا: تبلغ النسخة المكمَّمة بدقة 4-bit نحو 19.9 GB، وتحتاج إلى 32 GB من ذاكرة RAM على الأقل لتحميله. هذا يستبعد بطاقة RTX 3060 بسعة 12 GB تمامًا، فهو ببساطة لا يتّسع فيها. أمّا الملاذ الواقعي له فهو بطاقة بسعة 24 GB أو جهاز Apple Silicon Mac بذاكرة موحَّدة وفيرة.

في الاستخدام اليومي يبدو متأنّيًا أكثر منه سريعًا، ويظهر الفارق في العتاد بوضوح. على RTX 4090 يمكنك توقّع نحو 43 tok/s بدقة 4-bit، وهي سرعة كافية ليتدفّق الكود بأريحية وأنت تقرؤه. أمّا شريحة M-series Max فتقترب من 18 tok/s، قابلة للاستخدام لكنها أبطأ بشكل ملحوظ وتتطلّب صبرًا، في حين أنّ حلّ معالج DDR5 بنحو 3 tok/s مخصَّص فعليًا لمهام الدُّفعات التي تعمل طوال الليل فقط. سياق 128K مفيد حقًا لتغذية ملفات كاملة، لكنه ليس بلا ثمن: دفع النافذة إلى أقصاها يرفع إجمالي الذاكرة نحو 51.6 GB، لذا أبقِ سياق العمل معتدلًا ما لم تكن لديك سعة فائضة.

بالمقارنة مع DeepSeek R1 32B الذي يأتي بالحجم نفسه 32.8B، يكمن الفرق في الغاية: R1 نموذج استدلال يفكّر بصوت مسموع، بينما يبدو Qwen 2.5 Coder عمومًا أكثر مباشرةً وتركيزًا في توليد الكود وإكماله. وميزته البارزة هي تحديدًا هذا التركيز على البرمجة بحجم لا يزال بإمكانك استضافته ذاتيًا على بطاقة GPU جيّدة واحدة. أمّا الترخيص فهو الجزء السهل: رخصة Apache 2.0 تعني أنّ بإمكانك استخدامه بحرّية، بما في ذلك تجاريًا وفي بيئة الإنتاج، دون أيّ قيود خاصّة بالمزوِّد.