هل يمكنني تشغيل Qwen3 Coder Next 80B-A3B؟

Qwen3 Coder Next 80B-A3B نموذج متخصص في البرمجة مبني بأسلوب Mixture-of-Experts، وهذه البنية هي جوهر الموضوع بالكامل. يضم 80B معاملًا إجماليًا لكنه يُفعّل 3B فقط لكل رمز، لذا يعمل أسرع بكثير مما يوحي به حجمه، مع أنه لا يزال يحتاج إلى ذاكرة تكفي للنموذج الكامل. عند دقة 4-bit يصل حجمه إلى نحو 48.5 GB، وهو ما يستبعد كل بطاقات الرسوميات الاستهلاكية: فهو لا يناسب RTX 4090 بسعة 24 GB، ناهيك عن 3060 بسعة 12 GB. المكان الواقعي له هو جهاز Apple Silicon Mac بذاكرة موحّدة وفيرة، أو محطة عمل بذاكرة نظام 64 GB أو أكثر. خطّط على أساس الحد الأدنى 64 GB، لا على أساس 3B النشطة.

في الاستخدام اليومي يؤتي تصميم MoE ثماره. على Apple M Max يتدفّق بنحو 192 tok/s، وهو ما يبدو فوريًا لإكمال الشيفرة وإعادة الهيكلة، وحتى الاستدلال على المعالج وحده باستخدام ذاكرة DDR5 يحقق نحو 28 tok/s، وهو بطيء لكنه قابل للاستخدام فعليًا لنموذج بهذا الحجم. نافذة السياق 256K هي الميزة الأبرز للعمل عبر مستودعات كاملة، لكن الذاكرة هي العقبة: عند سياق 128K يرتفع الحجم الإجمالي إلى نحو 95.8 GB. ضع ذلك في الحسبان قبل تحميل قاعدة شيفرة ضخمة، لأن ذاكرة KV cache، لا الأوزان، هي ما سيدفعك إلى تجاوز الحد على جهاز بذاكرة 64 GB.

مقارنةً بالبدائل الكثيفة في فئته الوزنية، مثل Llama 3.1 70B، يضحّي هذا النموذج عمومًا بالاتساع الخام مقابل التركيز على البرمجة والسرعة: توجيه MoE يعني أنه يجيب أسرع من نموذج كثيف بحجم 70B بينما يتخصص في الشيفرة بدلًا من المحادثة العامة، حيث تكون نسخ Qwen 3 chat الأصغر خيارًا أنسب. سمته البارزة هي نسبة السرعة إلى الحجم هذه، إذ يحقق توليدًا شبه فوري من نموذج بفئة 80B. والمكافأة العملية هي الرخصة: Apache 2.0، فيمكنك استخدامه بحرية في العمل التجاري والإنتاجي دون قيود خاصة بمزوّد معين تحتاج إلى قراءتها أولًا.