هل يمكنني تشغيل Qwen3-Next 80B-A3B؟

نموذج Qwen3-Next 80B-A3B هو نموذج قائم على مزيج الخبراء (mixture-of-experts) من Alibaba، والرقم البارز فيه مضلِّل بطريقة مفيدة: فهو يضم 80B معاملًا إجماليًا لكنه يُفعِّل نحو 3B منها فقط لكل رمز (token). هذا يعني أنه يولّد النص بسرعة نموذج صغير بينما يستفيد من معرفة نموذج كبير. لكن العائق هو الذاكرة. ما زال عليك الاحتفاظ بالنموذج كاملًا في RAM أو VRAM، لذا حتى عند تكميم 4-bit بحجم نحو 48.5 GB تحتاج إلى 64 GB على الأقل لتشغيله، وهو ما يستبعد بطاقات الرسوميات الاستهلاكية المفردة ويوصلك نحو جهاز بذاكرة كبيرة بدلًا منها.

عمليًا هذا نموذج مخصص لأجهزة Apple Silicon أو محطات العمل، وليس لبطاقات رسوميات الألعاب. على معالج M Max بذاكرة موحّدة كافية يتدفق النص بسرعة تقارب 192 tok/s، وهي سرعة سريعة فعلًا لنموذج من فئة 80B وهي السبب الرئيسي الذي يدفع الناس لاختياره. بطاقة RTX 3060 بسعة 12 GB أو RTX 4090 بسعة 24 GB لا تستطيع ببساطة تحميله. إذا كنت تعمل على المعالج المركزي (CPU) مع ذاكرة DDR5 فلا يزال بإمكانك تشغيله بنحو 28 tok/s، أبطأ لكنه عملي للمهام المجمّعة. سياق 256K حقيقي لكنه شَرِه: الاقتراب من 128K قد يرفع إجمالي الذاكرة إلى نحو 95.8 GB، لذا خطِّط لهامش إضافي قبل أن تملأه.

في مقابل Llama 3.1 70B، المقارنة الكثيفة الواضحة، يميل Qwen3-Next إلى الشعور بأنه أسرع بوضوح بالنسبة لحجمه لأن 3B معاملًا فقط تكون نشطة في كل خطوة، بينما يضطر Llama لتشغيل الـ70B كلها. جودته في المحادثة والاستدلال تنافسية، رغم أن نماذج 70B الكثيفة قد تحتفظ بأفضلية في أصعب المطالبات متعددة الخطوات. ميزته البارزة هي نسبة السرعة إلى الحجم: اتساع نموذج كبير بزمن استجابة نموذج صغير، إن توفّرت لديك الذاكرة لاستضافته. الترخيص هو Apache 2.0، لذا أنت حر في استخدامه تجاريًا وفي بيئة الإنتاج دون قيود خاصة بمزوّد معيّن.