هل يمكنني تشغيل Qwen 3.5 122B-A10B؟

Qwen 3.5 122B-A10B هو نموذج ضخم من نوع mixture-of-experts (MoE) لمن يريد تشغيل محادثة وتفكير منطقي وبرمجة وفهم بصري بمستوى الطليعة على عتاده الخاص. تصميم MoE هو جوهر الأمر: من بين 122B معامل إجمالي، يُفعَّل 10B فقط لكل token، لذا يولّد النص أسرع بكثير مما يحققه نموذج كثيف (dense) بهذا الحجم. المشكلة الحقيقية هي الذاكرة، لأنك ما زلت بحاجة لإبقاء النموذج كاملًا محمَّلًا. بتكميم 4-bit يبلغ ذلك نحو 74 GB، وتحتاج إلى ما يقارب 96 GB من RAM لمجرد تحميله. عمليًا يعني هذا محطة عمل عالية الذاكرة أو جهاز Apple Silicon Mac بذاكرة موحَّدة وافرة؛ فهو لا يتسع في RTX 4090 بسعة 24 GB، ولا يقترب إطلاقًا من بطاقة بسعة 12 GB.

حيثما يتسع، يبدو سريعًا بشكل مفاجئ بالنسبة لحجمه بفضل تلك المعاملات الـ 10B النشطة. على جهاز M Max يمكنك توقّع نحو 57 tok/s، وهي سرعة كافية لقراءة النص مريحًا أثناء تدفّقه. على جهاز DDR5 يعمل بالمعالج وحده تنخفض السرعة إلى نحو 8 tok/s تقريبًا، مما يجعله أنسب للمهام المجمَّعة (batch) منه للمحادثة الحيّة. نافذة السياق تصل حتى 256K، لكن اعتبرها سقفًا. الذاكرة تنمو مع ما تملؤه فعليًا، وعند سياق 128K يرتفع إجمالي البصمة إلى نحو 131 GB؛ أي أن أرقام السياق الطويل تفترض جهازًا مُجهَّزًا خصيصًا لذلك.

بالمقارنة مع Devstral 2 123B الذي يقف عند عدد معاملات شبه مطابق، يقايض Qwen 3.5 التركيز المحض على البرمجة باتساع القدرات: فبدلًا من التخصص في نموذج واحد، يقدّم المحادثة والتفكير المنطقي والفهم البصري معًا. هذا التنوّع هو ميزته البارزة؛ أما حين تحتاج فقط إلى محادثة خفيفة على عتاد متواضع، فإن شقيقيه الأصغر Qwen 3 0.6B و1.7B يبقيان خيارًا منطقيًا. رخصته Apache 2.0، لذا يمكنك استخدامه تجاريًا وفي الإنتاج دون قيود؛ وهذا أمر نادر عند هذا المستوى من القدرة، وسبب وجيه فعلًا لاختياره بدلًا من أوزان أكثر تقييدًا.