هل يمكنني تشغيل Qwen 3 32B؟

نموذج Qwen 3 32B هو خيارك حين يبدأ نموذج بحجم 8B في التعثر عند الأجزاء الصعبة ويتوفر لديك ما يكفي من الذاكرة. إنه نموذج كثيف (dense) بـ 32.8B معامل، مصمَّم للمحادثة والاستدلال، وعند التكميم بدقة 4-bit يبلغ حجمه نحو 19.9 GB. هذا يضعه خارج متناول بطاقة سعتها 12 GB مثل RTX 3060، إذ لا يتسع عليها ببساطة، كما يتطلب 32 GB على الأقل من ذاكرة النظام. أما البيئات الواقعية له فهي بطاقة رسومات بسعة 24 GB مثل RTX 4090، أو جهاز Mac بمعالج Apple Silicon مزوّد بذاكرة موحّدة وفيرة. هذا ليس نموذجاً تحمله على أي حاسوب محمول، بل نموذج محطة عمل.

في الاستخدام اليومي يبدو متأنياً أكثر منه سريعاً. على بطاقة RTX 4090 يمكنك توقّع نحو 43 رمزاً في الثانية عند 4-bit، وهي سرعة تفوق سرعة القراءة بأريحية، بينما يستقر معالج M-series Max قرب 18 tok/s، ويزحف المعالج المركزي وحده على ذاكرة DDR5 عند 3 tok/s تقريباً، وهو مقبول للمهام الدفعية (batch) لكنه مؤلم للمحادثة الحيّة. سياق 128K مفيد فعلاً لسلاسل الاستدلال الطويلة، لكن تعامَل معه بحذر: ملؤه بالكامل يرفع إجمالي الذاكرة إلى نحو 51.6 GB، وهو ما يتجاوز حدود بطاقة واحدة بسعة 24 GB. أبقِ سياق العمل متواضعاً ما لم يكن لديك هامش يكفي لتغطيته.

بمقارنته بخيار الاستدلال الآخر بحجم 32B، أي DeepSeek R1 32B، فإن المفاضلة تتعلق بالطبع: إذ يميل R1 إلى الاتكاء بقوة أكبر على سلسلة التفكير الصريحة (chain-of-thought)، بينما يبدو Qwen 3 32B عموماً أكثر توازناً كمساعد عام لا يزال قادراً على الاستدلال عند الطلب. وما يميّزه حقاً هو ذلك الجمع بين قدرة واسعة ورخصة Apache 2.0 نظيفة، فيمكنك استخدامه تجارياً وفي الإنتاج دون أي احتكاك قانوني. وإن كنت قد تجاوزت نموذجي المحادثة الأصغر Qwen 3 0.6B و1.7B وتريد ثِقَلاً استدلالياً حقيقياً تملكه بالكامل، فهذه هي الدرجة الأعلى، شريطة أن يتحمّله عتادك.