هل يمكنني تشغيل QwQ 32B؟

نموذج QwQ 32B هو نموذج Alibaba المتخصص في الاستدلال، وليس نموذج محادثة عام، ومن المهم فهم هذا التأطير قبل أن تنزّل أي شيء. إنه نموذج كثيف (dense) بحجم 32.8B معامل، يفكّر بصوت مرتفع عبر سلاسل طويلة من الخطوات قبل أن يجيب، ما يجعله قوياً في الرياضيات والمسائل متعددة الخطوات لكنه بطيء ومُسهب في الأسئلة السريعة. عند تكميم 4-bit يبلغ حجمه نحو 19.9 GB، لذا فإن بطاقة RTX 3060 بسعة 12 GB ببساطة لن تستوعبه. واقعياً تحتاج إلى 32 GB من ذاكرة النظام أو الذاكرة الموحّدة لتشغيله أصلاً، ما يضعه في فئة محطات العمل أو بطاقات GPU بسعة 24 GB أو شرائح Apple Silicon الراقية، لا بطاقة ألعاب اعتيادية.

في الاستخدام اليومي يبدو متأنياً أكثر منه سريعاً. على بطاقة RTX 4090 يمكنك توقع نحو 43 tok/s عند 4-bit، وهو رقم يبدو جيداً حتى تتذكر أن هذا النموذج يُنفق معظم هذه الرموز على الاستدلال قبل أن يصل إلى إجابة، لذا قد يستغرق طلب صعب واحد وقتاً طويلاً. على شريحة Apple M Max ينخفض المعدل إلى نحو 18 tok/s، وعلى معالج CPU بذاكرة DDR5 يزحف قرب 3 tok/s. سياق 128K حقيقي فعلاً، لكن دفعه إلى أقصى حدّ يرفع إجمالي الذاكرة إلى نحو 51.6 GB، أي أبعد بكثير من أرضية 32 GB، لذا أبقِ سياق العمل متواضعاً ما لم يكن لديك متّسع كافٍ من الذاكرة.

بالمقارنة مع DeepSeek R1 32B، النموذج الكثيف الآخر بحجم 32B المتخصص في الاستدلال هنا، يتقارب الاثنان في البصمة والغرض، وأيّهما يتفوّق يعتمد عادةً على المهمة المحددة لا على تفوّق شامل واضح، لذا يستحق الأمر تجربة كليهما. إذا كان لديك بضعة غيغابايتات فقط، فإن نماذج المحادثة الصغيرة Qwen 3 0.6B أو 1.7B أداة مختلفة تماماً، جيدة للردود السريعة لكنها ليست للاستدلال العميق الذي بُني QwQ من أجله. الميزة البارزة في QwQ أنه يقدّم استدلالاً متدرّجاً خطوة بخطوة بمستوى الطليعة (frontier) بحجم يمكنك استضافته بنفسك، وكونه بترخيص Apache 2.0 فهو مجاني للاستخدام التجاري دون أي قيود ترخيص.