هل يمكنني تشغيل Qwen 3 8B؟

Qwen 3 8B هو النموذج الذي تلجأ إليه حين تريد مساعدًا محليًا يستطيع أن يفكّر فعلًا قليلًا، لا أن يدردش فحسب. بدقة 4-bit يأتي بحجم نحو 5 GB، لذا يتسع داخل بطاقة رسومات سعتها 8 GB، كما أن حد الـ RAM الأدنى البالغ 8 GB يعني أن جهاز Apple Silicon Mac أساسيًا أو حاسوبًا مكتبيًا متواضعًا قادر على تشغيله دون عناء. أبرز ميزاته هي وضع التفكير الهجين: يمكنه إنفاق رموز (tokens) إضافية في الاستدلال خطوة بخطوة قبل الإجابة، وهذا تحديدًا سبب تفضيل الناس له على نماذج الدردشة العادية في فئة 8B نفسها.

في الاستخدام اليومي يبدو سريعًا. على بطاقة RTX 3060 12GB تحصل على نحو 62 tok/s، وعلى شريحة M-series Max قرابة 70 tok/s، بينما تدفعه RTX 4090 إلى نحو 172 tok/s، وكلها سريعة بما يكفي لتتجاوز الردود سرعة قراءتك. أما التشغيل على المعالج وحده مع ذاكرة DDR5 فينخفض إلى نحو 10 tok/s، وهو مقبول للمهام الدُّفعية لكنه غير ملائم للاستخدام التفاعلي. سياق الـ 128K حقيقي، لكن انتبه: ملؤه حتى النهاية يرفع إجمالي الذاكرة إلى نحو 22 GB، وهو ما يتجاوز بكثير ما تستوعبه بطاقة سعتها 8 GB، لذا أبقِ سياق العمل معتدلًا ما لم يكن لديك متسع، أو انزل إلى نسخة q2 بحجم 3.4 GB.

في مقابل Granite 3.3 8B، وهو نموذج مفتوح بحجم مماثل موجَّه أساسًا للدردشة، يتفوّق Qwen 3 8B عمومًا في الاستدلال متعدد الخطوات والرياضيات بفضل وضع التفكير لديه، بينما يميل Granite إلى الإحساس بطابع حواري أكثر. وأبرز ما يميّزه هو وجود مفتاح الاستدلال هذا في حزمة بهذا الصِّغر. أما الترخيص فهو الجزء السهل: ترخيص Apache 2.0 يعني أن بإمكانك استخدامه تجاريًا وفي بيئة الإنتاج دون أي شروط مقيِّدة خاصة بالمزوّد، وهو أمر أندر مما ينبغي عند هذا الحجم.