هل يمكنني تشغيل Qwen 3.5 27B؟

Qwen 3.5 27B هو النموذج الذي تلجأ إليه عندما يبدو نموذج بحجم 8B ضعيفًا جدًا ويتوفر لديك عتاد حقيقي تستثمره. إنه نموذج كثيف بحجم 27B يتعامل مع المحادثة والاستدلال والبرمجة والرؤية، لذا يعمل كحصان شغل محلي متعدد المهام بدلًا من مساعد ذي وظيفة واحدة. العقبة هي البصمة على الذاكرة: عند تكميم 4-bit يصل حجمه إلى نحو 16.4 GB، وتحتاج إلى 24 GB من RAM على الأقل لتحميله بسلاسة. هذا يستبعد بطاقة بسعة 12 GB مثل RTX 3060، حيث لا يتسع ببساطة، ويوجهك نحو معالج رسوميات بسعة 24 GB أو جهاز Mac بمعالج Apple Silicon يتمتع بذاكرة موحّدة وفيرة.

على بطاقة RTX 4090 يمكنك توقّع نحو 52 tok/s عند 4-bit، وهي سرعة تتدفق أسرع من قراءتك وتبقى مريحة للعمل التفاعلي. على معالج M-series Max تستقر عند نحو 21 tok/s، وهي لا تزال جيدة للمحادثة والبرمجة لكنها أبطأ في التوليدات الطويلة؛ أما المعالجة على CPU وحده بذاكرة DDR5 فتنخفض إلى نحو 3 tok/s، وهي منطقة تتطلب صبرًا. سياق 256K هو الرقم البارز، لكن تعامل معه كسقف: عند 128K يرتفع إجمالي الذاكرة إلى نحو 45.4 GB، لذا على بطاقة بسعة 24 GB أبقِ سياق العمل أقل بكثير من الحد الأقصى.

المقارنة الطبيعية هي مع Gemma 3 27B، النموذج الآخر مفتوح الأوزان بحجم 27B والمزوّد بالرؤية في هذه الفئة. تميل Gemma إلى أن تكون الخيار الأكثر أمانًا إذا كان همّك الأساسي محادثة مصقولة وفهمًا للصور، بينما يميل Qwen 3.5 27B عمومًا إلى التفوّق في البرمجة والاستدلال المنظّم، وهنا تكمن قيمته المميزة للمطوّرين. المكسب العملي الأكبر هو الترخيص: يصدر تحت Apache 2.0، فيمكنك استخدامه تجاريًا وفي الإنتاج دون قيود خاصة بمزوّد معيّن، على عكس شروط الأوزان المفتوحة التي تأتي مع Gemma.