هل يمكنني تشغيل Qwen 3 4B؟

Qwen 3 4B هو النموذج الذي تلجأ إليه حين تريد استدلالًا حقيقيًا من شيء صغير الحجم. عند تكميم 4-bit يبلغ حجمه نحو 2.4 GB، فيتسلل إلى أي جهاز تقريبًا: بطاقة GPU بسعة 6 GB تتركه مع فسحة، وأي جهاز Mac بمعالج Apple Silicon يبتلعه كاملًا، وحتى حاسوب محمول قديم ببطاقة مدمجة يستطيع تشغيله. الحد الأدنى الذي تريده لاستخدام مريح هو نحو 6 GB من RAM. إن كنت تعمل على جهاز يعتمد على CPU فقط أو على جهاز من فئة Raspberry، فهذا من النماذج القليلة التي تبقى مفيدة فعليًا عند هذا الحجم بدلًا من أن تكون قابلة للتحميل تقنيًا فحسب.

في الاستخدام اليومي يبدو سريعًا. على بطاقة RTX 3060 يصل إلى نحو 126 توكنًا في الثانية عند 4-bit، ويبلغ معالج M-series Max قرابة 144، وكلاهما يتجاوز سرعة القراءة بكثير، فتتدفق الردود فوريًا في المحادثة وسلاسل الاستدلال القصيرة. وبطاقة 4090 تبلغ نحو 353 إن توافرت لديك. أما الاعتماد على CPU وحده مع ذاكرة DDR5 فيهبط إلى نحو 21 توكنًا في الثانية، وهو بطيء لكنه صالح للمهام الخلفية. نافذة السياق هي 32K، وهي وافية لمعظم الأعمال، لكن ملأها يرفع إجمالي الذاكرة إلى نحو 5.5 GB، لذا أبقِ سياق العمل متواضعًا على جهاز ضيق بسعة 6 GB.

ضمن عائلته نفسها، يمثل Qwen 3 4B الترقية البديهية عن Qwen 3 1.7B حين يبدأ النموذج الأصغر بالتعثر في المطالبات متعددة الخطوات، مع بقائه أخف بكثير من فئة 7-8B. ويُعد Phi-4 Mini 3.8B بديلًا معقولًا بحجم مماثل، وعادةً ما يتبادل معه الأفضلية في المحادثة، لكن السمة البارزة في Qwen 3 4B هي تفوقه على ما يوحي به عدد معاملاته في مهام الاستدلال مقابل تكلفة تشغيل زهيدة. ويأتي مرخّصًا بموجب Apache 2.0، فيمكنك استخدامه تجاريًا وفي الإنتاج دون قلق بشأن الترخيص، وهو أمر نادر عند هذه النسبة بين الجودة والحجم.