هل يمكنني تشغيل Gemma 4 31B؟

Gemma 4 31B هو نموذج Google متوسط-كبير مفتوح الأوزان بحجم 30.7B معامل، مبني للدردشة والبرمجة والاستدلال والرؤية في حزمة واحدة. هذا ليس نموذجًا تشغّله على حاسوب محمول وتمضي؛ فبكمّنة 4-bit يزن نحو 18.6 GB، وتحتاج إلى 32 GB من RAM على الأقل لمجرد تحميله، ولهذا فإن بطاقة بسعة 12 GB مثل RTX 3060 لا تتسع له ببساطة. موطنه الواقعي هو بطاقة GPU بسعة 24 GB مثل RTX 4090، أو حاسوب Apple Silicon Mac بذاكرة موحّدة وفيرة. إن أردت نموذجًا شاملاً قادرًا وتملك العتاد المناسب، فهذه هي الفئة التي تبدأ عندها النماذج المحلية في الشعور بأنها مفيدة فعلاً.

في الاستخدام اليومي يكون مريحًا أكثر منه خاطفًا. على RTX 4090 يمكنك توقّع نحو 46 tok/s عند 4-bit، وهي سرعة كافية لتقرأ معه أثناء بثّ النص؛ وعلى Apple M Max يستقر أقرب إلى 19 tok/s، وهو ما يظل جيدًا للعمل التفاعلي. أما على CPU وحده فوق DDR5 فينخفض إلى نحو 3 tok/s، وهي منطقة لا تصلح إلا لمن يملك صبرًا. نافذة السياق 256K سخيّة لكنها مكلفة: مجرد الاقتراب من 128K يستهلك بالفعل نحو 49.3 GB من إجمالي الذاكرة، لذا عامِل النافذة الكاملة كسقف واحرص على إبقاء سياق العمل متواضعًا ما لم يكن لديك فائض يتسع لذلك.

أمام Qwen 3 30B-A3B، وهو شقيق شبه مطابق بحجم 30.5B، تكون المقايضة معمارية: تصميم mixture-of-experts في Qwen يميل إلى استهلاك أخفّ لكل توكن، بينما Gemma 4 31B نموذج كثيف (dense) يستخدم كامل وزنه في كل تمريرة ويبدو عمومًا أكثر ثباتًا في الرؤية واتّباع التعليمات الواسعة. وإن أردت شيئًا أصغر بكثير، فإن Gemma 3 4B هو الخيار الأخفّ. الميزة البارزة هنا هي الشمول: نموذج واحد يغطّي الدردشة والبرمجة والاستدلال والصور، وذلك تحت رخصة Apache 2.0 نظيفة يمكنك استخدامها تجاريًا وفي الإنتاج دون قيود خاصة بمزوّد معيّن.