هل يمكنني تشغيل Gemma 4 E2B؟

Gemma 4 E2B هو نموذج Google الصغير القائم على مزيج الخبراء (mixture-of-experts)، والجزء المثير فيه هو الحساب: يحمل 5.1B معامل إجمالاً لكنه يُفعّل نحو 2.3B فقط لكل توكن. هذا يعني أنه يعمل بسرعة نموذج أصغر بكثير بينما لا يزال يحتاج ذاكرة تكفي للمجموعة كاملة. تبلغ نسخة الكمّنة 4-bit نحو 3.1 GB، وستحتاج تقريباً إلى 6 GB من RAM كحد أدنى لاستيعاب كامل الأوزان. هذا يتسع داخل بطاقة GPU مبتدئة بسعة 8 GB أو أي جهاز Mac بمعالج Apple Silicon مع مساحة فائضة، وهو يتعامل مع المحادثة والرؤية معاً، فيمكنك تغذيته بالصور لا بالنص وحده.

في الاستخدام اليومي تؤتي حيلة المعاملات المُفعَّلة ثمارها في الإنتاجية الخام. على بطاقة RTX 3060 12GB يدفع نحو 219 tok/s بدقة 4-bit، وترفع RTX 4090 هذا الرقم إلى ما بعد 600؛ بينما يستقر معالج M-series Max قرب 250. تتدفق الردود أسرع بكثير مما تقرأ. سياق 128K هو المأخذ الذي يجب الانتباه إليه: املأه فترتفع الذاكرة الكلية إلى نحو 16.8 GB، أي أبعد بكثير من 6 GB التي تحتاجها عند سياق قصير. على بطاقة صغيرة، أبقِ سياق العمل عند بضعة آلاف توكن وإلا فإن ذاكرة الـ KV cache ستتجاوز حجم النموذج نفسه.

أمام عائلته نفسها، يُعد Gemma 3 4B البديل الكثيف (dense) إن كنت تفضّل تجنب البصمة الذاكرية لبنية MoE، وعادةً ما يتفوق Qwen 3 4B في الاستدلال متعدد الخطوات لأن ذلك هو تركيزه المُعلن. ما يميز Gemma 4 E2B هو نسبة السرعة إلى القدرة إضافةً إلى الرؤية الأصلية ضمن حزمة بهذا الخفّة، وهو أمر نادر في هذا الحجم. رخصته Apache 2.0، لذا وعلى عكس شروط Gemma الأقدم من Google، يمكنك استخدامه تجارياً في الإنتاج دون رخصة خاصة عليك قراءتها. شغّله عبر ollama run gemma4:e2b وتكون جاهزاً.