هل يمكنني تشغيل Llama 3.2 1B؟

Llama 3.2 1B هو النموذج الذي تلجأ إليه عندما تريد شيئًا محليًا يعمل على أي جهاز تقريبًا. فبحجم 1.2B معاملًا يُعد صغيرًا جدًا، ويصل تكميمه إلى 4-bit إلى نحو 0.7 GB، ما يعني أنه يتسع في ذاكرة جهاز بمستوى الهاتف، ولا يُثقل جهازًا لوحيًا أو حاسوبًا محمولًا منخفض الفئة، ويحتاج إلى نحو 3 GB من RAM فقط ليعمل بأريحية. إنه النموذج المناسب للدردشة على الجهاز، والصياغة البسيطة، والمساعدين المضمَّنين حيث يهم كل غيغابايت ولا يمكنك افتراض وجود GPU أصلًا.

في الاستخدام اليومي يكون العنوان الأبرز هو السرعة الخام. على بطاقة RTX 3060 سترى نحو 421 tok/s، وحتى المعالج على ذاكرة DDR5 يجاري ذلك عند حوالي 70 tok/s، وهي سرعة كافية لتبدو فورية في الردود القصيرة. أما نافذة السياق 128K فهي المأزق: موجودة تقنيًا، لكن ملأها يدفع إجمالي الذاكرة نحو 7.8 GB، ما يلغي الغرض كله من نموذج بهذه الخفة. أبقِ سياق العمل عند بضعة آلاف من الرموز ويظل خفيف الوزن الذي جئت من أجله.

كن صادقًا بشأن السقف: عند هذا الحجم يتعامل جيدًا مع دردشة قصيرة ومحدّدة المجال، لكنه يفقد الخيط في الاستدلال متعدد الخطوات، والتعليمات الأطول، وأي شيء يشبه البرمجة. إن توفّر لديك هامش، فإن Llama 3.2 3B يتبع المطالبات المعقّدة على نحو أفضل عادةً، وGemma 3 1B هو البديل الطبيعي للمقارنة ضمن فئة الوزن نفسها. أبرز ما يميّز نسخة 1B هو اتساع المدى وحده، فهو يعمل حيث تعجز النماذج الأكبر ببساطة. تنبيه واحد بخصوص الترخيص: يأتي بموجب Llama Community license، وهو مفتوح الأوزان لكنه يحمل شروط Meta الخاصة، لذا راجعها قبل شحنه في منتج.