هل يمكنني تشغيل Llama 4 Scout؟

Llama 4 Scout هو نموذج Meta القائم على مزيج الخبراء (mixture-of-experts)، والنقطة الأهم لفهمه هي الفجوة بين حجميه. يضم 109B معاملًا إجماليًا، لكنه يُفعّل 17B فقط منها لكل توكن، فيولّد بسرعة نموذج بحجم 17B بينما يظل يتطلب ذاكرة الـ 109B كاملة. بكمّنة 4-bit يبلغ حجمه نحو 66 GB على القرص، وتحتاج إلى 96 GB على الأقل من RAM أو الذاكرة الموحّدة لتحميله. هذا ليس نموذجًا يناسب كرت رسوميات استهلاكي بسعة 24 GB: فلا RTX 3060 ولا RTX 4090 يتسع له. واقعيًا، هو نموذج محطات عمل أو جهاز Apple Silicon بأقصى تجهيز.

على جهاز Apple M Max بذاكرة موحّدة كافية يعمل بنحو 34 tok/s بكمّنة 4-bit، وهي سرعة أعلى بمرونة من سرعة قراءتك وملائمة للدردشة التفاعلية ومهام الرؤية. على المعالج (CPU) مع ذاكرة DDR5 تهبط إلى نحو 5 tok/s، صالحة للعمل الدفعي لكنها مؤلمة في الأخذ والرد. سياق الـ context المُعلن ضخم، لكن انتبه: الدفع نحو 128K توكن يرفع إجمالي الذاكرة إلى نحو 120 GB، فالسياق الطويل قرار يتعلق بميزانية العتاد لا إعداد مجاني. أبقِ السياق العملي معتدلًا ما لم يكن لديك فائض في الموارد.

مقابل GPT-OSS 120B، النموذج الكبير الآخر في هذه الفئة، يبقى Scout الخيار متعدد الوسائط لأنه يتعامل مع الرؤية، بينما يتفوّق GPT-OSS عمومًا في الاستدلال الصرف. وبالمقارنة مع الإخوة الأصغر مثل Llama 3.2 3B، فإن Scout التزام مختلف تمامًا: تلك تعمل بحجم بصمة بمستوى الهاتف، أما هذا فيحتاج إلى خادم. ميزته البارزة أنه نموذج سريع فعلًا وقادر على معالجة الصور عند هذا الحجم. تنبيه واحد: يُطرح برخصة Llama Community، وهي مفتوحة الأوزان لا مفتوحة المصدر، لذا راجع الشروط قبل بناء أي شيء تجاري عليه.