هل يمكنني تشغيل SmolLM2 1.7B؟

نموذج SmolLM2 1.7B مخصص للحالات التي يكون فيها Llama 8B مبالغًا فيه: نموذج محادثة صغير حقًا يمكنك تشغيله في أي مكان تقريبًا. بصيغة 4-bit يبلغ حجمه نحو 1 GB، ولا تحتاج سوى حوالي 3 GB من الذاكرة لتحميله مع مساحة عمل كافية، لذا يعمل على جهاز M1 Mac الأساسي، أو حاسوب محمول اقتصادي، أو لوحة من فئة Raspberry Pi، أو أي هاتف حديث به مساحة فائضة. وهو مرخّص بموجب Apache 2.0، ما يعني أنه يمكنك استخدامه تجاريًا وفي بيئة الإنتاج دون أي قيود من المزوّد. اعتبره النموذج الذي تُضمّنه في تطبيقاتك، لا النموذج الذي تجلس لتحادثه طوال اليوم.

في الاستخدام اليومي، يبرز معدل الإنتاجية الخام. على بطاقة RTX 3060 يعمل بسرعة تقارب 297 tok/s، ويصل على M Max إلى نحو 338، ويبلغ على 4090 حوالي 831، أي أسرع بكثير من قدرتك على القراءة. وحتى على معالج DDR5 عادي دون أي بطاقة رسومية، يحقق نحو 49 tok/s، وهو معدل صالح تمامًا للردود القصيرة. الحدّ الحقيقي هو نافذة السياق البالغة 8K. وهي صغيرة بمقاييس اليوم، لذا فهي مناسبة للأسئلة المفردة والتصنيف والملخصات القصيرة، لكنها لن تستوعب مستندًا طويلًا. أما الذاكرة فليست مشكلة هنا: حتى ملء كامل الـ 8K لا يتجاوز إجمالاً نحو 1.5 GB.

كن صادقًا حول ما يمنحه لك حجم 1.7B. فهو يتعامل مع المحادثة الخفيفة والتنسيق واتباع التعليمات البسيطة، لكنه يقصّر في الاستدلال متعدد الخطوات ومهام البرمجة الأطول. وعادةً ما يتفوّق عليه Qwen 3 1.7B في المطالبات الأصعب والمنظّمة، بينما يميل DeepSeek R1 1.5B إلى الأداء الأفضل حين تحتاج فعلًا إلى استدلال بسلسلة تفكير بدل الإجابات السريعة. وفي مقابل Llama 3.2 1B، يضحّي بقليل من الوزن الإضافي مقابل مخرجات أكثر ثباتًا. وأبرز ما يميّزه هو الكفاءة: مساعد مفتوح بالكامل وقابل للاستخدام تجاريًا يعمل بسرعة على عتاد لن يلمسه أي نموذج آخر بهذه القدرة. اختره حين تكون البصمة الصغيرة أهم من العمق.