هل يمكنني تشغيل Qwen 2.5 VL 7B؟

نموذج Qwen 2.5 VL 7B هو نموذج الرؤية واللغة من Alibaba، وهذه هي النقطة الجوهرية: فإلى جانب المحادثة يقرأ الصور ولقطات الشاشة والرسوم البيانية والمستندات، لذا فهو الخيار الأنسب عندما يتضمن طلبك صورة وليس نصًا فقط. وبحجم 8.3B معاملًا يبقى مدمجًا. تأتي صيغة 4-bit المكمّمة بنحو 5 GB، وهو ما يتسع على بطاقة رسومات سعتها 8 GB ويستقر بسهولة ضمن الذاكرة الموحّدة على أي جهاز Mac بمعالج Apple Silicon. والحد الأدنى البالغ 8 GB من الذاكرة واقعي للأوزان، رغم أن مهام الرؤية والسياق الأطول ترفع هذا الرقم عمليًا.

في الاستخدام اليومي يبدو سريعًا بالنسبة لفئته. على بطاقة RTX 3060 12GB يمكنك توقع نحو 61 tok/s عند 4-bit، وترفع بطاقة RTX 4090 هذا الرقم إلى حوالي 170، وهي سرعة كافية لتدفّق الردود أسرع من سرعة القراءة. ويستقر معالج M-series Max قرب 69 tok/s، بينما يتباطأ التشغيل على المعالج وحده مع ذاكرة DDR5 إلى نحو 10 فقط. أما سياق 128K فهو حقيقي، لكنه سقف وليس ارتفاع تحليق مريح: فملؤه يرفع إجمالي الذاكرة إلى نحو 22 GB، أي ما يتجاوز بكثير بطاقة سعتها 8 GB، لذا أبقِ سياق العمل معتدلًا ما لم تكن لديك سعة فائضة.

للمحادثة النصية البحتة، يميل نموذج نصي متخصص مثل Granite 3.3 8B بحجم مماثل إلى أن يكون خيارًا أنظف، لأنه مصمَّم لذلك ويتفادى عبء الرؤية. أما الميزة البارزة في Qwen 2.5 VL 7B فهي بالضبط أن هذا العبء يؤتي ثماره: فهمٌ أصيل للصور في نموذج صغير بما يكفي لاستضافته ذاتيًا، وهو ما لا يستطيع بلوغه النموذجان الصغيران Qwen 3 0.6B و1.7B. ويصدر برخصة Apache 2.0، فيمكنك استخدامه تجاريًا وفي بيئة الإنتاج دون قلق بشأن الترخيص، وهو أمر نادر في أوزان متعددة الوسائط بهذه الكفاءة.