هل يستطيع NVIDIA RTX 4060 تشغيل Llama 3.1 8B؟

نعم — نسخة 4 بت تنزيل بحجم 4.9 GB وتتسع في 8 GB من VRAM. توقّع نحو ~48 tok/s.

ما أكبر نموذج LLM يستطيع NVIDIA RTX 4060 تشغيله؟

Gemma 3 12B هو أكبر نموذج في كتالوجنا يتسع فيه (7.4 GB بدقة 4 بت). توقّع نحو ~31 tok/s.

ما مدى سرعة NVIDIA RTX 4060 في تشغيل نماذج LLM المحلية؟

توليد الرموز محكوم بعرض نطاق الذاكرة. عند نحو 272 GB/s، يولّد NVIDIA RTX 4060 نحو ~48 tok/s على نموذج من فئة 8B بدقة 4 بت — والسرعة تتناسب عكسياً مع حجم النموذج.

هل يجب أن يتسع النموذج كاملاً في VRAM؟

للحصول على سرعة GPU الكاملة، نعم. بيئات تشغيل مثل llama.cpp تستطيع توزيع الطبقات بين VRAM وذاكرة النظام، لكن كل طبقة تنتقل إلى RAM تبطئ التوليد بشكل حاد.

← جميع النماذجفحص الجهاز

ما نماذج LLM التي يستطيع NVIDIA RTX 4060 تشغيلها؟

يمتلك NVIDIA RTX 4060 ذاكرة 8 GB من VRAM ونحو 272 GB/s من عرض نطاق الذاكرة. أدناه كل نموذج في كتالوجنا يتسع فيه، مع سرعة التوليد التقديرية. أكبر خيار: Gemma 3 12B بسرعة ~31 tok/s تقريباً.

المواصفات

الذاكرة8 GB من VRAM

عرض النطاق~272 GB/s

نوع الذاكرةVRAM مخصصة

تاريخ الإصدار2023-06

النماذج على NVIDIA RTX 4060

32 / 73 من النماذج

النموذج	حجم التنزيل (Q4)	يتسع؟	السرعة التقريبية
Gemma 3 12BGoogle	7.4 GB	يعمل	~31 tok/s
Mistral Nemo 12BMistral AI	7.4 GB	يعمل	~31 tok/s
Gemma 4 12BGoogle	7.3 GB	يعمل	~32 tok/s
Mellum 2 12B-A2.5BJetBrains	7.3 GB	يعمل	~153 tok/s
Qwen 3.5 9BAlibaba	5.5 GB	يعمل	~42 tok/s
GLM-4.6V-FlashZ.ai	5.5 GB	يعمل	~42 tok/s
Qwen 2.5 VL 7BAlibaba	5.0 GB	يعمل	~46 tok/s
Qwen 3 8BAlibaba	5.0 GB	يعمل	~47 tok/s
Granite 3.3 8BIBM	5.0 GB	يعمل	~47 tok/s
Llama 3.1 8BMeta	4.9 GB	يعمل	~48 tok/s
DeepSeek R1 8BDeepSeek	4.9 GB	يعمل	~48 tok/s
Gemma 4 E4BGoogle	4.9 GB	يعمل	~85 tok/s
Qwen3-VL 8BAlibaba	4.9 GB	يعمل	~48 tok/s
Ministral 3 8BMistral AI	4.9 GB	يعمل	~48 tok/s
Gemma 3n E4BGoogle	4.7 GB	يعمل	~95 tok/s
Qwen 2.5 Coder 7BAlibaba	4.6 GB	يعمل	~50 tok/s
DeepSeek R1 7BDeepSeek	4.6 GB	يعمل	~50 tok/s
Mistral 7BMistral AI	4.4 GB	يعمل	~53 tok/s
Gemma 4 E2BGoogle	3.1 GB	يعمل	~166 tok/s
Gemma 3 4BGoogle	2.6 GB	يعمل	~89 tok/s
Qwen 3 4BAlibaba	2.4 GB	يعمل	~95 tok/s
Qwen 3.5 4BAlibaba	2.4 GB	يعمل	~95 tok/s
Phi-4 Mini 3.8BMicrosoft	2.3 GB	يعمل	~100 tok/s
Llama 3.2 3BMeta	1.9 GB	يعمل	~119 tok/s
DeepSeek-OCRDeepSeek	1.8 GB	يعمل	~669 tok/s
Ministral 3 3BMistral AI	1.8 GB	يعمل	~127 tok/s
DeepSeek R1 1.5BDeepSeek	1.1 GB	يعمل	~212 tok/s
Qwen 3 1.7BAlibaba	1.0 GB	يعمل	~224 tok/s
SmolLM2 1.7BHugging Face	1.0 GB	يعمل	~224 tok/s
Llama 3.2 1BMeta	0.7 GB	يعمل	~318 tok/s
Gemma 3 1BGoogle	0.6 GB	يعمل	~381 tok/s
Qwen 3 0.6BAlibaba	0.4 GB	يعمل	~636 tok/s

ليعمل النموذج بالكامل على GPU، يجب أن تتسع نسخة 4 بت في VRAM. النماذج التي لا تتسع يمكنها مع ذلك العمل على CPU + ذاكرة النظام، لكن أبطأ بعدة مرات. · آخر تحديث للبيانات: 2026-06-11 · كيف نحسب هذه الأرقام →