← Tüm modellerMODEL TESTİ

SmolLM2 1.7B çalıştırabilir miyim?

Hugging Face imzalı SmolLM2 1.7B, önerilen 4-bit nicemlemede yaklaşık 3 GB RAM ister (1.0 GB indirme). Donanımın aşağıda anında test ediliyor — hiçbir şey tarayıcından çıkmaz.

Donanım sinyallerin okunuyor…

Teknik özellikler

Parametre1.7B
Bağlam penceresi8K token
SağlayıcıHugging Face
LisansApache 2.0
Çıkış2024-11
En iyi olduğu alanSohbet

Nicemlemeye göre boyut

NicemlemeBit/ağırlıkİndirmeMin RAMKalite
Q2_K3.350.7 GB3 GBBelirgin kayıp
Q4_K_MÖnerilen4.851.0 GB3 GBÖnerilen
Q5_K_M5.651.2 GB3 GBYüksek
Q8_08.51.8 GB4 GBOrijinale yakın
F16163.4 GB6 GBOrijinal

Boyutlar parametre sayısı × ağırlık başına bit üzerinden tahmindir; gerçek GGUF sürümleri biraz farklı olabilir.

Yerel çalıştır

En kolay yol Ollama — tek komutla sohbete başla:

ollama run smollm2

Sık sorulan sorular