← Tüm modellerMODEL TESTİ

Llama 3.2 1B çalıştırabilir miyim?

Meta imzalı Llama 3.2 1B, önerilen 4-bit nicemlemede yaklaşık 3 GB RAM ister (0.7 GB indirme). Donanımın aşağıda anında test ediliyor — hiçbir şey tarayıcından çıkmaz.

Donanım sinyallerin okunuyor…

Teknik özellikler

Parametre1.2B
Bağlam penceresi128K token
SağlayıcıMeta
LisansLlama Community
Çıkış2024-09
En iyi olduğu alanSohbet

Nicemlemeye göre boyut

NicemlemeBit/ağırlıkİndirmeMin RAMKalite
Q2_K3.350.5 GB3 GBBelirgin kayıp
Q4_K_MÖnerilen4.850.7 GB3 GBÖnerilen
Q5_K_M5.650.8 GB3 GBYüksek
Q8_08.51.3 GB4 GBOrijinale yakın
F16162.4 GB6 GBOrijinal

Boyutlar parametre sayısı × ağırlık başına bit üzerinden tahmindir; gerçek GGUF sürümleri biraz farklı olabilir.

Yerel çalıştır

En kolay yol Ollama — tek komutla sohbete başla:

ollama run llama3.2:1b

Sık sorulan sorular