← Tüm modellerMODEL TESTİ

OLMo 2 13B çalıştırabilir miyim?

Ai2 imzalı OLMo 2 13B, önerilen 4-bit nicemlemede yaklaşık 12 GB RAM ister (8.3 GB indirme). Donanımın aşağıda anında test ediliyor — hiçbir şey tarayıcından çıkmaz.

Donanım sinyallerin okunuyor…

Teknik özellikler

Parametre13.7B
Bağlam penceresi4K token
SağlayıcıAi2
LisansApache 2.0
Çıkış2024-11
En iyi olduğu alanSohbet

Nicemlemeye göre boyut

NicemlemeBit/ağırlıkİndirmeMin RAMKalite
Q2_K3.355.7 GB12 GBBelirgin kayıp
Q4_K_MÖnerilen4.858.3 GB12 GBÖnerilen
Q5_K_M5.659.7 GB16 GBYüksek
Q8_08.514.6 GB24 GBOrijinale yakın
F161627.4 GB48 GBOrijinal

Boyutlar parametre sayısı × ağırlık başına bit üzerinden tahmindir; gerçek GGUF sürümleri biraz farklı olabilir.

Yerel çalıştır

En kolay yol Ollama — tek komutla sohbete başla:

ollama run olmo2:13b

Sık sorulan sorular

OLMo 2 13B Sistem Gereksinimleri — Yerel Çalıştırabilir miyim?