← Tüm modellerMODEL TESTİ

Mistral Small 3.1 24B çalıştırabilir miyim?

Mistral AI imzalı Mistral Small 3.1 24B, önerilen 4-bit nicemlemede yaklaşık 24 GB RAM ister (14.6 GB indirme). Donanımın aşağıda anında test ediliyor — hiçbir şey tarayıcından çıkmaz.

Donanım sinyallerin okunuyor…

Teknik özellikler

Parametre24B
Bağlam penceresi128K token
SağlayıcıMistral AI
LisansApache 2.0
Çıkış2025-03
En iyi olduğu alanSohbet, Görüntü

Nicemlemeye göre boyut

NicemlemeBit/ağırlıkİndirmeMin RAMKalite
Q2_K3.3510.1 GB16 GBBelirgin kayıp
Q4_K_MÖnerilen4.8514.6 GB24 GBÖnerilen
Q5_K_M5.6517.0 GB24 GBYüksek
Q8_08.525.5 GB48 GBOrijinale yakın
F161648.0 GB64 GBOrijinal

Boyutlar parametre sayısı × ağırlık başına bit üzerinden tahmindir; gerçek GGUF sürümleri biraz farklı olabilir.

Yerel çalıştır

En kolay yol Ollama — tek komutla sohbete başla:

ollama run mistral-small3.1

Sık sorulan sorular

Mistral Small 3.1 24B Sistem Gereksinimleri — Yerel Çalıştırabilir miyim?