← Tüm modellerMODEL TESTİ

Mistral 7B çalıştırabilir miyim?

Mistral AI imzalı Mistral 7B, önerilen 4-bit nicemlemede yaklaşık 8 GB RAM ister (4.4 GB indirme). Donanımın aşağıda anında test ediliyor — hiçbir şey tarayıcından çıkmaz.

Donanım sinyallerin okunuyor…

Teknik özellikler

Parametre7.2B
Bağlam penceresi32K token
SağlayıcıMistral AI
LisansApache 2.0
Çıkış2023-09
En iyi olduğu alanSohbet

Nicemlemeye göre boyut

NicemlemeBit/ağırlıkİndirmeMin RAMKalite
Q2_K3.353.0 GB6 GBBelirgin kayıp
Q4_K_MÖnerilen4.854.4 GB8 GBÖnerilen
Q5_K_M5.655.1 GB8 GBYüksek
Q8_08.57.7 GB12 GBOrijinale yakın
F161614.4 GB24 GBOrijinal

Boyutlar parametre sayısı × ağırlık başına bit üzerinden tahmindir; gerçek GGUF sürümleri biraz farklı olabilir.

Yerel çalıştır

En kolay yol Ollama — tek komutla sohbete başla:

ollama run mistral

Sık sorulan sorular

Mistral 7B Sistem Gereksinimleri — Yerel Çalıştırabilir miyim?