← Tous les modèlesTEST DU MODÈLE

Puis-je faire tourner Llama 3.1 8B ?

Llama 3.1 8B de Meta demande environ 8 GB de RAM avec la quantisation 4 bits recommandée (4.9 GB à télécharger). Votre matériel est vérifié ci-dessous — instantanément, rien ne quitte votre navigateur.

Lecture des signaux matériels…

Caractéristiques

Paramètres8B
Fenêtre de contexte128K tokens
ÉditeurMeta
LicenceLlama Community
Sortie2024-07
Idéal pourChat

Taille selon la quantisation

QuantisationBits/poidsTéléchargementRAM min.Qualité
Q2_K3.353.4 GB6 GBPerte sensible
Q4_K_MRecommandée4.854.9 GB8 GBRecommandée
Q5_K_M5.655.7 GB12 GBÉlevée
Q8_08.58.5 GB16 GBQuasi originale
F161616.0 GB24 GBOriginale

Les tailles sont estimées à partir du nombre de paramètres × bits par poids ; les builds GGUF réels varient légèrement.

Le faire tourner en local

Le chemin le plus simple est Ollama — une commande et vous discutez :

ollama run llama3.1

Questions fréquentes