← Tous les modèlesTEST DU MODÈLE
Puis-je faire tourner OLMo 2 13B ?
OLMo 2 13B de Ai2 demande environ 12 GB de RAM avec la quantisation 4 bits recommandée (8.3 GB à télécharger). Votre matériel est vérifié ci-dessous — instantanément, rien ne quitte votre navigateur.
Lecture des signaux matériels…
Caractéristiques
Paramètres13.7B
Fenêtre de contexte4K tokens
ÉditeurAi2
LicenceApache 2.0
Sortie2024-11
Idéal pourChat
Taille selon la quantisation
| Quantisation | Bits/poids | Téléchargement | RAM min. | Qualité |
|---|---|---|---|---|
| Q2_K | 3.35 | 5.7 GB | 12 GB | Perte sensible |
| Q4_K_MRecommandée | 4.85 | 8.3 GB | 12 GB | Recommandée |
| Q5_K_M | 5.65 | 9.7 GB | 16 GB | Élevée |
| Q8_0 | 8.5 | 14.6 GB | 24 GB | Quasi originale |
| F16 | 16 | 27.4 GB | 48 GB | Originale |
Les tailles sont estimées à partir du nombre de paramètres × bits par poids ; les builds GGUF réels varient légèrement.
Le faire tourner en local
Le chemin le plus simple est Ollama — une commande et vous discutez :
ollama run olmo2:13bSources et téléchargements