Question 1

Quel LLM faire tourner avec 8 GB de RAM ?

Accepted Answer

Avec 8 GB, vous pouvez faire tourner confortablement des modèles quantifiés en 4 bits jusqu'à environ 7–8B paramètres, comme Llama 3.1 8B ou DeepSeek R1 7B. Les modèles plus compacts comme Llama 3.2 3B ou Gemma 3 4B tournent encore plus vite et laissent de la place aux autres applications.

Question 2

Faut-il un GPU pour faire tourner un LLM en local ?

Accepted Answer

Non. Des outils comme Ollama, LM Studio et llama.cpp exécutent les modèles sur le CPU. Un GPU (ou la mémoire unifiée d'Apple Silicon) accélère nettement la génération, mais le vrai juge de paix, c'est la RAM : le modèle doit tenir en mémoire.

Question 3

Qu'est-ce que la quantification (Q4, Q8) ?

Accepted Answer

La quantification réduit la taille d'un modèle en stockant ses poids sur moins de bits. Le Q4 (4 bits) divise la taille par environ 4 par rapport aux poids 16 bits d'origine, avec une perte de qualité minime — c'est la méthode standard pour faire tourner des LLM sur du matériel grand public.

Question 4

Ce test est-il fiable ?

Accepted Answer

Les navigateurs plafonnent certains signaux pour protéger votre vie privée : la mémoire rapportée s'arrête à 8 GB et les noms de GPU sont génériques. Prenez le résultat comme une estimation solide, et indiquez votre RAM réelle pour un verdict précis. Tout s'exécute dans votre navigateur — aucune donnée n'est stockée.

Question 5

Quelles applications pour faire tourner des modèles en local ?

Accepted Answer

Les plus populaires sont Ollama, LM Studio, llama.cpp et Jan. Choisissez un modèle que ce test marque en vert, téléchargez sa version Q4, et vous discutez hors ligne en quelques minutes.

Quel LLM puis-je faire tourner ?

Questions fréquentes