← Alle ModelleMODELL-CHECK

Kann ich Llama 3.2 3B lokal ausführen?

Llama 3.2 3B von Meta benötigt bei der empfohlenen 4-Bit-Quantisierung rund 4 GB RAM (1.9 GB Download). Ihre Hardware wird unten geprüft — sofort, und nichts verlässt Ihren Browser.

Hardware-Signale werden ausgelesen…

Technische Daten

Parameter3.2B
Kontextfenster128K Token
AnbieterMeta
LizenzLlama Community
Veröffentlicht2024-09
Am besten fürChat

Größe nach Quantisierung

QuantisierungBits/GewichtDownloadMin. RAMQualität
Q2_K3.351.3 GB4 GBSpürbarer Verlust
Q4_K_MEmpfohlen4.851.9 GB4 GBEmpfohlen
Q5_K_M5.652.3 GB6 GBHoch
Q8_08.53.4 GB6 GBNahezu Original
F16166.4 GB12 GBOriginal

Die Größen sind Schätzungen aus Parameterzahl × Bits pro Gewicht; echte GGUF-Builds weichen leicht ab.

Lokal ausführen

Der einfachste Weg ist Ollama — ein Befehl und Sie chatten:

ollama run llama3.2

Häufig gestellte Fragen