← Alle ModelleMODELL-CHECK
Kann ich Qwen 2.5 Coder 7B lokal ausführen?
Qwen 2.5 Coder 7B von Alibaba benötigt bei der empfohlenen 4-Bit-Quantisierung rund 8 GB RAM (4.6 GB Download). Ihre Hardware wird unten geprüft — sofort, und nichts verlässt Ihren Browser.
Hardware-Signale werden ausgelesen…
Technische Daten
Parameter7.6B
Kontextfenster128K Token
AnbieterAlibaba
LizenzApache 2.0
Veröffentlicht2024-11
Am besten fürProgrammieren
Größe nach Quantisierung
| Quantisierung | Bits/Gewicht | Download | Min. RAM | Qualität |
|---|---|---|---|---|
| Q2_K | 3.35 | 3.2 GB | 6 GB | Spürbarer Verlust |
| Q4_K_MEmpfohlen | 4.85 | 4.6 GB | 8 GB | Empfohlen |
| Q5_K_M | 5.65 | 5.4 GB | 12 GB | Hoch |
| Q8_0 | 8.5 | 8.1 GB | 12 GB | Nahezu Original |
| F16 | 16 | 15.2 GB | 24 GB | Original |
Die Größen sind Schätzungen aus Parameterzahl × Bits pro Gewicht; echte GGUF-Builds weichen leicht ab.
Lokal ausführen
Der einfachste Weg ist Ollama — ein Befehl und Sie chatten:
ollama run qwen2.5-coderQuellen & Downloads
Ollama Library
Laden und starten Sie das Modell mit einem einzigen Befehl.
ollama.comHugging Face
Modellgewichte, Dateien und Lizenzdetails.
huggingface.coOffizielles GitHub-Repository
Quellcode, Releases und Issues von Alibaba.
github.comAlibaba — offizielle Seite
Offizielle Seite und Dokumentation von Alibaba.
qwen.ai