Kann ich DeepSeek R1 32B lokal ausführen?

DeepSeek R1 32B ist ein Reasoning-Modell für alle, die Chain-of-Thought-Arbeit lieber lokal erledigen als schnell zu chatten. Mit 32.8B Parametern ist es kein nebenbei heruntergeladenes Modell: Ein 4-bit-Quant liegt bei rund 19.9 GB, und für komfortablen Betrieb solltest du mindestens 32 GB RAM einplanen. Auf eine 12-GB-Karte wie eine RTX 3060 passt es nicht, realistisch brauchst du also eine 24-GB-GPU, einen Apple-Silicon-Mac mit viel Speicher oder eine Workstation mit reichlich Systemspeicher. Hast du diese Hardware, ist es einer der besseren Open-Weight-Reasoner zum Selbsthosten.

Im Alltag denkt es vor der Antwort laut mit – genau das ist der Sinn, aber auch der Preis: Jede Antwort verbraucht Tokens fürs Reasoning, also zählt die reine Geschwindigkeit. Auf einer RTX 4090 sind bei 4-bit etwa ~43 tok/s drin, schnell genug, dass der sichtbare Reasoning-Stream lesbar bleibt; auf einem Apple M Max fällt das auf rund ~18 tok/s, und auf einer CPU mit DDR5 kriecht es bei etwa ~3 tok/s dahin – brauchbar für Batch-Jobs, aber nicht interaktiv. Die 128K Kontext sind großzügig, sie zu füllen ist hier aber teuer: Beim vollen Fenster steigt der Gesamtspeicher auf rund 51.6 GB, plane also eine dicke Maschine ein oder halte den Kontext bescheiden.

Gegenüber Qwen 3 32B, das gleich groß ist und ebenfalls Reasoning beherrscht, neigt DeepSeek R1 32B stärker zur expliziten Schritt-für-Schritt-Abwägung, während sich Qwen 3 32B bei gemischter Chat-plus-Reasoning-Arbeit meist ausgewogener anfühlt. Die Paradedisziplin von R1 32B ist genau diese sichtbare Reasoning-Spur: Bei Mathematik, Logik und mehrstufigen Problemen, bei denen du die Arbeitsweise des Modells sehen und prüfen willst, ist es in dieser Größe kaum zu schlagen. Es kommt unter der MIT-Lizenz, du kannst es also kommerziell und in Produktion einsetzen – ohne die anbieterspezifischen Bedingungen, die bei manchen Open-Weight-Familien mitkommen.