Kann ich DeepSeek R1 1.5B lokal ausführen?

DeepSeek R1 1.5B ist ein distilliertes Reasoning-Modell, und dieses Wort ist entscheidend: Es ist darauf abgestimmt, ein Problem laut durchzudenken, statt locker zu plaudern. Mit 1.8B Parametern ist es winzig. Eine 4-Bit-Quantisierung landet bei rund 1.1 GB, und selbst der 8-Bit-Build belegt nur 1.9 GB, sodass es bequem unter 3 GB Mindest-RAM passt. Das heißt, es läuft überall: auf einem alten Laptop, einem Board der Raspberry-Pi-Klasse, einem Handy oder als Hintergrund-Helfer, der deine GPU kaum berührt. Hol es dir mit ollama run deepseek-r1:1.5b und du legst in Sekunden los.

Im Alltag ist es wirklich flott. Auf einer RTX 3060 kannst du mit etwa 280 tok/s rechnen, eine 4090 schiebt es nahe an 785, und ein Apple M-Max liegt bei rund 319 tok/s, sodass die sichtbare Antwort eher davon abhängt, wie lange das Modell schlussfolgert, als von der reinen Geschwindigkeit. Selbst reine CPU auf DDR5 schafft grob 47 tok/s. Der Haken sind die 128K Kontext: Dieses Modell verbrennt Tokens für seine eigene Chain-of-Thought, und das Füllen dieses Fensters treibt den Gesamtspeicher auf etwa 9.7 GB, weit über den Leerlauf-Bedarf. Halte den Arbeitskontext schlank und lass es in kurzen Schüben denken.

Ehrlich gesagt ist das Reasoning bei dieser Größe bei allem Mehrschrittigen Glückssache; seine größeren Geschwister DeepSeek R1 7B und R1 8B sind weit verlässlicher, wenn die Antwort wirklich zählt, und Qwen 3 1.7B ist die bessere Wahl, wenn du vor allem normalen Chat statt sichtbarem Reasoning willst. Wo das 1.5B punktet, ist die Reichweite: Es ist der kleinste Weg, R1-typische Denkspuren lokal laufen zu sehen, und es schafft das auf Hardware, auf der nichts anderes läuft. Die MIT-Lizenz ist das Sahnehäubchen, vollständig offen und kostenlos auch kommerziell nutzbar, ohne Auflagen.