DeepSeek R1 1.5B çalıştırabilir miyim?

DeepSeek R1 1.5B damıtılmış (distilled) bir akıl yürütme modeli ve bu kelime önemli: laf olsun diye sohbet etmek yerine bir problemi adım adım, sesli düşünerek çözmeye ayarlanmış. 1.8B parametreyle minicik. 4-bit quant yaklaşık 1.1 GB'a oturuyor, 8-bit sürüm bile sadece 1.9 GB; yani 3 GB'lık minimum RAM'in epey altında kalıyor. Bu da onu her yerde çalışabilir kılıyor: eski bir dizüstü, Raspberry Pi sınıfı bir kart, bir telefon ya da GPU'nuza neredeyse hiç dokunmayan bir arka plan yardımcısı olarak. ollama run deepseek-r1:1.5b ile çekin, saniyeler içinde kullanmaya başlarsınız.

Günlük kullanımda gerçekten hızlı. RTX 3060'ta saniyede yaklaşık 280 token bekleyebilirsiniz, 4090 neredeyse 785'e çıkıyor, Apple M-serisi Max ise 319 civarında; yani gördüğünüz yanıtın hızını ham performanstan çok modelin ne kadar süre akıl yürüttüğü belirliyor. DDR5 üzerinde saf CPU bile kabaca 47 token/s'i kotarıyor. 128K bağlam ise işin püf noktası: bu model kendi düşünce zincirinde (chain-of-thought) bolca token harcıyor ve o pencereyi doldurmak toplam belleği yaklaşık 9.7 GB'a, boştaki ayak izinin epey ötesine itiyor. Çalışma bağlamını ölçülü tutun ve modelin kısa aralıklarla düşünmesine izin verin.

Açık konuşmak gerekirse, bu boyutta akıl yürütme çok adımlı her şeyde ya tutar ya tutmaz; cevabın gerçekten önem taşıdığı durumlarda büyük kardeşleri DeepSeek R1 7B ve R1 8B çok daha güvenilir, görünür akıl yürütmeden ziyade düz sohbet istiyorsanız da Qwen 3 1.7B daha doğru tercih. 1.5B'nin kazandığı yer ise erişim: R1 tarzı düşünce izlerini lokal olarak çalıştırmanın en küçük yolu bu ve bunu başka hiçbir şeyin dönmeyeceği donanımda yapıyor. MIT lisansı da cabası: tamamen açık, ticari kullanımı serbest ve hiçbir koşula bağlı değil.