我能跑 DeepSeek R1 1.5B 吗?
DeepSeek 的 DeepSeek R1 1.5B 在推荐的 4 位量化下大约需要 3 GB 内存(下载体积 1.1 GB)。下方即时检测您的硬件 — 数据不会离开您的浏览器。 在 NVIDIA RTX 3060 12GB 上预计可达约 ~280 tok/s。
正在读取您的硬件信号…
实际使用笔记
DeepSeek R1 1.5B 是一个蒸馏出来的推理模型,这一点很关键:它被调教成把思路一步步「想出声」,而不是轻松地闲聊。1.8B 参数量极小,4-bit 量化大约 1.1 GB,即便是 8-bit 版本也只有 1.9 GB,所以最低 RAM 需求远低于 3 GB。这意味着它几乎能跑在任何设备上:旧笔记本、树莓派级别的开发板、手机,或者作为几乎不占用 GPU 的后台小助手。用 ollama run deepseek-r1:1.5b 拉取,几秒钟就能上手。
日常使用中它确实很快。在 RTX 3060 上大约能跑到每秒 280 个 token,4090 接近 785,苹果 M 系列 Max 在 319 左右,所以你看到回复的快慢,更多取决于它推理多久,而不是纯粹的生成速度。即使在 DDR5 上纯 CPU 跑,也能达到大约每秒 47 个 token。128K 上下文是个隐患:这个模型会在自己的思维链上大量消耗 token,把窗口填满会让总内存涨到约 9.7 GB,远超空闲时的占用。建议把实际工作上下文控制得小一些,让它分短段去思考。
说实话,在这个体量下,任何多步骤问题它的推理都是时好时坏;当答案真正重要时,它更大的同门兄弟 DeepSeek R1 7B 和 R1 8B 要可靠得多,而如果你主要想要普通对话而非可见的推理过程,Qwen 3 1.7B 是更好的选择。1.5B 的优势在于覆盖面:它是在本地看到 R1 式思考过程最小巧的方式,而且能跑在其他模型根本带不动的硬件上。MIT 许可证是额外的加分项,完全开源、可免费商用,没有任何附加限制。
规格参数
各量化版本体积
| 量化 | 位/权重 | 下载体积 | 最低内存 | 质量 |
|---|---|---|---|---|
| Q2_K | 3.35 | 0.8 GB | 3 GB | 损失明显 |
| Q4_K_M推荐 | 4.85 | 1.1 GB | 3 GB | 推荐 |
| Q5_K_M | 5.65 | 1.3 GB | 4 GB | 高 |
| Q8_0 | 8.5 | 1.9 GB | 4 GB | 接近原版 |
| F16 | 16 | 3.6 GB | 6 GB | 原版 |
体积按参数量 × 位/权重估算,实际 GGUF 版本会略有差异。 · 数据更新于: 2026-06-11 · 这些数字是怎么算出来的 →
不同上下文长度的内存需求
| 上下文 | KV 缓存(估算) | 总内存(Q4) |
|---|---|---|
| 4K tokens | ~0.3 GB | ~1.4 GB |
| 8K tokens | ~0.5 GB | ~1.6 GB |
| 32K tokens | ~2.1 GB | ~3.2 GB |
| 128K tokens | ~8.6 GB | ~9.7 GB |
KV 缓存会随上下文长度增长 — 4K 下装得下的模型,到 32K 可能就内存不足了。估算基于 FP16 缓存并采用 grouped-query attention;实际占用因运行时而异。
不同硬件的预估速度
| 硬件 | 带宽 | 约·速度 |
|---|---|---|
| NVIDIA RTX 3060 12GB | 360 GB/s | ~280 tok/s |
| NVIDIA RTX 4090 24GB | 1008 GB/s | ~785 tok/s |
| Apple M-series (base) | 100 GB/s | ~78 tok/s |
| Apple M-series Pro | 270 GB/s | ~210 tok/s |
| Apple M-series Max | 410 GB/s | ~319 tok/s |
| CPU only (dual-channel DDR5) | 60 GB/s | ~47 tok/s |
Token 生成速度受内存带宽限制:tok/s ≈ 带宽 × 0.85 ÷ Q4 下的模型体积。实际数值因运行时和上下文长度而异。
在本地运行
最简单的方式是 Ollama — 一条命令即可开聊:
ollama run deepseek-r1:1.5b