← 全部模型模型检测

我能跑 DeepSeek R1 1.5B 吗?

DeepSeek 的 DeepSeek R1 1.5B 在推荐的 4 位量化下大约需要 3 GB 内存(下载体积 1.1 GB)。下方即时检测您的硬件 — 数据不会离开您的浏览器。 在 NVIDIA RTX 3060 12GB 上预计可达约 ~280 tok/s。

正在读取您的硬件信号…

实际使用笔记

DeepSeek R1 1.5B 是一个蒸馏出来的推理模型,这一点很关键:它被调教成把思路一步步「想出声」,而不是轻松地闲聊。1.8B 参数量极小,4-bit 量化大约 1.1 GB,即便是 8-bit 版本也只有 1.9 GB,所以最低 RAM 需求远低于 3 GB。这意味着它几乎能跑在任何设备上:旧笔记本、树莓派级别的开发板、手机,或者作为几乎不占用 GPU 的后台小助手。用 ollama run deepseek-r1:1.5b 拉取,几秒钟就能上手。

日常使用中它确实很快。在 RTX 3060 上大约能跑到每秒 280 个 token,4090 接近 785,苹果 M 系列 Max 在 319 左右,所以你看到回复的快慢,更多取决于它推理多久,而不是纯粹的生成速度。即使在 DDR5 上纯 CPU 跑,也能达到大约每秒 47 个 token。128K 上下文是个隐患:这个模型会在自己的思维链上大量消耗 token,把窗口填满会让总内存涨到约 9.7 GB,远超空闲时的占用。建议把实际工作上下文控制得小一些,让它分短段去思考。

说实话,在这个体量下,任何多步骤问题它的推理都是时好时坏;当答案真正重要时,它更大的同门兄弟 DeepSeek R1 7B 和 R1 8B 要可靠得多,而如果你主要想要普通对话而非可见的推理过程,Qwen 3 1.7B 是更好的选择。1.5B 的优势在于覆盖面:它是在本地看到 R1 式思考过程最小巧的方式,而且能跑在其他模型根本带不动的硬件上。MIT 许可证是额外的加分项,完全开源、可免费商用,没有任何附加限制。

规格参数

参数量1.8B
上下文窗口128K tokens
厂商DeepSeek
许可证MIT
发布时间2025-01
擅长领域推理

各量化版本体积

量化位/权重下载体积最低内存质量
Q2_K3.350.8 GB3 GB损失明显
Q4_K_M推荐4.851.1 GB3 GB推荐
Q5_K_M5.651.3 GB4 GB
Q8_08.51.9 GB4 GB接近原版
F16163.6 GB6 GB原版

体积按参数量 × 位/权重估算,实际 GGUF 版本会略有差异。 · 数据更新于: 2026-06-11 · 这些数字是怎么算出来的 →

不同上下文长度的内存需求

上下文KV 缓存(估算)总内存(Q4)
4K tokens~0.3 GB~1.4 GB
8K tokens~0.5 GB~1.6 GB
32K tokens~2.1 GB~3.2 GB
128K tokens~8.6 GB~9.7 GB

KV 缓存会随上下文长度增长 — 4K 下装得下的模型,到 32K 可能就内存不足了。估算基于 FP16 缓存并采用 grouped-query attention;实际占用因运行时而异。

不同硬件的预估速度

硬件带宽约·速度
NVIDIA RTX 3060 12GB360 GB/s~280 tok/s
NVIDIA RTX 4090 24GB1008 GB/s~785 tok/s
Apple M-series (base)100 GB/s~78 tok/s
Apple M-series Pro270 GB/s~210 tok/s
Apple M-series Max410 GB/s~319 tok/s
CPU only (dual-channel DDR5)60 GB/s~47 tok/s

Token 生成速度受内存带宽限制:tok/s ≈ 带宽 × 0.85 ÷ Q4 下的模型体积。实际数值因运行时和上下文长度而异。

在本地运行

最简单的方式是 Ollama — 一条命令即可开聊:

ollama run deepseek-r1:1.5b

常见问题