← 全部模型模型检测

我能跑 Command R 35B 吗?

Cohere 的 Command R 35B 在推荐的 4 位量化下大约需要 32 GB 内存(下载体积 21.2 GB)。下方即时检测您的硬件 — 数据不会离开您的浏览器。

正在读取您的硬件信号…

规格参数

参数量35B
上下文窗口128K tokens
厂商Cohere
许可证CC-BY-NC
发布时间2024-08
擅长领域聊天

各量化版本体积

量化位/权重下载体积最低内存质量
Q2_K3.3514.7 GB24 GB损失明显
Q4_K_M推荐4.8521.2 GB32 GB推荐
Q5_K_M5.6524.7 GB48 GB
Q8_08.537.2 GB48 GB接近原版
F161670.0 GB96 GB原版

体积按参数量 × 位/权重估算,实际 GGUF 版本会略有差异。

在本地运行

最简单的方式是 Ollama — 一条命令即可开聊:

ollama run command-r

常见问题

我能跑 Command R 35B 吗?配置要求与内存需求