我能跑 Gemma 3 27B 吗？

当 8B 级别的助手显得力不从心、而你又有富余显存时，Gemma 3 27B 就是你会选用的那一档模型。它是 Google 推出的 27.4B 对话兼视觉模型，也就是说它既能读文本也能读图像，而这正是相比同体量纯文本模型选它的主要理由。在 4-bit 量化下，它的体积约为 16.6 GB，所以像 RTX 3060 这样的 12 GB 显卡根本装不下；想让它跑得舒服，至少需要 24 GB 的内存或统一内存。一块 24 GB 的 RTX 4090，或一台配备充裕统一内存的 M 系列 Mac，才是它的理想归宿。

日常使用中，它给人的感觉明显比那些小模型更靠谱、更言之有据；而多模态这一面让它在描述截图、照片或对其进行推理时真正派上用场。在 4090 上以 4-bit 运行，你大约能得到 52 tok/s，输出速度比你阅读还快；一台 M Max 的 Mac 更接近 21 tok/s，依然相当可用；而在 DDR5 上纯 CPU 运行则会跌到大约 3 tok/s，基本只适合批处理任务。128K 上下文确实存在，但在这里代价高昂：把它填满会让总内存需求升到约 45.8 GB，远超单台 24 GB 设备所能承载的范围，所以除非有富余空间，否则请把实际工作上下文控制得克制一些。

在自家系列里它是重量级选手；当内存吃紧但你又想要视觉能力时，更轻量的选择是 Gemma 3 4B。更值得一提的对比对象是 Qwen 3.5 27B，这是一款体量几乎相同的模型，但额外强化了推理与编程能力；在结构化的数学或代码任务上，它通常略胜 Gemma 一筹，因此选用 Gemma 3 27B 更多是看重扎实的对话加图像理解，而非硬核推理。它最突出的特点，是在可控的单 GPU 体量下做到了视觉与对话的平衡。一点提醒：Gemma 许可证属于开放权重（open-weight），并非开源（open-source），所以在把它用于商业产品发布之前，请先阅读 Google 的条款。