我能跑 Qwen3 Coder Next 80B-A3B 吗？

Qwen3 Coder Next 80B-A3B 是一款采用混合专家（MoE）架构的编程专用模型，而这套架构正是它的全部精髓。它总参数量为 80B，但每个 token 只激活 3B，因此实际运行速度远快于其体量给人的印象，不过加载完整模型仍需要足够的内存。在 4-bit 量化下，它的体积约为 48.5 GB，这直接排除了所有消费级显卡：24 GB 的 RTX 4090 装不下，12 GB 的 3060 就更不用说了。它真正合适的归宿是一台拥有充裕统一内存的 Apple Silicon Mac，或是配备 64 GB 及以上系统内存（RAM）的工作站。请按最低 64 GB 这个数字来规划，而不是按激活的 3B。

在日常使用中，MoE 设计的优势会真正体现出来。在 Apple M Max 上它的输出速度约为 192 tok/s，对于代码补全和重构来说几乎是即时响应；即便是在 DDR5 上纯 CPU 推理也能跑到约 28 tok/s，对这么大的模型而言虽然慢，但确实可用。256K 的上下文窗口是它跨整个代码仓库工作时最亮眼的特性，但内存是个隐患：在 128K 上下文下，总占用会攀升到约 95.8 GB。在你加载一个庞大代码库之前要记住这一点，因为在 64 GB 机器上把你推下悬崖的是 KV 缓存，而不是模型权重。

与同量级的稠密模型（比如 Llama 3.1 70B）相比，这款模型整体上是用通用广度换取了编程专注度与速度：MoE 路由意味着它回答比 70B 稠密模型更快，同时专攻代码而非通用聊天——后者更适合用更小的 Qwen 3 聊天版本来处理。它最突出的特点就是这种速度与体量之比，让一款 80B 级别的模型实现近乎即时的生成。而实用层面的额外加分项是它的许可证：Apache 2.0，因此你可以在商业和生产环境中自由使用，无需先去研究任何特定厂商的限制条款。