Posso rodar o DeepSeek R1 70B?

O DeepSeek R1 70B é o modelo que você escolhe quando quer raciocínio em cadeia (chain-of-thought) rodando inteiramente no seu próprio hardware, e não um assistente de bate-papo rápido. Em 4-bit ele ocupa cerca de 42.8 GB e precisa de no mínimo uns 64 GB de RAM, o que descarta de cara uma única GPU de consumidor: ele não cabe numa RTX 3060 12GB nem mesmo numa RTX 4090 24GB. O lar realista para ele é um Mac com bastante memória unificada ou uma workstation com 64 GB ou mais, onde o conjunto completo de pesos consegue de fato ficar residente. É um compromisso sério, não um download casual.

No uso diário, a verdade nua e crua é que ele é lento. Num Apple M-Max você vê algo em torno de 8 tokens por segundo, e numa CPU com DDR5 cai para cerca de 1 token por segundo, então as respostas chegam, na melhor das hipóteses, no ritmo da leitura e, na pior, se arrastam. Como o R1 pensa em voz alta antes de responder, boa parte desses tokens vai para o raciocínio visível, então uma única resposta pode demorar. O contexto de 128K está disponível, mas preenchê-lo empurra a memória total para cerca de 87.5 GB, bem acima do piso de 64 GB, então mantenha o contexto de trabalho enxuto a menos que você tenha folga de sobra.

Contra a própria família, a troca é direta: o DeepSeek R1 7B ou o miúdo 1.5B rodam muito mais rápido e cabem em hardware modesto, mas este 70B geralmente se sai melhor em raciocínio de múltiplas etapas mais difícil, onde os destilados menores costumam perder o fio da meada. Comparado ao Llama 3.1 70B, que é ajustado para bate-papo, a marca registrada do R1 70B é esse estilo de raciocínio explícito, mais adequado a problemas de matemática e lógica do que a conversa aberta. A licença MIT é a parte fácil aqui: você pode usá-lo comercialmente e em produção sem amarras específicas do provedor. Só reserve orçamento para a memória e para a espera.