Puis-je faire tourner DeepSeek R1 70B ?

DeepSeek R1 70B est le modèle vers lequel se tourner quand on veut un raisonnement en chaîne de pensée tournant entièrement sur son propre matériel, et non un simple assistant de discussion rapide. En 4 bits, il pèse environ 42.8 GB et réclame au minimum autour de 64 GB de RAM, ce qui exclut d'emblée un seul GPU grand public : il ne tient ni sur une RTX 3060 12GB ni même sur une RTX 4090 24GB. Son terrain réaliste, c'est un Mac doté d'une mémoire unifiée généreuse ou une station de travail avec 64 GB ou plus, où l'ensemble des poids peut réellement rester en mémoire. C'est un engagement sérieux, pas un téléchargement à la légère.

À l'usage quotidien, soyons honnêtes : il est lent. Sur un Apple M-Max, comptez environ 8 tokens par seconde, et sur un CPU avec DDR5 cela tombe à près de 1 token par seconde, si bien que les réponses arrivent au mieux à la vitesse de lecture, au pire au compte-gouttes. Comme R1 raisonne à voix haute avant de répondre, une bonne partie de ces tokens part dans le raisonnement visible, et une seule réponse peut donc prendre un moment. Le contexte de 128K est bien là, mais le remplir pousse la mémoire totale à environ 87.5 GB, bien au-delà du plancher de 64 GB : gardez donc un contexte de travail modeste, sauf si vous avez de la marge à revendre.

Au sein de sa propre famille, l'arbitrage est limpide : DeepSeek R1 7B ou le minuscule 1.5B tournent bien plus vite et tiennent sur du matériel modeste, mais ce 70B tient généralement mieux la route sur les raisonnements multi-étapes ardus, là où les distillations plus petites ont tendance à perdre le fil. Face à Llama 3.1 70B, calibré pour la conversation, le trait marquant de R1 70B est ce style de raisonnement explicite, mieux adapté aux problèmes de maths et de logique qu'à la discussion ouverte. La licence MIT est la partie facile ici : vous pouvez l'utiliser commercialement et en production sans contraintes propres au fournisseur. Prévoyez simplement le budget mémoire et l'attente.