Puis-je faire tourner DeepSeek-OCR ?

DeepSeek-OCR n'est pas un modèle conversationnel mais un spécialiste : il lit des images et transforme documents, captures d'écran et pages scannées en texte. C'est une architecture mixture-of-experts (MoE), donc même si le modèle complet compte 3B de paramètres, seuls 0,57B environ sont actifs pour chaque token. Cela le garde rapide, mais le piège du MoE, c'est qu'il faut quand même de la place pour le modèle entier en mémoire, pas seulement pour la tranche active. En quantification 4-bit, il tombe autour de 1.8 GB et réclame au minimum 4 GB de RAM environ, si bien qu'il tourne sans problème sur une RTX 3060 de 12 GB, un petit Mac Apple Silicon, voire une machine à CPU moderne.

En pratique, on a moins l'impression d'attendre un chatbot que de lancer un traitement par lots rapide. Sur une RTX 3060 12GB, comptez autour de 886 tokens par seconde ; un M-series Max dépasse les 1000, et une 4090 joue dans une autre catégorie avec environ 2479 tok/s. Même en CPU pur sur DDR5, on atteint à peu près 148 tok/s, ce qui reste utilisable pour traiter des pages de temps en temps. La fenêtre de contexte est modeste, 8K, mais amplement suffisante pour de l'OCR puisque vous fournissez une image à la fois ; à contexte plein, l'ensemble grimpe au plus à environ 2.5 GB de mémoire, donc la marge n'est ici que rarement un souci.

N'en faites pas votre assistant généraliste. Si vous voulez du raisonnement ou des réponses étape par étape, un modèle frère comme DeepSeek R1 7B vous servira en général bien mieux, et Ministral 3 3B est le choix plus sensé quand vous voulez à la fois la vision et une vraie conversation dans un seul modèle. La vraie force de DeepSeek-OCR est étroite mais réelle : c'est un moteur document-vers-texte minuscule, rapide et qui tourne presque partout. Il est distribué sous une simple licence MIT, vous pouvez donc l'utiliser librement en production et en usage commercial, sans les restrictions propres à certains fournisseurs qui accompagnent beaucoup de publications à poids ouverts.