¿Puedo ejecutar DeepSeek-OCR?

DeepSeek-OCR es un modelo especializado, no uno de chat: lee imágenes y convierte documentos, capturas de pantalla y páginas escaneadas en texto. Usa una arquitectura mixture-of-experts, así que aunque el modelo completo tiene 3B de parámetros, solo unos 0.57B se activan para cada token. Eso lo mantiene rápido, pero el detalle de MoE es que necesitas espacio en memoria para el modelo entero, no solo para la porción activa. En cuantización de 4 bits ronda los 1.8 GB y pide alrededor de 4 GB de RAM como mínimo, así que corre sin problema en una RTX 3060 de 12 GB, en un Mac con Apple Silicon modesto o incluso en un equipo moderno solo con CPU.

En la práctica se siente menos como esperar a un chatbot y más como ejecutar un trabajo por lotes veloz. En una RTX 3060 12GB puedes esperar unos 886 tokens por segundo, un M-series Max supera los 1000, y una 4090 juega en otra liga con unos ~2479 tok/s. Incluso solo con CPU sobre DDR5 alcanza cerca de 148 tok/s, lo que sirve para páginas ocasionales. La ventana de contexto es modesta, de 8K, más que suficiente para tareas de OCR porque le pasas una imagen a la vez; a contexto completo todo el conjunto llega como máximo a unos 2.5 GB de memoria, así que aquí la holgura rara vez es el problema.

No recurras a esto como asistente general. Si buscas razonamiento o respuestas paso a paso, un hermano como DeepSeek R1 7B suele servirte mucho mejor, y Ministral 3 3B es la opción más sensata cuando quieres visión más conversación de verdad en un solo modelo. La virtud distintiva de DeepSeek-OCR es estrecha pero real: es un motor diminuto y rápido de documento a texto que corre casi en cualquier parte. Se distribuye bajo una licencia MIT sencilla, así que puedes usarlo libremente en producción y en trabajo comercial, sin las ataduras específicas del proveedor que acompañan a muchos lanzamientos de pesos abiertos.