¿Puedo ejecutar Phi-4 Reasoning Vision 15B?

Phi-4 Reasoning Vision 15B es el modelo de pesos abiertos de Microsoft (con licencia MIT, así que puedes usarlo comercialmente sin restricciones) pensado para visión y razonamiento más que para chat general. Es un modelo denso de 15B parámetros, lo que significa que se carga entero y se ejecuta en cada token. En cuantización de 4 bits ocupa unos 9.1 GB, así que conviene una tarjeta de 12 GB como una RTX 3060 para mantenerlo por completo en la GPU, y necesitas al menos 16 GB de RAM del sistema. Baja a una versión de 2 bits (alrededor de 6.3 GB) si lo estás encajando en hardware más justo, aunque a ese nivel la calidad se resiente.

En el uso diario se siente ágil en una RTX 3060 de 12 GB, a unos 34 tokens por segundo en 4 bits, cómodo para velocidad de lectura, y una RTX 4090 de 24 GB lo lleva hasta cerca de 94 tokens por segundo. En un Apple M-series Max puedes esperar unos 38 tokens por segundo. La ventana de contexto es de 16K, lo cual es modesto, así que trátala como un bloc de notas de trabajo y no como un lugar donde volcar documentos enteros. Incluso con 8K de contexto la huella total de memoria sube a unos 10.5 GB, así que deja margen en una tarjeta de 12 GB.

Frente a sus hermanos, Phi-4 14B y Qwen 3 14B son la elección si quieres un modelo general de chat y razonamiento, ya que esta versión cede parte de esa amplitud a cambio de comprensión de imágenes. Phi-4 Mini 3.8B es la opción más ligera cuando la memoria escasea. Lo que destaca aquí es que obtienes razonamiento multimodal de verdad con una huella que todavía cabe en una sola GPU de gama media, y la licencia MIT significa que no tienes que preocuparte por restricciones comerciales.