¿Puedo ejecutar Gemma 3 27B?

Gemma 3 27B es el modelo al que recurres cuando un asistente de la clase 8B se te queda corto y tienes memoria de sobra. Es un modelo de chat y visión de 27.4B de Google, lo que significa que lee imágenes igual que texto, y esa capacidad es la principal razón para elegirlo frente a un modelo del mismo tamaño que solo maneja texto. Con cuantización de 4 bits ronda los 16.6 GB, así que una tarjeta de 12 GB como una RTX 3060 sencillamente no lo aguanta, y querrás al menos 24 GB de RAM o memoria unificada para que corra con holgura. Una RTX 4090 de 24 GB o un Mac con chip de la serie M y abundante memoria unificada son su hogar natural.

En el día a día se siente como un interlocutor bastante más sólido que los modelos pequeños, y el enfoque multimodal lo vuelve genuinamente útil para describir o razonar sobre capturas de pantalla y fotos. En una 4090 a 4 bits puedes esperar alrededor de 52 tokens por segundo, que se transmite más rápido de lo que lees; un Mac M Max se queda más cerca de los 21 tok/s, todavía muy usable, mientras que solo en CPU sobre DDR5 cae a unos 3 tok/s y realmente sirve únicamente para trabajos por lotes. El contexto de 128K es real pero caro aquí: llenarlo eleva la memoria total a unos 45.8 GB, muy por encima de lo que abarca un solo dispositivo de 24 GB, así que mantén el contexto de trabajo moderado salvo que tengas margen.

Frente a su propia familia es el peso pesado, siendo Gemma 3 4B la opción más ligera cuando la memoria escasea y aun así quieres visión. La comparación más interesante es Qwen 3.5 27B, un modelo de tamaño casi idéntico que suma fortalezas dedicadas de razonamiento y programación; en tareas estructuradas de matemáticas o código suele superar a Gemma, así que recurre a Gemma 3 27B más por su chat sólido más comprensión de imágenes que por razonamiento exigente. Su rasgo más destacado es ese equilibrio de visión y chat en un tamaño manejable de una sola GPU. Una advertencia: la licencia Gemma es de pesos abiertos, no de código abierto, así que lee los términos de Google antes de incluirlo en un producto comercial.