Sunday, 22 November 2026 | Updating Daily AI insight, written for builders

Gemma en Ollama 4: Modelos Gemma actuales y cómo ejecutarlos

Actualizado · Publicado originalmente
  • Gemma 4 está disponible y en la Ollama biblioteca como gemma4. Google la lanzó el 31 de marzo de 2026 en tamaños E2B, E4B, 26B A4B y 31B, y añadió el modelo 12B Unified el 3 de junio de 2026.
  • Ejecutar ollama run gemma4 para el modelo E4B predeterminado, o elige un tamaño: gemma4:e2b, gemma4:12b, gemma4:26b o gemma4:31b.
  • Las descargas de 4 bits (q4_K_M) pesan 4,6 GB (E2B), 6,6 GB (E4B), 8,0 GB (12B), 18 GB (26B) y 20 GB (31B). El contexto es de 128K tokens en E2B y E4B y de 256K en los tamaños mayores.
  • Gemma 4 se lanza bajo Apache 2.0. Gemma 3 y Gemma 2, aún en Ollama, usan los Términos de uso de Gemma de Google.
  • Las cifras de velocidad en esta página se etiquetan como límites de ancho de banda de memoria, no mediciones; las velocidades reales resultan menores.

¿Está Gemma 4 disponible en Ollama?

Sí. Gemma 4 está en la biblioteca de Ollama como gemma4, en cinco tamaños: E2B, E4B, 12B, 26B (un modelo de mezcla de expertos con aproximadamente 3,8B parámetros activos) y 31B. Instala o actualiza Ollama, luego ejecuta ollama run gemma4 para el modelo E4B predeterminado, o añade una etiqueta de tamaño como gemma4:12b. Cada etiqueta acepta texto e imágenes, y los tamaños mayores leen hasta 256K tokens de contexto.

Tamaños de Gemma 4 en Ollama

Los recuentos de parámetros y las ventanas de contexto a continuación proceden de la tarjeta de modelo Gemma 4 de Google. Los tamaños de descarga son las compilaciones q4_K_M listadas en la página de etiquetas de Ollama.

Modelo Parámetros Contexto Comando Ollama Descarga de 4 bits (q4_K_M)
Gemma 4 E2B 2,3B efectivos (5,1B con embeddings) 128 K ollama run gemma4:e2b 4,6 GB
Gemma 4 E4B (predeterminado) 4,5B efectivos (8B con embeddings) 128 K ollama run gemma4 6,6 GB
Gemma 4 12B Unified 11,95B 256K ollama run gemma4:12b 8,0 GB
Gemma 4 26B A4B (MoE) 25,2B totales, 3,8B activos 256K ollama run gemma4:26b 18 GB
Gemma 4 31B (denso) 30,7B 256K ollama run gemma4:31b 20 GB

La «E» en E2B y E4B significa parámetros efectivos: Google dice que los modelos pequeños usan Embeddings por capa para maximizar la eficiencia de parámetros en dispositivos, y su tarjeta lista 5,1B y 8B parámetros una vez que se cuentan esos embeddings, lo que explica por qué los archivos son más grandes que el recuento efectivo sugiere. La «A» en 26B A4B significa parámetros activos. La tarjeta de modelo de Google dice que «se ejecuta casi tan rápido como un modelo de 4B parámetros», mientras que aún necesita la memoria de un modelo con aproximadamente 25B parámetros.

Las etiquetas simples como gemma4:31b muestran un rango de tamaño en la página de Ollama, porque más de una compilación está detrás. Si quieres un archivo predecible, nombra la compilación: gemma4:31b-it-q4_K_M (20 GB), gemma4:31b-it-qat (19 GB), gemma4:31b-it-q8_0 (34 GB) o gemma4:31b-it-bf16 (63 GB). El mismo patrón funciona para los otros tamaños. Ollama también lista etiquetas en la nube, gemma4:cloud y gemma4:31b-cloud, que se ejecutan en los servidores de Ollama en lugar de en tu GPU; nuestro Explicación de Ollama Cloud explica cómo funcionan.

Cómo ejecutar Gemma 4 con Ollama

Si aún no tienes Ollama, sigue el Guía de instalación de Ollama. Si ya lo tienes y la descarga falla, actualiza Ollama primero, ya que las nuevas familias de modelos generalmente necesitan un lanzamiento reciente. Luego, en macOS, Linux o Windows:

# Tamaño predeterminado (E4B)
ollama run gemma4

# Elige un tamaño
ollama run gemma4:e2b
ollama run gemma4:12b
ollama run gemma4:26b
ollama run gemma4:31b

# Descargar sin iniciar un chat
ollama pull gemma4:12b

Modo de razonamiento

Todos los tamaños de Gemma 4 pueden razonar antes de responder. La tarjeta de modelo de Google dice que el pensamiento se activa poniendo el <|think|> token al inicio del mensaje del sistema, y se desactiva eliminándolo. La API de Ollama también tiene un pensar parámetro: true solicita pensamiento, false solicita sin salida de pensamiento si el modelo lo permite, y dejarlo sin establecer usa el valor predeterminado del modelo.

Usar Gemma 4 desde código

Ollama sirve una API local en http://localhost:11434:

curl http://localhost:11434/api/generate -d '{
  "model": "gemma4",
  "prompt": "Explain quantum entanglement in simple terms.",
  "stream": false
}'

También ofrece un endpoint compatible con OpenAI, así que el código cliente existente de OpenAI funciona cambiando la URL base. El cliente necesita un valor de clave API, pero Ollama lo ignora:

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:11434/v1/",
    api_key="ollama",  # required but ignored
)

response = client.chat.completions.create(
    model="gemma4:12b",
    messages=[{"role": "user", "content": "Hello!"}],
)
print(response.choices[0].message.content)

¿Cuánta memoria necesita cada tamaño?

El tamaño de descarga es el mínimo: los pesos deben caber en la memoria de la GPU (o memoria unificada de Apple) para velocidad total. La ventana de contexto necesita memoria además de eso, y crece con la longitud de contexto que permitas. La documentación de Ollama dice que elige un contexto predeterminado de la VRAM que detecta: 4K tokens por debajo de 24 GiB, 32K de 24 a 48 GiB, y 256K en 48 GiB o más. Puedes reemplazarlo con OLLAMA_CONTEXT_LENGTH al iniciar el servidor, y ollama ps muestra en su columna PROCESSOR si parte del modelo se ha transferido a la CPU.

Tamaño Pesos de 4 bits Nuestra regla práctica para un ajuste total en GPU
E2B 4,6 GB GPU de 8 GB y la mayoría de portátiles recientes
E4B 6,6 GB GPU de 8 GB con contexto corto; 12 GB es más cómodo
12B 8,0 GB GPU de 12 GB; 16 GB para contextos más largos
26B A4B 18 GB GPU de 24 GB, o Macs y PC Strix Halo con 32 GB o más
31B 20 GB GPU de 24 GB con contexto modesto, o memoria unificada de 32 GB o más

La regla práctica es nuestra estimación a partir de los tamaños de archivo, no un límite medido. Para una cifra que tenga en cuenta tu longitud de contexto, usa el Calculadora de VRAM, y ver Requisitos de VRAM por modelo para otras familias.

¿Qué velocidad tiene Gemma 4? Estimaciones etiquetadas

Ni la tarjeta de modelo de Google ni la página de biblioteca de Ollama publican cifras de tokens por segundo para Gemma 4 en GPU de consumo. Lo que se puede calcular es un límite superior. Cuando un usuario está generando texto, cada token nuevo requiere leer los pesos del modelo desde la memoria, así que el ancho de banda de memoria dividido por los gigabytes leídos por token es un límite superior en la velocidad de generación.

Modelo (q4_K_M) NVIDIA RTX 4090 (1.008 GB/s, 24 GB) Apple M4 Pro (273 GB/s) AMD Ryzen AI Max+ 395 (256 GB/s)
Gemma 4 12B (8,0 GB) ~126 tokens/s límite superior ~34 tokens/s límite superior límite teórico de ~32 tokens/s
Gemma 4 31B (20 GB) ~50 tokens/s límite límite teórico de ~14 tokens/s ~13 tokens/s límite superior

Suposiciones: un usuario, toda la descarga leída una vez por token generado, y sin tolerancia para el caché KV, límites de computación o sobrecarga de software. Estos son límites aritméticos, no mediciones de Convly AI, y las velocidades reales son más bajas. Como punto de calibración, el marcador público CUDA de llama.cpp muestra un RTX 4090 generando aproximadamente 186 tokens/s en Llama 2 7B en Q4_0, un archivo de 3,83 GB. Su límite superior por la misma aritmética es de aproximadamente 263 tokens/s, así que ese resultado es aproximadamente el 70% del límite superior.

Dos tamaños no se ajustan a este modelo simple. El 26B A4B lee solo sus aproximadamente 3,8B parámetros activos para cada token, por lo que genera mucho más rápido de lo que sugieren sus 18 GB de archivo; Google lo describe como ejecutándose casi tan rápido como un modelo de 4B. E2B y E4B incluyen Per-Layer Embeddings que no se leen completamente para cada token, así que un límite superior basado en su tamaño de archivo subestimaría. Para consejos de compra de GPU, ver el mejores GPUs para ejecutar LLMs localmente, y para cómo la memoria unificada de Apple y AMD se comparan, nuestro comparación Strix Halo vs M4 Pro.

Generaciones antiguas de Gemma en Ollama

Gemma 3 y Gemma 2 aún están en la biblioteca de Ollama. Gemma 4 reemplaza ambos para nuevos proyectos, con contexto más largo y licencia más permisiva.

Familia Etiquetas de Ollama (tamaño de descarga) Contexto Entrada Licencia
Gemma 3 (marzo de 2025; 270M añadidos en agosto de 2025) gemma3:270m (292 MB), gemma3:1b (806 MB), gemma3:4b (3,4 GB), gemma3:12b (8,2 GB), gemma3:27b (17 GB) 32K (270M, 1B); 128K (4B, 12B, 27B) Texto (270M, 1B); texto e imagen (4B y superior) Términos de uso de Gemma
Gemma 2 (junio y julio de 2024) gemma2:2b (1,6 GB), gemma2:9b (5,4 GB), gemma2:27b (16 GB) 8K Texto Términos de uso de Gemma

Google’s Gemma 4 model card, whose table Ollama’s Gemma 4 page reproduces, puts Gemma 4 31B at 85.2% on MMLU Pro and 84.3% on GPQA Diamond, against 67.6% and 42.4% for Gemma 3 27B (sin razonamiento). Estas son puntuaciones reportadas por el proveedor. Nuestro página del modelo Gemma 3 27B tiene las especificaciones de ese modelo, y el Lista de modelos de Ollama y mejores modelos locales para Ollama cubren alternativas como Llama, Mistral y Qwen.

Ajuste de Gemma 4 con un Modelfile

La tarjeta de modelo de Google recomienda una configuración de muestreo para cada caso de uso: temperatura 1.0, top_p 0.95 y top_k 64. Puedes integrar esos valores, una longitud de contexto y un mensaje del sistema en tu propio modelo con un Modelfile:

FROM gemma4:12b

PARAMETER temperature 1.0
PARAMETER top_p 0.95
PARAMETER top_k 64
PARAMETER num_ctx 32768

SYSTEM You are a technical documentation assistant. Give accurate, concise answers with code examples.

Luego créalo y ejecútalo:

ollama create my-gemma -f ./Modelfile
ollama run my-gemma
  • temperature: valores más altos hacen las respuestas más creativas.
  • top_p y top_k: limita qué tokens muestrea el modelo.
  • num_ctx: la ventana de contexto; valores más grandes usan más memoria.
  • num_predict: el número máximo de tokens a generar.

Para comparar la ejecución de Gemma localmente frente a una API alojada, el calculadora de autohospedaje frente a API encuentra el punto de equilibrio para tu uso.

Solución de problemas

«Modelo no encontrado» o la descarga falla: verifica la ortografía de la etiqueta en la página gemma4 de Ollama y actualiza Ollama.

La generación es lenta: ejecutar ollama ps. Si la columna PROCESSOR muestra parte del modelo en la CPU, el modelo y su contexto no caben en la memoria GPU. Reduce el contexto con OLLAMA_CONTEXT_LENGTH o baja un tamaño. Nuestra guía de Ollama no usando la GPU cubre las otras causas.

GPU no detectada: La documentación de Ollama lista GPUs de NVIDIA con capacidad de cómputo 5.0 o superior y driver 550 o superior. En AMD necesita la pila de drivers ROCm v7; en Windows su lista ROCm cubre tarjetas Radeon RX 7000 y Radeon PRO W7000, y Vulkan proporciona soporte adicional de GPU en Windows y Linux. En Macs, Ollama usa la API Metal de Apple para aceleración GPU.

La API no devuelve nada: asegúrate de que el servidor se está ejecutando y es accesible en http://localhost:11434, y que el modelo ha sido descargado.

Preguntas frecuentes

¿Está Gemma 4 disponible en Ollama?

Sí. Está en la biblioteca de Ollama como gemma4, en tamaños E2B, E4B, 12B, 26B y 31B. Google lanzó Gemma 4 el 31 de marzo de 2026 y añadió el modelo 12B Unified el 3 de junio de 2026. Ejecuta ollama run gemma4 para el modelo E4B predeterminado, o añade una etiqueta de tamaño.

¿Por qué tamaño de Gemma 4 debería empezar?

Nuestra sugerencia: E4B, el predeterminado, en portátiles y GPUs de 8 GB; 12B en GPUs de 12 a 16 GB; 26B A4B en GPUs de 24 GB si buscas velocidad; 31B en GPUs de 24 GB o Macs de 32 GB o superior si quieres el modelo denso más potente. La tabla anterior lista cada tamaño de descarga.

¿Puedo usar Gemma 4 comercialmente?

La tarjeta de modelo de Google lista Gemma 4 bajo la licencia Apache 2.0, que permite uso comercial, modificación y redistribución bajo sus términos. Gemma 3 y Gemma 2 usan los Términos de uso de Gemma separados de Google, así que léelos antes de lanzar un producto en un modelo más antiguo.

¿Entiende Gemma 4 en Ollama imágenes y audio?

¿Imágenes, sí: la página de etiquetas de Ollama lista entrada de texto e imagen para cada etiqueta de Gemma 4. El audio depende del tamaño. La tarjeta de modelo de Google lista entrada de audio para E2B, E4B y el modelo Unified de 12B, pero no para 26B A4B o 31B. La página de biblioteca de Ollama muestra una insignia de audio para la familia, así que si necesitas audio, elige uno de los tres tamaños más pequeños.

¿Cómo activo o desactivo el razonamiento de Gemma 4?

Google dice que el razonamiento se activa poniendo el token de pensamiento al inicio del mensaje del sistema y se desactiva removiéndolo. A través de la API de Ollama también puedes configurar el parámetro think en true o false, u omitirlo para usar el valor predeterminado del modelo.

¿Puede ejecutarse Gemma 4 sin GPU?

Sí. Ollama puede ejecutar un modelo en la CPU, pero la generación está limitada por el ancho de banda de la memoria del sistema, que es mucho más bajo que el de una GPU moderna. E2B y E4B son las opciones realistas solo en CPU.

Escrito por Mustafa Ihsan

Mustafa Ihsan es el fundador y editor de Convly.ai. Construyó y mantiene la base de datos de modelos de IA en vivo del sitio, su índice de relación precio-rendimiento y sus calculadoras gratuitas para requisitos de VRAM, costos de API y economía de auto-alojamiento. Escribe sobre precios de modelos, resultados de puntuaciones de referencia y el hardware necesario para ejecutar modelos de IA localmente, y siempre prefiere números medidos a afirmaciones de proveedores.

Scroll to Top