Ollama para Windows: guía de instalación y configuración

Ollama en Windows es una aplicación nativa que ejecuta modelos de lenguaje grandes localmente sin Docker ni WSL2. El instalador de Windows configura Ollama como un servicio del sistema que se inicia automáticamente y proporciona aceleración de GPU a través de DirectML y CUDA. La instalación toma menos de dos minutos y puedes ejecutar modelos como Llama 3.3 70B o Mistral 7B inmediatamente desde la línea de comandos.

Requisitos del sistema para Ollama en Windows

Ollama requiere Windows 10 (compilación 1903 o posterior) o Windows 11. Las especificaciones mínimas de hardware son:

Componente	Mínimo	Recomendado
Sistema operativo	Windows 10 (1903+)	Windows 11
RAM	8 GB	16 GB o más
Espacio en disco	10 GB libres	50+ GB para múltiples modelos
GPU (opcional)	NVIDIA GTX 1050 o equivalente de AMD	NVIDIA RTX 3060 12GB o superior

La aceleración de GPU funciona con GPUs NVIDIA (CUDA 11.8 o posterior) y GPUs AMD recientes (a través de ROCm en Windows). El instalador incluye las bibliotecas de GPU necesarias; no necesitas instalar CUDA por separado. Sin GPU, Ollama recurre a inferencia de CPU, que es 5-10× más lenta pero funcional para modelos más pequeños.

El tamaño del modelo determina los requisitos reales de RAM o VRAM. Por ejemplo, Mistral 7B necesita aproximadamente 4.5 GB VRAM en cuantización de 4 bits, mientras que Llama 3.3 70B requiere alrededor de 40 GB. Consulta el Calculadora de VRAM para estimar requisitos para cualquier modelo antes de descargar.

Instalación de Ollama en Windows

El instalador oficial de Windows es un único ejecutable que maneja todas las dependencias:

1. Descargar OllamaSetup.exe desde ollama.com/download
2. Ejecuta el instalador—se requieren privilegios de administrador
3. Acepta la licencia y haz clic en Instalar (la ubicación predeterminada es C:Program FilesOllama)
4. El instalador se completa en 30-60 segundos e inicia el servicio Ollama automáticamente

Después de la instalación, abre el símbolo del sistema o PowerShell y verifica con:

ollama --version

Deberías ver una salida como ollama version 0.x.x. El servicio Ollama se ejecuta en segundo plano—verás un icono de Ollama en la bandeja del sistema cuando esté activo.

Soporte y detección de GPU

Ollama detecta automáticamente y utiliza las GPUs disponibles en Windows. Para confirmar que la aceleración de GPU está funcionando:

ollama run llama3.3:70b "test"

Mientras se carga el modelo, observa el Administrador de tareas (pestaña Rendimiento). Si la utilización de GPU aparece bajo GPU 0 o GPU 1, la aceleración está activa. La primera ejecución descarga el modelo (5-40 GB según el tamaño) a %USERPROFILE%\.ollama\models, lo que puede tomar varios minutos en conexiones más lentas.

Los usuarios de NVIDIA con GPUs RTX 3060 o más nuevas obtienen el mejor rendimiento debido a 12+ GB VRAM y optimizaciones de arquitectura Ampere/Ada. El soporte de GPU AMD en Windows está mejorando pero aún se queda atrás de NVIDIA—espera 20-30% de inferencia más lenta en hardware AMD equivalente. Las GPUs Intel Arc no son oficialmente compatibles a partir de septiembre de 2026.

Si Ollama no detecta tu GPU, verifica que los controladores de tu GPU estén actualizados (NVIDIA: 537.13 o posterior, AMD: Adrenalin 23.11 o posterior). Los mensajes de error de Ollama generalmente indican si la GPU fue omitida debido a VRAM insuficiente o controladores faltantes.

Ejecutando tu primer modelo

El ollama run comando descarga, carga e inicia una sesión interactiva con un modelo:

ollama run phi4

Esto descarga el modelo Phi-4 de Microsoft (aproximadamente 9 GB de VRAM en cuantización de 4 bits) y abre un prompt interactivo de chat. Escribe tu pregunta, pulsa Intro y el modelo responderá localmente. Sal con /adios o Ctrl+C.

Modelos comunes para probar en hardware Windows:

Modelo	VRAM (4 bits)	Ideal para
Mistral 7B	~4,5 GB	Tareas generales, respuestas rápidas
Llama 3.1 8B	~5 GB	Calidad y velocidad equilibradas
Phi-4	~9 GB	Razonamiento, tamaño compacto
Llama 3.3 70B	~40 GB	GPU de gama alta, máxima calidad

Explora los modelos disponibles en Lista de modelos de Ollama o busca en la biblioteca con ollama list después de descargar al menos un modelo.

Configuración y variables de entorno

Ollama lee la configuración desde las variables de entorno de Windows. Establécelas en Propiedades del sistema → Variables de entorno o en PowerShell con $env:VARIABLE_NAME.

Variables clave:

• OLLAMA_MODELS: Directorio para el almacenamiento de modelos (predeterminado: %USERPROFILE%\.ollama\models). Cámbialo si tu unidad C: tiene espacio limitado.
• OLLAMA_HOST: Dirección del servidor (predeterminada: 127.0.0.1:11434). Establécela en 0.0.0.0:11434 para aceptar conexiones de red.
• OLLAMA_NUM_PARALLEL: Número de solicitudes simultáneas (predeterminado: 1). Auméntala si atiendes a varios clientes.
• OLLAMA_MAX_LOADED_MODELS: Modelos mantenidos en VRAM (predeterminado: 1). Establécela en 2 o más si dispones de 24 GB o más de VRAM y deseas cambiar entre modelos al instante.

Tras modificar las variables de entorno, reinicia el servicio Ollama desde Servicios (Win+R, escribe services.msc, busca Ollama, haz clic derecho y selecciona Reiniciar) o reinicia el equipo.

Para mover los modelos a otra unidad, configura OLLAMA_MODELS y luego reinicia el servicio. Los modelos existentes deben descargarse nuevamente; Ollama no los migra automáticamente.

Optimización del rendimiento

La velocidad de inferencia depende de la VRAM, el tamaño del modelo y el nivel de cuantización. Un modelo de 7 mil millones de parámetros con cuantización de 4 bits genera entre 30 y 60 tokens por segundo en una RTX 3060, mientras que los modelos de 70 mil millones de parámetros bajan a 3–8 tokens por segundo, a menos que dispongas de 48 GB o más de VRAM distribuidos entre varias GPU.

Las configuraciones multi-GPU funcionan automáticamente: Ollama distribuye las capas del modelo entre las GPU detectadas. Por ejemplo, dos RTX 3090 (24 GB cada una) pueden ejecutar Llama 3.3 70B a una velocidad aceptable, mientras que una sola RTX 3090 tendría que descargar capas a la memoria RAM del sistema y su rendimiento se vería muy afectado.

Si el rendimiento es más lento de lo esperado:

• Revisa el Administrador de tareas durante la inferencia: un uso de CPU superior al 30 % indica que parte del modelo está en la memoria RAM del sistema debido a insuficiente VRAM
• Prueba una cuantización menor (por ejemplo, ollama pull mistral:7b-instruct-q4_K_M en lugar de la predeterminada Q8)
• Cierra otras aplicaciones que usen la GPU (navegadores con aceleración por hardware, juegos, editores de video)
• Actualiza los controladores de tu GPU: los controladores NVIDIA más recientes mejoran la velocidad de inferencia un 5–10 % respecto a versiones antiguas de hace seis meses

Para actualizaciones de hardware, consulta la mejores GPUs para LLMs locales guía de comparación de relación precio-rendimiento entre opciones de NVIDIA y AMD.

Integración con aplicaciones

Ollama expone una API REST en localhost:11434 compatible con la estructura de la API de OpenAI. Las aplicaciones que admiten puntos finales compatibles con OpenAI pueden apuntar a Ollama con cambios mínimos.

Ejemplo de comando curl para generar texto:

curl http://localhost:11434/api/generate -d '{
  "model": "mistral",
  "prompt": "Explica Docker en una frase"
}'

Algunas integraciones populares incluyen Open WebUI (interfaz web), Continue.dev (extensión para VS Code) y LangChain (Python). El servicio Ollama debe estar en ejecución para que funcionen las llamadas a la API; por defecto se inicia automáticamente al arrancar el sistema.

Preguntas Frecuentes

¿Requiere Ollama WSL2 o Docker en Windows?

No. El instalador para Windows es una aplicación nativa que ejecuta Ollama como un servicio de Windows sin virtualización ni contenedores. Las versiones anteriores requerían Docker, pero la versión nativa para Windows eliminó esa dependencia a finales de 2024. Si instalaste Ollama antes de noviembre de 2024, desinstala la versión basada en Docker y descarga el instalador nativo actual.

¿Puedo usar Ollama sin conexión tras descargar los modelos?

Sí. Una vez que un modelo se ha descargado con ollama pull , se almacena localmente y se ejecuta sin conexión a Internet. El único requisito de red es la descarga inicial: los modelos van desde 2 GB (modelos pequeños de 7B) hasta más de 80 GB (modelos grandes de 70B o superiores). Tras la descarga, puedes desconectarte de la red y Ollama seguirá funcionando normalmente.

¿Cuál es el costo de ejecutar modelos de Ollama comparado con las APIs?

Ollama is free—you pay only for hardware and electricity. Compare this to API costs: Claude Sonnet 5 charges $2.00 per million input tokens, so 10 million tokens (roughly 7.5 million words) costs $20. A self-hosted setup breaks even quickly if you process significant volume. Use the calculadora de autohospedaje frente a API calculadora de punto de equilibrio para estimar cuándo te compensa según tu volumen previsto de uso.

¿Qué modelos funcionan mejor en GPUs de consumo?

Para GPU con 8–12 GB de VRAM (RTX 3060, 4060 Ti), Mistral 7B (~4,5 GB en cuantización de 4 bits), Llama 3.1 8B (~5 GB) y Phi-4 (~9 GB) ofrecen excelentes relaciones calidad-rendimiento. Si dispones de 16–24 GB (RTX 3090, 4090), Mistral NeMo 12B (~7,5 GB) e incluso Llama 3.3 70B (~40 GB con cuantización agresiva u offloading) se vuelven viables. Consulta la Requisitos de VRAM por modelo lista completa.

¿Puede Ollama utilizar simultáneamente GPUs NVIDIA y AMD?

No. Ollama utiliza CUDA (para NVIDIA) o ROCm (para AMD), según lo que detecte primero, pero no puede mezclar backends de GPU en una misma sesión. Si tienes tanto GPUs NVIDIA como AMD, Ollama prioriza NVIDIA. El soporte multi-GPU funciona únicamente cuando todas las GPUs usan la misma pila de controladores: dos tarjetas NVIDIA o dos tarjetas AMD, pero no una de cada tipo.

¿Cómo puedo desinstalar Ollama en Windows?

Abre Configuración → Aplicaciones → Aplicaciones instaladas, busca Ollama y haz clic en Desinstalar. Esto elimina la aplicación y el servicio, pero deja los modelos en %USERPROFILE%.ollama. Elimina manualmente esa carpeta para recuperar espacio en disco. Si el servicio no se detiene durante la desinstalación, abre el Administrador de tareas, busca OllamaService.exe en Procesos en segundo plano y finalízalo antes de intentarlo de nuevo.

Próximos pasos

Tras instalar Ollama en Windows, explora la biblioteca completa de modelos en guía completa de Ollama para comprender cómo la selección de modelos, la cuantización y las ventanas de contexto afectan la calidad. Para cargas de trabajo en producción, calcula los costos continuos de la API frente al autoalojamiento mediante la Calculadora de costos de API calculadora de punto de equilibrio para determinar si la inferencia local o las API en la nube se ajustan mejor a tu presupuesto y necesidades de escala.