Ejecutar un modelo de lenguaje de gran tamaño en su propio portátil solía ser un proyecto de investigación. En 2026, se trata de una configuración de 15 minutos. Puede tener un asistente de IA verdaderamente capaz funcionando íntegramente en su equipo: sin suscripción, sin conexión a internet necesaria y sin que sus datos salgan jamás de su computadora.
Esta guía explica todo el proceso: qué hardware necesita, qué herramienta utilizar, qué modelo descargar y cómo ponerlo en marcha.
Conclusiones clave
- Camino más sencillo: instala Ollama o LM Studio —ambas te permiten comenzar a usarlas en cuestión de minutos.
- Hardware: 16 GB de RAM constituyen el mínimo recomendable; un Mac con chip Apple Silicon o un portátil con GPU dedicada son ideales.
- Tamaño del modelo: Los modelos de 7–8 mil millones de parámetros (7–8B) representan el punto óptimo para portátiles: potentes y rápidos.
- Cuantización reduce el tamaño de los modelos para adaptarlos a su hardware; las versiones «Q4» son la opción estándar.
- ¿Por qué hacerlo? Es gratuito, totalmente privado y funciona sin conexión a internet.
- ¿Por qué ejecutar un modelo de lenguaje localmente?
- Paso 1: Verifique su hardware
- Paso 2: Elige tu herramienta
- Paso 3: Instala y ejecuta tu primer modelo
- Paso 4: Elige el modelo y su tamaño adecuados
- Paso 5: Comprende la cuantización
- Para ir más lejos
- Por qué va lento — y cómo solucionarlo
- Preguntas frecuentes
- Conclusión
- Artículos relacionados
¿Por qué ejecutar un modelo de lenguaje localmente?
La IA en la nube es conveniente, así que ¿por qué ejecutar usted mismo un modelo? Tres razones reales:
- Privacidad. Nada de lo que escriba abandona su equipo. Para trabajos sensibles, confidenciales o personales, esta es una ventaja real.
- Coste. Es gratuito. Sin suscripciones, sin facturación por token ni límites de uso: genere tanto como desee.
- Sin conexión y siempre disponible. Funciona incluso en un avión, sin conexión a internet, y no puede verse afectado por limitaciones de velocidad ni discontinuarse.
El compromiso: un modelo que se ejecuta en un portátil es más pequeño y menos capaz que un modelo puntero en la nube. No obstante, los modelos pequeños modernos son suficientemente buenos para muchas tareas reales: redacción, resúmenes, ayuda en programación, lluvia de ideas y preguntas y respuestas.
Paso 1: Verifique su hardware
El rendimiento de los modelos de lenguaje locales depende principalmente de la memoria. Esta es la situación realista:
| Su portátil | Qué puede ejecutar |
|---|---|
| 8 GB de RAM | Solo modelos pequeños (1–3 mil millones de parámetros). Utilizables, pero con limitaciones. |
| 16 GB de RAM | Modelos de 7–8 mil millones de parámetros cómodamente: el punto óptimo. |
| 32 GB de RAM | Hasta aproximadamente 13–14 mil millones de parámetros con buena velocidad. |
| Apple Silicon (serie M) | Excelente: su memoria unificada es ideal; los modelos más grandes se ejecutan bien. |
| GPU NVIDIA dedicada | La opción más rápida; la VRAM es el límite para el tamaño del modelo. |
Las dos cosas que importan: memoria total (RAM o VRAM en una GPU) determina el modelo más grande que puedes cargar, y una GPU o Apple Silicon determina la velocidad a la que se ejecuta. Un portátil moderno con 16 GB de RAM es un punto de partida perfectamente válido.
Paso 2: Elige tu herramienta
No interactúas directamente con el modelo sin procesar; usas una herramienta que lo descarga, gestiona y ejecuta. Las mejores opciones en 2026 son:
- Ollama — la opción más popular. Una herramienta limpia para línea de comandos (con una aplicación sencilla) que descarga y ejecuta modelos con un solo comando, y expone una API local para que otras aplicaciones puedan conectarse. La mejor opción general.
- LM Studio — una aplicación gráfica pulida. Explora y descarga modelos, chatea desde una interfaz integrada, sin necesidad de usar la línea de comandos. Ideal para principiantes que prefieren una experiencia visual.
- Jan — una aplicación de escritorio de código abierto centrada en la privacidad, una alternativa limpia a LM Studio.
- llama.cpp — el motor de alto rendimiento sobre el que se construyen muchas de estas herramientas. Úsalo directamente si buscas el máximo control y eficiencia.
Para la mayoría de los usuarios: Ollama si te sientes cómodo con una terminal, LM Studio si prefieres hacer clic.
Paso 3: Instala y ejecuta tu primer modelo
La configuración con Ollama es realmente tan breve como esto:
- Descarga e instala Ollama desde su sitio web oficial.
- Abre una terminal.
- Ejecuta un único comando:
ollama run llama3.1
Este comando descarga el modelo la primera vez (varios gigabytes) y luego te coloca directamente en un prompt de chat. Eso es todo: ya tienes un asistente de IA privado funcionando localmente. La próxima vez, se iniciará al instante.
Con LM Studio el equivalente es: abre la aplicación, busca un modelo, haz clic para descargarlo y luego haz clic para comenzar a chatear, todo mediante la interfaz.
Paso 4: Elige el modelo y su tamaño adecuados
Debes elegir dos cosas: la familia del modelo y su tamaño.
Familia del modelo — entre los modelos abiertos potentes que funcionan bien localmente se incluyen la serie Llama de Meta, la serie Qwende Alibaba, la serie Gemma, los modelos de Mistral y DeepSeeklas versiones más pequeñas de . Todos son buenos; prueba varios y observa cuál prefieres.
Tamaño — los modelos vienen con cantidades de parámetros indicadas como 3B, 8B, 14B (B = miles de millones):
- 1–3B — muy rápidos, ligeros en memoria y adecuados para tareas sencillas. Ideales para equipos con 8 GB de RAM.
- 7–8B — el punto óptimo para portátiles. Realmente capaces para redacción, ayuda en programación y respuestas a preguntas, y funcionan bien en equipos con 16 GB.
- 13–14B y superiores — notablemente más inteligentes, pero requieren 32 GB de RAM o una GPU potente.
Empieza con un modelo de 8B. Es el mejor equilibrio entre capacidad y velocidad para la mayoría de los portátiles.
Paso 5: Comprende la cuantización
Verás nombres de modelos con etiquetas como Q4_K_M o Q8. Esto es cuantización — una técnica de compresión que reduce la precisión de los números del modelo para que utilice mucha menos memoria, con una pérdida mínima de calidad.
- Q8 — máxima calidad, mayor tamaño.
- Q4 — aproximadamente la mitad de la memoria de Q8, con una calidad muy cercana. Esta es la recomendación estándar.
- Q2/Q3 — los más pequeños, pero con una degradación notable de la calidad; úsalos únicamente si la limitación de memoria lo exige.
Regla práctica: elige una versión Q4 cuantizada del modelo más grande que tu memoria pueda alojar cómodamente. Herramientas como Ollama seleccionan automáticamente una cuantización razonable, por lo que normalmente no tendrás que preocuparte por ello.
Para ir más lejos
Una vez que esté funcionando, puedes hacer más que simplemente chatear desde una terminal:
- Conecta una interfaz más atractiva — aplicaciones como Open WebUI ofrecen una ventana estilo ChatGPT sobre tu modelo local.
- Usa la API local — Ollama ofrece una API en tu equipo, por lo que puedes crear scripts y aplicaciones que interactúen con tu modelo local exactamente igual que lo harías con uno en la nube.
- Probar recuperación — apunta una configuración RAG a tus propios documentos para obtener un asistente completamente privado de «conversación con tus archivos».
Por qué va lento — y cómo solucionarlo
La queja más común tras la primera instalación no es que el modelo no se ejecute, sino que avanza a paso de tortuga. En una laptop, una salida lenta casi siempre se debe a que el modelo no está utilizando realmente tu GPU. La forma más rápida de comprobarlo es ejecutar un modelo y, en otra terminal, ejecutar ollama ps. La salida muestra cómo se distribuye el modelo: si indica 100 % GPU, todo está bien; si muestra 100 % CPU o una división entre CPU/GPU, ahí tienes el problema.
Hay tres causas habituales, ordenadas según su frecuencia de aparición:
- La GPU nunca fue detectada. En Windows y Linux con una tarjeta NVIDIA, esto suele significar que los controladores de GPU se instalaron después de después del entorno de ejecución, por lo que este nunca incorporó el soporte para CUDA: Ollama verifica la presencia de la GPU en el momento de la instalación, no durante su ejecución. Confirma que nvidia-smi funciona y luego reinstala el entorno de ejecución para que detecte la GPU. Esta única solución resuelve la mayoría de los informes de «está usando mi CPU».
- El modelo es demasiado grande para tu VRAM. Cuando un modelo no cabe íntegramente, las capas sobrantes se trasladan silenciosamente a la memoria RAM del sistema y a la CPU, y esas pocas capas en CPU ralentizan todo el proceso. La solución consiste en optar por un modelo más pequeño o una cuantización más agresiva (una versión con menor valor Q) para que el modelo completo quepa en la VRAM.
- Tu ventana de contexto es demasiado grande. Un contexto extenso también consume memoria, porque la caché KV crece junto con él. Si la amplías demasiado, algunas capas vuelven a cargarse en la CPU. Si no necesitas un indicador (prompt) muy largo, reduce la longitud del contexto (8K es más que suficiente para la mayoría de las tareas) y el modelo se ajustará con mayor comodidad.
Dos problemas son específicos de las laptops. Primero, la política de energía de batería: la mayoría de las laptops Windows limitan drásticamente la GPU dedicada cuando están desconectadas de la corriente, y desconectarla puede reducir la velocidad de inferencia a la mitad o más. Este comportamiento está integrado en el firmware, no es un error: mantén la laptop conectada a la corriente para trabajos serios. Segundo, la regulación térmica (thermal throttling): tras aproximadamente 10–20 minutos de generación continua, una laptop delgada se calienta y reduce su frecuencia de reloj. Elevar ligeramente la laptop (unos dos centímetros) sobre un soporte para mejorar la circulación de aire, y preferir una cuantización más ligera que genere menos calor, retrasan el punto en que se activa la regulación térmica. Ninguno de estos ajustes convierte una laptop en una estación de trabajo, pero sí marca la diferencia entre unos pocos tokens por segundo y un asistente realmente utilizable.
Preguntas frecuentes
¿Puedo ejecutar Llama en una laptop normal?
Sí. Una laptop con 16 GB de RAM ejecuta cómodamente modelos de 7–8 mil millones de parámetros (7–8B), que son realmente útiles. Incluso las máquinas con 8 GB pueden ejecutar modelos más pequeños de 1–3 mil millones de parámetros (1–3B). Las Mac con chip Apple Silicon y las laptops con GPU dedicada ejecutan especialmente bien los modelos locales.
¿Ejecutar un LLM localmente es gratuito?
Sí. Los modelos se pueden descargar gratuitamente y no hay ningún costo por su uso: puedes generar tanto como desees. El único «costo» es el hardware que utilizas y el espacio en disco que ocupan los archivos del modelo (varios gigabytes cada uno).
¿Cuál es la mejor herramienta para ejecutar LLMs localmente?
Ollama es la opción más popular y la mejor en términos generales: con un simple comando descargas y ejecutas cualquier modelo, además de ofrecer una API local. LM Studio es la mejor alternativa si prefieres una aplicación gráfica sin usar la línea de comandos.
¿Cuánta memoria RAM necesito para ejecutar un LLM local?
16 GB es el mínimo cómodo para modelos realmente capaces de 7–8B. Con 8 GB te limitas a modelos más pequeños de 1–3B. Con 32 GB puedes ejecutar modelos de 13–14B. Más memoria te permite principalmente ejecutar modelos más grandes y avanzados.
¿Son tan buenos los LLMs locales como ChatGPT?
No son tan capaces como los modelos punteros en la nube: los modelos para laptop son más pequeños y menos potentes. Sin embargo, sí son suficientemente buenos para muchas tareas cotidianas: redacción, resúmenes, asistencia en programación y preguntas y respuestas. Intercambias algo de capacidad por privacidad total, ausencia de costos y acceso sin conexión.
¿Por qué va tan lento mi LLM local?
Nueve de cada diez veces, el modelo no está utilizando tu GPU. Ejecuta ollama ps mientras un modelo está cargado: si muestra 100 % CPU o una división CPU/GPU, esa es la causa. Las razones habituales son controladores de GPU instalados después del entorno de ejecución (reinstálalo para que detecte CUDA), un modelo demasiado grande para tu VRAM (usa un modelo más pequeño o una cuantización más agresiva), o una ventana de contexto tan grande que fuerza a ciertas capas a ejecutarse en la CPU (redúcela).
¿Debo mantener mi laptop conectada mientras ejecuto un LLM local?
Sí, para cualquier tarea que vaya más allá de una pregunta rápida. La mayoría de las laptops Windows limitan agresivamente la GPU dedicada cuando funcionan con batería, para prolongar su autonomía, lo que puede reducir a la mitad aproximadamente tu tasa de tokens por segundo. Esta ralentización forma parte de la política de gestión de energía del firmware, no es un fallo. Conectar la laptop restaura las frecuencias máximas de la GPU; además, usar un soporte de ventilación mejora el flujo de aire y ayuda a evitar la regulación térmica que aparece tras sesiones prolongadas.
¿Puedo usar un LLM local completamente sin conexión?
Sí. Solo la descarga inicial del modelo requiere conexión a Internet. Una vez que el modelo está almacenado en disco, funciona totalmente sin conexión: puedes desconectarte por completo y seguir recibiendo respuestas. Ese es su principal beneficio en materia de privacidad: tus indicadores (prompts) nunca salen de tu equipo, lo que convierte al modelo local en una opción sensata para notas confidenciales, borradores o cualquier contenido que no querrías enviar a un servicio en la nube.
Conclusión
Ejecutar un modelo de IA en tu propia laptop ya no es difícil. Instala Ollama o LM Studio, descarga un modelo de 8B en una Q4 cuantización y, en menos de 15 minutos, tendrás un asistente capaz, gratuito, totalmente privado y funcional sin conexión.
No sustituirá a un modelo puntero en la nube para las tareas más exigentes, pero sí resulta genuinamente útil para redacción cotidiana, ayuda en programación y preguntas y respuestas privadas. Y una vez que está funcionando, tú lo posees: sin suscripciones, sin límites y sin que tus datos salgan de tu equipo.

