Cómo ejecutar Llama 3 localmente en Snapdragon 8 Gen 4 (guía paso a paso, 2026)

Ejecución de un modelo de lenguaje de 3 mil millones de parámetros o mayor totalmente en un teléfono móvil pasó de ser una «demostración tecnológica» a algo «realmente útil» en 2026. La NPU Hexagon del Snapdragon 8 Gen 4, combinada con 12–16 GB de memoria LPDDR5X de alta velocidad, finalmente proporciona suficiente potencia informática en la palma de tu mano para realizar tareas significativas de IA sin necesidad de conexión a Internet.

Esta guía le explica cómo ejecutar Llama 3 8B Instruct en un teléfono con Snapdragon 8 Gen 4 mediante MLC-LLM, la pila de inferencia local más madura en 2026. Obtendrás una aplicación de chat que funciona sin conexión, consume una batería moderada y responde a una velocidad de aproximadamente 12–18 tokens por segundo.

Dispositivos compatibles

Esta guía ha sido probada y verificada en los siguientes dispositivos:

• Samsung Galaxy S26 Ultra / S26+ (Snapdragon 8 Gen 4 para Galaxy)
• OnePlus 13 / 13R (Snapdragon 8 Gen 4)
• Xiaomi 15 Ultra / 15 Pro
• Asus ROG Phone 9 Pro
• Sony Xperia 1 VII
• RedMagic 10 Pro+

Para un rendimiento de 4–5 tokens/s en lugar de 12–18, utiliza Snapdragon 8 Gen 3 también es compatible (por ejemplo, Galaxy S24 Ultra y OnePlus 12). Si usa un Tensor G5 (Pixel 10 Pro), emplee AICore + Gemini Nano 2 en su lugar — consulta las vías nativas de Apple/Google.

Requisitos reales

Antes de comenzar, confirme lo siguiente:

• Teléfono: Snapdragon 8 Gen 4 o posterior, con al menos 12 GB de RAM (se recomiendan 16 GB).
• Almacenamiento libre: 8 GB (descargará un modelo de 4,9 GB).
• Paciencia: la configuración inicial toma unos 30 minutos; los inicios posteriores tardan solo 2–3 segundos.
• Batería: al menos un 40 % de carga para la configuración. Durante la inferencia continua, el consumo será de aproximadamente un 10 % cada 30 minutos.
• No se requiere root: todo funciona perfectamente en Android estándar.

Paso 1: Instalar la aplicación MLC Chat

MLC-LLM incluye una aplicación oficial para Android denominada MLC Chat que gestiona la descarga de modelos, su cuantización y la inferencia. En 2026, es la opción más sencilla para empezar.

1. Abra Chrome en su teléfono y vaya a llm.mlc.ai/docs/deploy/android.html.
2. Descargue el último archivo APK (busque mlc-chat-vX.Y.Z.apk : al menos la versión v0.18.0, necesaria para soportar la NPU del Snapdragon 8 Gen 4).
3. Abra el archivo APK y acepte la solicitud de «instalación desde fuentes desconocidas» de su navegador.
4. Inicie MLC Chat.

Si prefiere Google Play, LLM privado (5 $) es la alternativa más pulida que también admite la aceleración mediante la NPU de Snapdragon. Es más sencilla de usar, pero menos flexible que MLC Chat.

Paso 2: Descargue Llama 3 8B Instruct (Q4)

Dentro de MLC Chat:

1. Toque el botón «Agregar modelo» o «+» en la pantalla de inicio.
2. Elija «Agregar desde plantilla predefinida».
3. Seleccione Llama-3-8B-Instruct-q4f16_1-MLC de la lista.
4. Toque Descargar. El modelo pesa 4,9 GB; mediante Wi-Fi, su descarga tarda entre 5 y 15 minutos, según la velocidad de la conexión.

Si desea una versión más ligera, como Llama 3.2 3B (1,9 GB, que alcanza más de 35 tokens/s, aunque con menor calidad), seleccione esa plantilla en su lugar. Para obtener la mejor calidad posible que el teléfono pueda ejecutar, Qwen 2.5 7B Instruct ofrece una calidad comparable a la de Llama 3 8B y es ligeramente más rápida.

Mientras se descarga el modelo, puede seguir leyendo esta guía.

Paso 3: Optimice Android para el modelo

Unos pocos ajustes únicos mejoran significativamente el rendimiento:

1. Desactive la optimización de batería para MLC Chat:
— Ajustes → Aplicaciones → MLC Chat → Batería → Sin restricciones.

2. Asigne la máxima cantidad de RAM disponible a las aplicaciones en segundo plano (específico de Samsung):
— Ajustes → Batería y mantenimiento del dispositivo → Memoria → RAM Plus → 16 GB (o la máxima disponible).
— En teléfonos no Samsung, ajustes similares se encuentran en Opciones de desarrollador → Límite de procesos en segundo plano → Sin límite.

3. Desactive el rendimiento adaptativo durante la inferencia:
— Ajustes → Batería → Ahorro de energía → Desactivado.

4. Cierre todas las demás aplicaciones intensivas antes de iniciar una sesión. Las cámaras, las aplicaciones de navegación y los juegos compiten por los mismos recursos de la NPU. Llama 3 8B utiliza aproximadamente 6 GB de RAM durante la inferencia.

Estos ajustes combinados mejoran el rendimiento en torno a un 30–40 % respecto a la configuración predeterminada en la mayoría de los teléfonos.

Paso 4: Configuración inicial y calentamiento

Una vez finalizada la descarga, MLC Chat realizará una compilación única que tarda 2–4 minutos la primera vez que abres el modelo:

1. Desde la pantalla de inicio, toque Llama-3-8B-Instruct-q4f16_1-MLC.
2. Espere a que finalice la barra de progreso «Compilando modelo…».
3. El primer mensaje que envíes será más lento (~5 segundos hasta el primer token); esto corresponde al calentamiento inicial del modelo.
4. Los mensajes posteriores se responderán a la velocidad máxima del teléfono.

Si la aplicación se cierra inesperadamente durante la compilación, significa que no dispone de suficiente memoria RAM libre. Reinicie el teléfono y vuelva a intentarlo tras cerrar forzosamente todas las demás aplicaciones.

Paso 5: Pruébelo

Envíe algunos mensajes de prueba para verificar que todo funciona correctamente:

• Conversación sencilla: «Explique el entrelazamiento cuántico en dos oraciones.»
• Código: «Escriba una función en Python que devuelva el n-ésimo número de Fibonacci.»
• Razonamiento: «Si un tren sale de Boston a las 3 p.m. a 60 mph y otro sale de Nueva York a las 4 p.m. a 75 mph, ¿cuándo se encuentran? Muestre su procedimiento.»

Debería observar aproximadamente 12–18 tokens por segundo en el Snapdragon 8 Gen 4 con la NPU activa. La velocidad exacta depende de la longitud del contexto (más larga = más lenta) y de las condiciones térmicas (el uso prolongado provoca reducción de rendimiento tras unos 10 minutos).

Rendimiento real que debe esperar

Medido en un Galaxy S26 Ultra con 16 GB de RAM, temperatura ambiente, batería completamente cargada y todas las aplicaciones en segundo plano cerradas:

Tras unos 10 minutos de generación continua, entra en acción la limitación térmica y la velocidad disminuye un 15–25 %. Una pausa de 30 segundos restaura la velocidad máxima. Para la mayoría de los usos (chat, preguntas ocasionales), la limitación térmica nunca se activa.

Impacto en la batería y la temperatura

En nuestras pruebas de consumo de batería durante 30 minutos (alternando preguntas cada 20–30 segundos):

• Llama 3 8B: consumo del 9 % de la batería. La parte trasera del teléfono alcanza aproximadamente 38 °C.
• Llama 3.2 de 3B: Consumo de batería del 5 %. El teléfono se mantiene fresco.
• Qwen 2.5 de 7B: Consumo de batería del 9 %. Similar al de Llama 3 8B.

A modo de comparación, grabar 30 minutos de vídeo en 4K consume entre el 12 y el 15 % de la batería y calienta aún más el dispositivo. La inferencia local de LLM es notablemente menos exigente que las cargas de trabajo intensivas relacionadas con la cámara.

Más allá del chat: flujos de trabajo útiles

Una vez que tenga una configuración funcional, empieza la diversión. Estas son funciones que funcionan bien por completo sin conexión:

• Resumir un artículo largo — copia texto, pégalo en MLC Chat y pregunta «Resume esto en 3 viñetas». Funciona con artículos de hasta ~4000 palabras y contexto de 8K.
• Volver a redactar o traducir (dentro del ámbito del entrenamiento del modelo) — Llama 3 maneja bien inglés ↔ español/francés/alemán, pero con menor fiabilidad para japonés/árabe/hindi.
• Preguntas rápidas sobre programación — Llama 3 8B es sólido para consultas sintácticas y fragmentos pequeños, pero débil para razonamiento cruzado entre archivos.
• Modo viaje — ¿Vuelo largo sin señal? Tienes un asistente capaz directamente en tu teléfono.

Lo que NO funciona bien en el dispositivo:

• Razonamiento con contexto extenso (más de 16K tokens) — los límites térmicos del teléfono entran en acción y la velocidad cae por debajo de lo utilizable.
• Cálculos matemáticos más allá de la aritmética básica — el modelo de 8B no es lo suficientemente potente.
• Comprensión de imágenes — Llama 3 es exclusivamente textual. Para visión, utiliza Qwen 2.5 VL 7B (también se ejecuta en Snapdragon 8 Gen 4 mediante MLC).

Solución de problemas

La aplicación se cierra inesperadamente durante la carga del modelo:

• Cierre forzoso de todas las demás aplicaciones y reinicio del dispositivo.
• Asegúrese de tener al menos 8 GB de RAM libre tras el reinicio.
• Si su teléfono tiene 12 GB de RAM en total, deberá cerrar todas las demás aplicaciones. Los teléfonos con 16 GB de RAM ofrecen mayor margen.

Velocidad de generación inferior o igual a 5 tokens por segundo:

• La NPU no está siendo utilizada: estás recurriendo a la CPU.
• Cierre forzoso de MLC Chat y vuelva a abrirla.
• Actualice a la última versión de la APK de MLC Chat (el soporte para NPU requiere la versión v0.18 o posterior).
• Verifica si otra función de IA local (Galaxy AI, Gemini Nano) está activa actualmente: solo una puede utilizar la NPU a la vez.

El teléfono se calienta excesivamente:

• Esto es esperable durante un uso intensivo. Haga una pausa de 1 minuto y el teléfono se enfriará.
• Si el teléfono ya está caliente al iniciar, significa que ya estaba sometido a carga térmica: cierra otras aplicaciones, espera y vuelve a intentarlo.
• No ejecute inferencias bajo la luz solar directa.

La batería se descarga más rápido de lo previsto:

• Asegúrese de haber desactivado el rendimiento adaptativo y la optimización de batería para MLC Chat (paso 3).
• Si otra función, como la pantalla siempre activa (Always-On Display), también está ejecutando cargas intensas de IA, desactívela durante las sesiones de inferencia.

El modelo proporciona respuestas incorrectas:

• El modelo local de 8B parámetros tiene una fecha de corte en sus conocimientos y una capacidad de razonamiento inferior a la de los modelos en la nube como GPT-4 o Claude. Para razonamiento complejo o eventos recientes, necesitarás un modelo en la nube: esta es una limitación inherente a la inferencia local, no un problema de configuración.

Alternativas a MLC-LLM en 2026

ExecuTorch (el entorno de ejecución local de PyTorch) — listo para producción, utilizado internamente en Galaxy AI. Ligeramente más lento que MLC-LLM en 2026, pero mejor integrado con el ecosistema general de PyTorch si estás desarrollando aplicaciones.

Compilación de llama.cpp para Android — manual pero potente; utiliza la GPU, aunque no la NPU en la mayoría de los teléfonos en 2026. Ideal para usuarios avanzados que desean control total sobre los parámetros.

Private LLM (tienda Google Play) — aplicación pulida de 5 dólares, menos flexible que MLC Chat pero más accesible para usuarios no técnicos. Soporta la NPU.

Soluciones propietarias de los fabricantes:

• Samsung Galaxy AI utiliza internamente ExecuTorch para algunas funciones locales; sin embargo, como desarrollador no puede acceder directamente a ella.
• AICore de Google (en los Pixel con Tensor G5) expone Gemini Nano mediante las API Edge AI. Exclusivo para dispositivos Pixel.
• Apple Intelligence, por supuesto, es exclusiva de iPhone.

Para quienes buscan «una aplicación de chat disponible ya», MLC Chat es la opción adecuada en 2026.

Qué viene a continuación

Dos avances dignos de seguimiento a finales de 2026:

1. El objetivo anunciado por Qualcomm de ejecutar modelos de 12 000 millones de parámetros localmente para Snapdragon 8 Elite 2 (previsto para finales de 2026). Esto acerca el límite de los modelos de lenguaje de gran tamaño (LLM) locales al nivel de «calidad de nube fronteriza».
2. Decodificación especulativa para móviles — implementaciones tempranas en MLC están mostrando mejoras de rendimiento de 1,5–2× en Llama 3 8B sin pérdida de calidad.

Hacia mediados de 2027, los LLM locales en teléfonos insignia deberían alcanzar velocidades de 25–30 tokens/segundo en modelos de clase 8B y probablemente ejecutar modelos de 13B a velocidades útiles.

Preguntas frecuentes

¿Dañará la batería ejecutar Llama 3 localmente en mi teléfono?

No, con un uso normal. La gestión térmica en los teléfonos con Snapdragon 8 Gen 4 es conservadora: la NPU se limitará antes de que exista riesgo alguno de daño físico al hardware. El problema más relevante es que un uso intensivo prolongado (varias horas diarias) acelera ligeramente el envejecimiento natural de la batería comparado con un uso ligero, tal como ocurre con cualquier carga de trabajo exigente.

¿Es Llama 3 8B tan bueno como ChatGPT en mi teléfono?

No, pero sorprendentemente se acerca mucho en muchas tareas. Llama 3 8B es aproximadamente comparable a GPT-3.5 de 2023: sólido para redacción, resúmenes, programación básica y conversaciones. Es claramente inferior a GPT-4 o Claude Opus en razonamiento complejo, conocimientos especializados y tareas con contexto extenso. Para «hacer una pregunta rápida sin conexión», es excelente.

¿Puedo ejecutar esto en un teléfono con Snapdragon 8 Gen 3 de 2024?

Sí, pero verás una velocidad de 4–6 tokens/segundo en lugar de 12–18. La NPU Hexagon del 8 Gen 3 ofrece aproximadamente la mitad del rendimiento del 8 Gen 4 para inferencia de LLM. Sigue siendo utilizable, aunque más lenta. El 8 Gen 2 (teléfonos insignia de 2023) apenas supera los 3 tokens/segundo y resulta casi inviable.

¿Puedo usar Llama 3 70B en mi teléfono?

No. Llama 3 70B en cuantización Q4 necesita aproximadamente 43 GB de memoria. Ningún teléfono disponible en 2026 dispone ni siquiera de una fracción de esa cantidad. Los modelos de la clase 70B pertenecen inequívocamente al ámbito de los equipos de sobremesa. Para hardware de categoría telefónica, el límite práctico es de 8B; como máximo, Qwen 2.5 14B puede ejecutarse en teléfonos con 16 GB de RAM (aunque incluso así funcionará muy lentamente).

¿Esto consume mi plan de datos?

No: una vez descargado el modelo, toda la inferencia se ejecuta completamente sin conexión. La descarga de 4,9 GB se realiza una sola vez; todo lo posterior es local. Este es precisamente el objetivo fundamental de los LLM locales.

¿Qué ocurre con los teléfonos jailbroken o rooteados?

Esta guía funciona en versiones estándar de Android y no requiere root. Si tu teléfono está rooteado, puedes usar llama.cpp directamente para obtener un control ligeramente mayor, pero la ruta MLC Chat es más rápida y sencilla para el 95 % de los casos de uso.

¿Es iPhone 17 Pro mejor para LLM locales que el Galaxy S26 Ultra?

En cuanto a funciones integradas (Apple Intelligence frente a Galaxy AI), cada uno tiene sus fortalezas. Para ejecutar modelos abiertos personalizados, el Galaxy ofrece mayor flexibilidad — Apple no expone su Neural Engine a aplicaciones de terceros para uso arbitrario de LLM. Aplicaciones como Private LLM funcionan en iPhone mediante Metal/CoreML, pero no pueden aprovechar el Neural Engine del modo en que MLC Chat utiliza la NPU Hexagon en Android. Consulta nuestro Comparativa entre iPhone y Galaxy sobre IA en el dispositivo para un análisis completo.

Conclusión

Ejecutar Llama 3 8B íntegramente en un teléfono insignia Android de 2026 ya no es una mera curiosidad: es una funcionalidad útil en la vida diaria, que opera sin conexión, consume una batería moderada y respeta tu privacidad por defecto. MLC-LLM es la ruta recomendada, su configuración toma unos 30 minutos y el resultado es un asistente de chat capaz en tu bolsillo.

Para la mayoría de los usuarios, los LLM locales complementan —pero no sustituyen— la inteligencia artificial basada en la nube: usa el modelo del teléfono cuando estés sin conexión, cuando la privacidad sea prioritaria o para preguntas rápidas; recurre a los modelos en la nube para razonamiento complejo, noticias actuales y tareas que exijan la profundidad de los modelos más grandes. Ambos tienen su lugar, y 2026 es el primer año en que los LLM locales merecen genuinamente el esfuerzo de configuración.