{"id":264,"date":"2026-05-19T16:46:25","date_gmt":"2026-05-19T16:46:25","guid":{"rendered":"https:\/\/convly.ai\/vram-requirements-every-major-llm-2026\/"},"modified":"2026-07-03T13:40:38","modified_gmt":"2026-07-03T13:40:38","slug":"vram-requirements-every-major-llm-2026","status":"publish","type":"post","link":"https:\/\/convly.ai\/es\/vram-requirements-every-major-llm-2026\/","title":{"rendered":"Requisitos de VRAM para cada modelo de lenguaje grande (LLM) importante en 2026 (hoja de referencia sobre cuantizaci\u00f3n)"},"content":{"rendered":"<p>La pregunta m\u00e1s com\u00fan que recibimos de quienes comienzan con modelos de lenguaje locales en 2026 no es \u00ab\u00bfqu\u00e9 modelo deber\u00eda usar?\u00bb, sino \u00ab\u00bffuncionar\u00e1 este modelo en mi GPU?\u00bb.<\/p>\n<p>Esta gu\u00eda es la respuesta. Hemos probado todos los principales modelos de lenguaje abiertos en todas las cuantizaciones habituales, utilizando hardware que va desde una RTX 3060 de 12 GB hasta una H100 de 80 GB; lo que sigue es la hoja de trucos que hubi\u00e9ramos deseado tener al comenzar.<\/p>\n<p>Un recordatorio para los impacientes: <strong>La VRAM es la limitaci\u00f3n determinante.<\/strong>Si el modelo m\u00e1s la cach\u00e9 KV y el contexto no caben en la VRAM, el rendimiento de la inferencia se desploma dr\u00e1sticamente. Todo lo expuesto a continuaci\u00f3n supone que desea realizar la inferencia exclusivamente en la GPU; si est\u00e1 dispuesto a descargar parte del procesamiento a la CPU, divida el rendimiento por un factor de 5 a 10.<\/p>\n<div class=\"convly-tldr\">\n<h3>Conclusiones clave<\/h3>\n<ul>\n<li><strong>VRAM de 12 GB:<\/strong> modelos de 7\u20138 B en Q5+, o de 13 B en Q4. Por ejemplo: Llama 3 8B, Mistral 7B y Phi-4 Mini.<\/li>\n<li><strong>16 GB de VRAM:<\/strong> 13\u201314 B en Q5+. Nivel inc\u00f3modo: demasiado para modelos de 8 B, pero insuficiente para modelos de 30 B.<\/li>\n<li><strong>24 GB de VRAM:<\/strong> 30 B en Q5+, 70 B en Q3_K_S (ajustado). El punto \u00f3ptimo.<\/li>\n<li><strong>32 GB de VRAM:<\/strong> 70 B en Q4_K_M con holgura, 30 B en Q8.<\/li>\n<li><strong>48 GB de VRAM:<\/strong> 70 B en Q5_K_M, m\u00e1s de 100 B en Q3\/Q4.<\/li>\n<li><strong>128 GB unificados (M4 Max):<\/strong> 405 B en Q4, aunque m\u00e1s lento por token que las GPU de NVIDIA.<\/li>\n<\/ul>\n<\/div>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_84 counter-flat ez-toc-counter ez-toc-container-direction\">\n<label for=\"ez-toc-cssicon-toggle-item-6a52f4114c833\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Alternar<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #000000;color:#000000\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewbox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #000000;color:#000000\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewbox=\"0 0 24 24\" version=\"1.2\" baseprofile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-6a52f4114c833\"  aria-label=\"Alternar\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1' ><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/convly.ai\/es\/vram-requirements-every-major-llm-2026\/#The_quick-reference_table\" >Tabla de referencia r\u00e1pida<\/a><\/li><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/convly.ai\/es\/vram-requirements-every-major-llm-2026\/#KV_cache_memory_%E2%80%94_the_part_everyone_forgets\" >Memoria de cach\u00e9 KV: la parte que todos olvidan<\/a><\/li><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/convly.ai\/es\/vram-requirements-every-major-llm-2026\/#GPU_compatibility_matrix\" >Matriz de compatibilidad de GPU<\/a><\/li><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/convly.ai\/es\/vram-requirements-every-major-llm-2026\/#Choosing_the_right_quant_for_your_hardware\" >Elegir la cuantizaci\u00f3n adecuada para tu hardware<\/a><\/li><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/convly.ai\/es\/vram-requirements-every-major-llm-2026\/#MoE_models_%E2%80%94_the_asterisk\" >Modelos MoE \u2014 la excepci\u00f3n<\/a><\/li><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/convly.ai\/es\/vram-requirements-every-major-llm-2026\/#Quick-start_setups_by_budget\" >Configuraciones r\u00e1pidas seg\u00fan presupuesto<\/a><\/li><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-7\" href=\"https:\/\/convly.ai\/es\/vram-requirements-every-major-llm-2026\/#FAQ\" >Preguntas frecuentes<\/a><\/li><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-8\" href=\"https:\/\/convly.ai\/es\/vram-requirements-every-major-llm-2026\/#Bottom_line\" >Conclusi\u00f3n<\/a><\/li><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-9\" href=\"https:\/\/convly.ai\/es\/vram-requirements-every-major-llm-2026\/#Related_articles\" >Art\u00edculos relacionados<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"The_quick-reference_table\"><\/span>Tabla de referencia r\u00e1pida<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Cada gran modelo ling\u00fc\u00edstico abierto (LLM) de 2026 y sus necesidades de VRAM en niveles comunes de cuantizaci\u00f3n. Los valores corresponden \u00fanicamente a los <strong>pesos del modelo<\/strong>, con un contexto de 8 K. A\u00f1ada 1\u20132 GB adicionales para margen del cach\u00e9 KV por cada 8 K de contexto que realmente utilice.<\/p>\n<table class=\"convly-vs\">\n<thead>\n<tr>\n<th>Modelo<\/th>\n<th>FP16<\/th>\n<th>Q8_0<\/th>\n<th>Q5_K_M<\/th>\n<th>Q4_K_M<\/th>\n<th>Q3_K_M<\/th>\n<th>IQ2_XXS<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td><strong>Phi-4 Mini (3,8 B)<\/strong><\/td>\n<td>7,6 GB<\/td>\n<td>4,0 GB<\/td>\n<td>2,7 GB<\/td>\n<td>2,3 GB<\/td>\n<td>1,9 GB<\/td>\n<td>1,4 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>Gemma 2 2B<\/strong><\/td>\n<td>5,0 GB<\/td>\n<td>2,7 GB<\/td>\n<td>1,8 GB<\/td>\n<td>1,6 GB<\/td>\n<td>1,3 GB<\/td>\n<td>1,0 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>Llama 3 8B<\/strong><\/td>\n<td>16,1 GB<\/td>\n<td>8,5 GB<\/td>\n<td>5,7 GB<\/td>\n<td>4,9 GB<\/td>\n<td>4,0 GB<\/td>\n<td>2,9 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>Mistral 7B v0.3<\/strong><\/td>\n<td>14,5 GB<\/td>\n<td>7,7 GB<\/td>\n<td>5,1 GB<\/td>\n<td>4,4 GB<\/td>\n<td>3,6 GB<\/td>\n<td>2,6 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>Qwen 2.5 de 7B<\/strong><\/td>\n<td>15,2 GB<\/td>\n<td>8,1 GB<\/td>\n<td>5,4 GB<\/td>\n<td>4,7 GB<\/td>\n<td>3,8 GB<\/td>\n<td>2,7 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>Phi-4 (14 B)<\/strong><\/td>\n<td>28,0 GB<\/td>\n<td>14,9 GB<\/td>\n<td>10,0 GB<\/td>\n<td>8,5 GB<\/td>\n<td>7,0 GB<\/td>\n<td>5,0 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>Qwen 2.5 14B<\/strong><\/td>\n<td>29,5 GB<\/td>\n<td>15,7 GB<\/td>\n<td>10,5 GB<\/td>\n<td>9,0 GB<\/td>\n<td>7,4 GB<\/td>\n<td>5,3 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>Mistral Nemo 12B<\/strong><\/td>\n<td>24,5 GB<\/td>\n<td>13,0 GB<\/td>\n<td>8,7 GB<\/td>\n<td>7,5 GB<\/td>\n<td>6,1 GB<\/td>\n<td>4,4 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>Qwen 2.5 de 32B<\/strong><\/td>\n<td>65,0 GB<\/td>\n<td>34,6 GB<\/td>\n<td>23,0 GB<\/td>\n<td>19,8 GB<\/td>\n<td>16,3 GB<\/td>\n<td>11,6 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>Yi-1.5 34B<\/strong><\/td>\n<td>68,5 GB<\/td>\n<td>36,4 GB<\/td>\n<td>24,3 GB<\/td>\n<td>20,7 GB<\/td>\n<td>17,1 GB<\/td>\n<td>12,2 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>Llama 3 70B<\/strong><\/td>\n<td>141,0 GB<\/td>\n<td>74,9 GB<\/td>\n<td>49,9 GB<\/td>\n<td>42,5 GB<\/td>\n<td>34,7 GB<\/td>\n<td>24,9 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>Qwen 2.5 72B<\/strong><\/td>\n<td>145,0 GB<\/td>\n<td>77,1 GB<\/td>\n<td>51,4 GB<\/td>\n<td>43,8 GB<\/td>\n<td>35,7 GB<\/td>\n<td>25,6 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>Command R+ 104B<\/strong><\/td>\n<td>208,0 GB<\/td>\n<td>110,5 GB<\/td>\n<td>73,8 GB<\/td>\n<td>62,7 GB<\/td>\n<td>51,6 GB<\/td>\n<td>36,8 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>Mistral Large 2 (123B)<\/strong><\/td>\n<td>247,0 GB<\/td>\n<td>131,4 GB<\/td>\n<td>87,5 GB<\/td>\n<td>74,5 GB<\/td>\n<td>61,0 GB<\/td>\n<td>43,6 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>Mixtral 8x22B (141 B)<\/strong><\/td>\n<td>282,0 GB<\/td>\n<td>150,0 GB<\/td>\n<td>100,0 GB<\/td>\n<td>85,1 GB<\/td>\n<td>69,8 GB<\/td>\n<td>49,9 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>DeepSeek V3 (236 B MoE)<\/strong><\/td>\n<td>475,0 GB<\/td>\n<td>252,0 GB<\/td>\n<td>168,5 GB<\/td>\n<td>143,6 GB<\/td>\n<td>117,4 GB<\/td>\n<td>84,1 GB<\/td>\n<\/tr>\n<tr>\n<td><strong>Llama 3.1 405B<\/strong><\/td>\n<td>810,0 GB<\/td>\n<td>431,0 GB<\/td>\n<td>287,0 GB<\/td>\n<td>244,5 GB<\/td>\n<td>200,1 GB<\/td>\n<td>143,0 GB<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>Una nota pr\u00e1ctica: para uso diario, <strong>Q4_K_M es el equilibrio recomendado<\/strong> entre tama\u00f1o y calidad. La p\u00e9rdida de calidad respecto a FP16 es peque\u00f1a (aumento t\u00edpico de la perplejidad &lt; 2 %) y los ahorros de memoria son enormes (~3,3\u00d7 m\u00e1s peque\u00f1o). Q5_K_M ofrece una calidad marginalmente superior con un aumento de ~17 % en el consumo de memoria. Q3 e IQ2 deben usarse \u00fanicamente en casos de emergencia, ya que la calidad se degrada notablemente.\n\n\n\n<h2><span class=\"ez-toc-section\" id=\"KV_cache_memory_%E2%80%94_the_part_everyone_forgets\"><\/span>Memoria de cach\u00e9 KV: la parte que todos olvidan<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Las cifras anteriores corresponden \u00fanicamente a los pesos del modelo. La <strong>Cach\u00e9 KV<\/strong> \u2014la memoria activa que almacena todos los tokens de su conversaci\u00f3n\u2014 tambi\u00e9n reside en la VRAM y crece linealmente con la longitud del contexto.<\/p>\n<p>Tama\u00f1o aproximado de la cach\u00e9 KV por cada 1 K tokens de contexto, en FP16:<\/p>\n<table class=\"convly-vs\">\n<thead>\n<tr>\n<th>Clase de modelo<\/th>\n<th>KV por cada 1 K tokens<\/th>\n<th>KV por cada contexto de 32 K<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>Modelos B de 7 a 8 mil millones<\/td>\n<td>~32 MB<\/td>\n<td>~1,0 GB<\/td>\n<\/tr>\n<tr>\n<td>Modelos B de 13 a 14 mil millones<\/td>\n<td>~50 MB<\/td>\n<td>~1,6 GB<\/td>\n<\/tr>\n<tr>\n<td>Modelos B de 30 a 34 mil millones<\/td>\n<td>~80 MB<\/td>\n<td>~2,6 GB<\/td>\n<\/tr>\n<tr>\n<td>Modelos B de 70 a 72 mil millones<\/td>\n<td>~160 MB<\/td>\n<td>~5,1 GB<\/td>\n<\/tr>\n<tr>\n<td>Modelos B de 100 a 123 mil millones<\/td>\n<td>~220 MB<\/td>\n<td>~7,0 GB<\/td>\n<\/tr>\n<tr>\n<td>405 mil millones<\/td>\n<td>~500 MB<\/td>\n<td>~16,0 GB<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>La cuantizaci\u00f3n de la cach\u00e9 KV (una opci\u00f3n disponible en llama.cpp y vLLM en 2026) reduce este consumo aproximadamente entre 2 y 4 veces, con un ligero costo en calidad. La mayor\u00eda de las configuraciones productivas actuales emplean una cach\u00e9 KV en formato Q8: pr\u00e1cticamente no afecta la calidad y ahorra una cantidad sustancial de VRAM en contextos largos.<\/p>\n<p>Si planea usar un contexto de 32 K o m\u00e1s <strong>incluya la cach\u00e9 KV en sus c\u00e1lculos de VRAM antes de elegir su GPU<\/strong>.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"GPU_compatibility_matrix\"><\/span>Matriz de compatibilidad de GPU<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>\u00bfQu\u00e9 modelos caben c\u00f3modamente en cada GPU com\u00fan, con las cuantizaciones recomendadas y un contexto de 8 K? \u00abC\u00f3modamente\u00bb significa modelo + cach\u00e9 KV + 1 GB de margen para el sistema.<\/p>\n<table class=\"convly-vs\">\n<thead>\n<tr>\n<th>GPU<\/th>\n<th>VRAM<\/th>\n<th>Mejor ajuste (Q4_K_M)<\/th>\n<th>Mejor ajuste (Q5_K_M)<\/th>\n<th>M\u00e1ximo (cualquier cuantizaci\u00f3n)<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>RTX 3060 12 GB<\/td>\n<td>12 GB<\/td>\n<td>8 mil millones<\/td>\n<td>8 mil millones<\/td>\n<td>14 mil millones en Q3<\/td>\n<\/tr>\n<tr>\n<td>RTX 4060 Ti de 16 GB<\/td>\n<td>16 GB<\/td>\n<td>13 mil millones<\/td>\n<td>13 mil millones<\/td>\n<td>30 mil millones en IQ2<\/td>\n<\/tr>\n<tr>\n<td>RTX 5080 \/ 5070 Ti<\/td>\n<td>16 GB<\/td>\n<td>13 mil millones<\/td>\n<td>13 mil millones<\/td>\n<td>30 mil millones en IQ2<\/td>\n<\/tr>\n<tr>\n<td>RTX 3090 \/ 4090<\/td>\n<td>24 GB<\/td>\n<td>30 mil millones (Qwen 32B)<\/td>\n<td>30 mil millones<\/td>\n<td>70 mil millones en Q3_K_S<\/td>\n<\/tr>\n<tr>\n<td>RX 7900 XTX<\/td>\n<td>24 GB<\/td>\n<td>30 mil millones<\/td>\n<td>30 mil millones<\/td>\n<td>70 mil millones en Q3_K_S<\/td>\n<\/tr>\n<tr>\n<td>RTX 5090<\/td>\n<td>32 GB<\/td>\n<td>70 mil millones<\/td>\n<td>70 mil millones (ajuste ajustado)<\/td>\n<td>70 mil millones en Q5_K_M<\/td>\n<\/tr>\n<tr>\n<td>2 \u00d7 RTX 3090 \/ 4090<\/td>\n<td>48 GB<\/td>\n<td>70 mil millones<\/td>\n<td>70 mil millones<\/td>\n<td>104 mil millones en Q3<\/td>\n<\/tr>\n<tr>\n<td>RTX A6000 \/ 6000 Ada<\/td>\n<td>48 GB<\/td>\n<td>70 mil millones<\/td>\n<td>70 mil millones<\/td>\n<td>104 mil millones en Q3<\/td>\n<\/tr>\n<tr>\n<td>Mac Studio M4 Max de 64 GB<\/td>\n<td>64 GB unificados<\/td>\n<td>70 mil millones<\/td>\n<td>70 mil millones<\/td>\n<td>123 mil millones en Q3<\/td>\n<\/tr>\n<tr>\n<td>H100 de 80 GB<\/td>\n<td>80 GB<\/td>\n<td>70 mil millones (equivalente a FP16)<\/td>\n<td>104 mil millones<\/td>\n<td>123 mil millones en Q4<\/td>\n<\/tr>\n<tr>\n<td>Mac Studio M4 Max de 128 GB<\/td>\n<td>128 GB unificados<\/td>\n<td>104 mil millones<\/td>\n<td>123 mil millones<\/td>\n<td>405 mil millones en IQ2 (lento)<\/td>\n<\/tr>\n<tr>\n<td>H200 \/ DIGITS<\/td>\n<td>141 GB \/ 128 GB unificados<\/td>\n<td>123 mil millones<\/td>\n<td>123 mil millones<\/td>\n<td>405 mil millones en Q3 (lento)<\/td>\n<\/tr>\n<tr>\n<td>B200<\/td>\n<td>192 GB<\/td>\n<td>123 mil millones<\/td>\n<td>123 mil millones<\/td>\n<td>405 mil millones en Q4 (ajuste ajustado)<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>Los patrones que debe interiorizar:<\/p>\n<p>1. <strong>12 GB es el umbral m\u00ednimo de entrada.<\/strong> Debajo de esta capacidad, te ves limitado a modelos diminutos que no justifican una GPU dedicada.<br \/>\n2. <strong>24 GB es el punto de inflexi\u00f3n.<\/strong> Es el nivel m\u00e1s econ\u00f3mico en el que resulta posible ejecutar Llama 3 70B (con cuantizaciones comprometidas).<br \/>\n3. <strong>32 GB permite ejecutar correctamente el modelo de 70B.<\/strong> Esta es la raz\u00f3n fundamental para elegir la RTX 5090 frente a la 4090.<br \/>\n4. <strong>48 GB constituye un rango c\u00f3modo.<\/strong> La mayor\u00eda de las tareas que deseas realizar caben sin problemas.<br \/>\n5. <strong>128 GB unificados representan el l\u00edmite para hardware de consumo.<\/strong> Por encima de este umbral, ya est\u00e1s adquiriendo hardware de servidor.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Choosing_the_right_quant_for_your_hardware\"><\/span>Elegir la cuantizaci\u00f3n adecuada para tu hardware<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>La cuantizaci\u00f3n correcta no siempre es \u00abla mayor que quepa\u00bb. La calidad importa, y en ocasiones un modelo m\u00e1s peque\u00f1o con una mejor cuantizaci\u00f3n supera a uno m\u00e1s grande con una peor.<\/p>\n<p>Clasificaci\u00f3n aproximada de calidad (basada en perplexity; cuanto menor, mejor):<\/p>\n<ul>\n<li><strong>FP16 \/ BF16<\/strong> \u2014 Original. Referencia de calidad base.<\/li>\n<li><strong>Q8_0<\/strong> \u2014 Aumento de ~0,3 % en la perplexity. Pr\u00e1cticamente indistinguible.<\/li>\n<li><strong>Q6_K<\/strong> \u2014 Aumento de ~0,5 %. Indistinguible en la pr\u00e1ctica.<\/li>\n<li><strong>Q5_K_M<\/strong> \u2014 Aumento de ~1,0 %. Ligera p\u00e9rdida de calidad, pero sigue siendo muy alta.<\/li>\n<li><strong>Q4_K_M<\/strong> \u2014 Aumento de ~1,5\u20132,5 %. Recomendada para la mayor\u00eda de los usuarios.<\/li>\n<li><strong>Q4_K_S<\/strong> \u2014 Aumento de ~3 %. Peor que Q4_K_M para un tama\u00f1o similar, de forma perceptible.<\/li>\n<li><strong>Q3_K_M<\/strong> \u2014 Aumento de ~5\u20138 %. Salida afectada de forma visible.<\/li>\n<li><strong>Q3_K_S<\/strong> \u2014 Aumento de ~10 %. \u00dasalo \u00fanicamente si Q4 no cabe en tu hardware.<\/li>\n<li><strong>IQ2_XXS<\/strong> \u2014 Aumento de ~15\u201325 %. \u00daltimo recurso.<\/li>\n<\/ul>\n<p>Regla general: <strong>prefiere un modelo con menos par\u00e1metros en Q5_K_M antes que uno m\u00e1s grande en Q3_K_S<\/strong> para tareas cotidianas. Un Qwen 32B en Q5 suele superar a un Llama 3 70B en IQ2_XXS en benchmarks del mundo real, pese a que este \u00faltimo suene m\u00e1s impresionante sobre el papel.<\/p>\n<p>Excepci\u00f3n: <strong>tareas de programaci\u00f3n y razonamiento<\/strong> donde la ventaja de conocimiento bruto del modelo m\u00e1s grande suele resistir bien una cuantizaci\u00f3n intensa. En concreto, para generaci\u00f3n de c\u00f3digo, incluso una versi\u00f3n Q3_K_S de un modelo de 70B puede superar a una versi\u00f3n Q5_K_M de 30B.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"MoE_models_%E2%80%94_the_asterisk\"><\/span>Modelos MoE \u2014 la excepci\u00f3n<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Los modelos de mezcla de expertos (MoE), como <strong>Mixtral 8x22B<\/strong> y <strong>DeepSeek V3<\/strong> presentan una asimetr\u00eda que confunde a los principiantes:<\/p>\n<ul>\n<li><strong>VRAM necesaria<\/strong> = par\u00e1metros totales (porque debes cargar todos los expertos)<\/li>\n<li><strong>C\u00f3mputo utilizado<\/strong> = par\u00e1metros activos por token (mucho menor)<\/li>\n<\/ul>\n<p>Mixtral 8x22B tiene 141 B totales \/ 39 B activos. Requiere m\u00e1s de 80 GB de VRAM para ejecutarse, pero su velocidad por token se acerca m\u00e1s a la de un modelo denso de 40 B.<\/p>\n<p>DeepSeek V3 tiene 236 B totales \/ 21 B activos. Necesita m\u00e1s de 150 GB de VRAM, pero su velocidad por token se aproxima a la de un modelo denso de 20 B. Por eso DeepSeek V3 es \u00abr\u00e1pido para su tama\u00f1o\u00bb: pagas el coste en VRAM, pero obtienes un descuento en c\u00f3mputo.<\/p>\n<p>Si tu hardware puede alojar un modelo MoE, suele ser la mejor opci\u00f3n. Si no puede, entonces lo que buscas es el modelo denso de la misma clase de par\u00e1metros.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Quick-start_setups_by_budget\"><\/span>Configuraciones r\u00e1pidas seg\u00fan presupuesto<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Para quienes desean una respuesta concreta, aqu\u00ed tienes configuraciones probadas en cinco niveles de presupuesto para 2026:<\/p>\n<table class=\"convly-vs\">\n<thead>\n<tr>\n<th>Presupuesto<\/th>\n<th>GPU<\/th>\n<th>Mejor modelo<\/th>\n<th>Tokens\/segundo<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>$300<\/td>\n<td>RTX 3060 12 GB<\/td>\n<td>Llama 3 8B Q5_K_M<\/td>\n<td>~48<\/td>\n<\/tr>\n<tr>\n<td>$700<\/td>\n<td>RTX 3090 usada<\/td>\n<td>Qwen 2.5 32B Q5_K_M<\/td>\n<td>~28<\/td>\n<\/tr>\n<tr>\n<td>$1,300<\/td>\n<td>RTX 4090 usada<\/td>\n<td>Llama 3 70B Q3_K_S<\/td>\n<td>~13<\/td>\n<\/tr>\n<tr>\n<td>$1,400<\/td>\n<td>2\u00d7 RTX 3090 usadas + NVLink<\/td>\n<td>Llama 3 70B Q4_K_M<\/td>\n<td>~15<\/td>\n<\/tr>\n<tr>\n<td>$2,400<\/td>\n<td>RTX 5090<\/td>\n<td>Llama 3 70B Q5_K_M<\/td>\n<td>~18<\/td>\n<\/tr>\n<tr>\n<td>$5,000<\/td>\n<td>Mac Studio M4 Max de 128 GB<\/td>\n<td>Mistral Large 2 Q4<\/td>\n<td>~6<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>El \u00abnivel de mejor relaci\u00f3n calidad-precio\u00bb en 2026 sigue siendo la RTX 3090 o 4090 usada: son las \u00fanicas GPUs de consumo cuya relaci\u00f3n precio\/VRAM resulta favorable, y ambas seguir\u00e1n siendo capaces al menos hasta 2028.<\/p>\n<p>Para un an\u00e1lisis exhaustivo sobre qu\u00e9 GPU elegir, consulta <a href=\"\/es\/best-gpus-for-local-llms-2026\/\">mejores GPUs para LLM locales en 2026<\/a>.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"FAQ\"><\/span>Preguntas frecuentes<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<h3>\u00bfCu\u00e1nta VRAM necesito para ejecutar Llama 3 70B localmente en 2026?<\/h3>\n<p>M\u00ednimo 24 GB para Llama 3 70B en Q3_K_S (calidad bastante reducida). Con 32 GB puedes ejecutar c\u00f3modamente Q4_K_M (la cuantizaci\u00f3n recomendada). Se requieren 40+ GB para Q5_K_M. Con 24 GB y un contexto de 8 K pr\u00e1cticamente no tienes margen de maniobra; ampliar el contexto a 32 K exige descargar parte al CPU o aplicar una cuantizaci\u00f3n m\u00e1s agresiva.<\/p>\n<h3>\u00bfCu\u00e1l es la diferencia entre Q4_K_M y Q4_K_S?<\/h3>\n<p>Ambas son cuantizaciones de 4 bits del mismo modelo. Q4_K_M (\u00abmedio\u00bb) emplea 5 bits para algunos grupos cr\u00edticos de pesos, lo que lo hace ligeramente mayor pero con una calidad notablemente superior a Q4_K_S (\u00abpeque\u00f1o\u00bb). Para una cantidad casi id\u00e9ntica de VRAM, se prefiere Q4_K_M. Q4_K_S solo tiene sentido cuando intentas ajustar un modelo dentro de un presupuesto muy ajustado de VRAM.<\/p>\n<h3>\u00bfPuedo ejecutar un modelo de lenguaje de gran tama\u00f1o (LLM) que sea mayor que mi VRAM?<\/h3>\n<p>S\u00ed, mediante <strong>la descarga a CPU<\/strong>la descarga parcial a la CPU (offloading), donde algunas capas del modelo se ejecutan en la CPU utilizando la memoria RAM del sistema en lugar de la VRAM de la GPU. La penalizaci\u00f3n en rendimiento es severa (5\u201310 veces m\u00e1s lenta), pero permite ejecutar modelos que, de otro modo, no cabr\u00edan. Es pr\u00e1ctico para uso ocasional, pero resulta muy inc\u00f3modo como entorno principal diario. Tanto llama.cpp como Ollama lo admiten de forma nativa mediante la opci\u00f3n <code>n_gpu_layers<\/code> .<\/p>\n<h3>\u00bfRealmente importa la cach\u00e9 KV al planificar el uso de la VRAM?<\/h3>\n<p>S\u00ed, especialmente con contextos largos. Por ejemplo, para Llama 3 de 70 mil millones de par\u00e1metros (70B) y un contexto de 32 K, la cach\u00e9 KV por s\u00ed sola ocupa aproximadamente 5 GB. Si ya est\u00e1s al l\u00edmite de tu VRAM, experimentar\u00e1s un error de memoria insuficiente (OOM) en cuanto la conversaci\u00f3n se vuelva larga. Planifica teniendo en cuenta la cach\u00e9 KV y considera la cuantizaci\u00f3n Q8 para dicha cach\u00e9 (opci\u00f3n disponible en los motores de inferencia modernos), que reduce su tama\u00f1o aproximadamente a la mitad.<\/p>\n<h3>\u00bfExiste alguna forma de ejecutar Llama 3 de 405 mil millones de par\u00e1metros (405B) en casa?<\/h3>\n<p>S\u00ed, pero necesitas m\u00e1s de 200 GB de memoria en cuantizaciones utilizables. Las opciones realistas para 2026 son: Mac Studio M4 Ultra con 512 GB de memoria ($12 000; lento por token, pero funcional), 8\u00d7 RTX 4090 ($13 000; configuraci\u00f3n compleja), Nvidia DIGITS ($3 000; dise\u00f1ado espec\u00edficamente para este prop\u00f3sito) o una combinaci\u00f3n CPU + 256 GB de RAM DDR5 con una GPU de gama media para descarga parcial ($8 000; lenta). Consulta nuestra <a href=\"\/es\/running-llama-3-405b-at-home-real-cost\/\">gu\u00eda paso a paso sobre c\u00f3mo ejecutar Llama 3 405B en casa<\/a>.<\/p>\n<h3>\u00bfExisten formatos de cuantizaci\u00f3n para 2026, adem\u00e1s de GGUF, que deba conocer?<\/h3>\n<p>S\u00ed: <strong>AWQ<\/strong> (Cuantizaci\u00f3n de pesos consciente de las activaciones) y <strong>GPTQ<\/strong> siguen siendo ampliamente utilizados, especialmente en despliegues con vLLM y TensorRT-LLM. En algunos casos ofrecen una calidad ligeramente superior a la de GGUF para el mismo n\u00famero de bits. Sin embargo, para uso local por consumidores con llama.cpp \/ Ollama \/ LM Studio, GGUF sigue siendo el formato dominante en 2026 debido a su simplicidad y amplio soporte en herramientas.<\/p>\n<h3>\u00bfAfectar\u00e1 la cuantizaci\u00f3n Q4 a la capacidad de programaci\u00f3n?<\/h3>\n<p>Menos de lo que uno podr\u00eda pensar, pero s\u00ed. Para tareas sencillas de autocompletado de c\u00f3digo, Q4_K_M es pr\u00e1cticamente id\u00e9ntico a FP16. Sin embargo, para razonamiento complejo y multietapa a trav\u00e9s de una base de c\u00f3digo completa, Q4 puede generar l\u00f3gica peor que Q5+ en ocasiones. Si realizas programaci\u00f3n seria con modelos locales, prefiere Q5_K_M y elige hardware que lo soporte.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Bottom_line\"><\/span>Conclusi\u00f3n<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Planificar la VRAM para LLM locales en 2026 no es complicado, pero s\u00ed recompensa la precisi\u00f3n. Primero selecciona la clase de par\u00e1metros (el tama\u00f1o del modelo que ofrece la capacidad que necesitas), luego elige la cuantizaci\u00f3n m\u00e1s ligera que ofrezca una calidad aceptable (normalmente Q4_K_M es la adecuada), despu\u00e9s a\u00f1ade el espacio necesario para la cach\u00e9 KV seg\u00fan tu longitud real de contexto y, finalmente, elige una GPU cuya VRAM se ajuste a ese total.<\/p>\n<p>Si solo recuerdas tres n\u00fameros, recuerda estos:<\/p>\n<ul>\n<li><strong>12 GB<\/strong> con 12 GB de VRAM puedes ejecutar modelos de 8 mil millones de par\u00e1metros (8B) sin problemas.<\/li>\n<li><strong>24 GB<\/strong> con 24 GB de VRAM puedes ejecutar modelos de 30 mil millones de par\u00e1metros (30B) con buenas cuantizaciones, y modelos de 70 mil millones (70B) de forma inc\u00f3moda.<\/li>\n<li><strong>32 GB<\/strong> con 32 GB de VRAM puedes ejecutar modelos de 70 mil millones de par\u00e1metros (70B) con buenas cuantizaciones.<\/li>\n<\/ul>\n<p>Todo lo que supere los 32 GB entra en el \u00e1mbito de servidores, y todo lo que quede por debajo de los 12 GB entra en el \u00e1mbito de dispositivos m\u00f3viles o embebidos. La mayor parte de la actividad con LLM locales en 2026 ocurre en el rango de 12\u201332 GB, que coincide exactamente con el rango de GPUs para consumidores \u2014por dise\u00f1o, no por casualidad.<\/p>\n<p><!--related-block--><\/p>\n<div class=\"convly-related\">\n<h2><span class=\"ez-toc-section\" id=\"Related_articles\"><\/span>Art\u00edculos relacionados<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<ul>\n<li><a href=\"https:\/\/convly.ai\/es\/claude-opus-4-8-vs-claude-sonnet-4-6\/\">Claude Opus 4.8 vs Claude Sonnet 4.6: Specs, Pricing &amp; Which to Choose (2026)<\/a><\/li>\n<li><a href=\"https:\/\/convly.ai\/es\/open-source-llm-leaderboard-hardware-2026\/\">Ranking de modelos de lenguaje de c\u00f3digo abierto 2026: Hardware necesario para ejecutar cada modelo destacado<\/a><\/li>\n<li><a href=\"https:\/\/convly.ai\/es\/claude-5-new-ai-models-june-2026\/\">\u00bfExiste un Claude 5? Claude Fable 5 y todos los principales modelos de IA de junio de 2026<\/a><\/li>\n<li><a href=\"https:\/\/convly.ai\/es\/veo-3-vs-kling-3-for-ai-video-2026\/\">Veo 3.1 frente a Kling 3.0 para video con IA en 2026: \u00bfcu\u00e1l gana en realismo?<\/a><\/li>\n<\/ul>\n<\/div>","protected":false},"excerpt":{"rendered":"<p>The complete VRAM cheat sheet for every major open LLM in 2026 \u2014 at every common quantization level \u2014 plus a matrix showing which models fit on 12, 16, 24, 32, 48, and 80 GB GPUs.<\/p>","protected":false},"author":1,"featured_media":271,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[247],"tags":[289,290,288,287,285,286],"class_list":["post-264","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-benchmarks","tag-ggml","tag-gguf","tag-gpu-vram-for-ai","tag-llama-3-vram","tag-llm-vram","tag-quantization"],"_links":{"self":[{"href":"https:\/\/convly.ai\/es\/wp-json\/wp\/v2\/posts\/264","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/convly.ai\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/convly.ai\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/convly.ai\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/convly.ai\/es\/wp-json\/wp\/v2\/comments?post=264"}],"version-history":[{"count":2,"href":"https:\/\/convly.ai\/es\/wp-json\/wp\/v2\/posts\/264\/revisions"}],"predecessor-version":[{"id":1458,"href":"https:\/\/convly.ai\/es\/wp-json\/wp\/v2\/posts\/264\/revisions\/1458"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/convly.ai\/es\/wp-json\/wp\/v2\/media\/271"}],"wp:attachment":[{"href":"https:\/\/convly.ai\/es\/wp-json\/wp\/v2\/media?parent=264"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/convly.ai\/es\/wp-json\/wp\/v2\/categories?post=264"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/convly.ai\/es\/wp-json\/wp\/v2\/tags?post=264"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}