¿Debe comprar una GPU y autoalojar un LLM de código abierto, o simplemente seguir pagando por token mediante una API? Depende del volumen. Ingrese su uso mensual y su hardware, y esta calculadora le mostrará el punto de equilibrio: el momento en que poseer la GPU resulta más económico que la factura de la API.
Su uso
Su sistema de autohospedaje
| Costo de la API (su volumen) | — |
| Costo de autohospedaje (GPU amortizada) | — |
| Costo de autohospedaje (electricidad) | — |
| Costo total de autohospedaje por mes | — |
Ejecuciones de autohospedaje modelos de código abierto (pesos gratuitos), por lo que esta comparación enfrenta el costo por token de la API con la posesión de hardware. Supone que su GPU puede manejar dicho volumen (una sola GPU tiene un límite máximo de tokens/segundo) y omite el tiempo dedicado a la configuración y mantenimiento. Consulte qué modelos puede ejecutar realmente una GPU en nuestra Calculadora de VRAM, y los precios actuales de las APIs en la calculadora de costos.
Recuerde: la autohospedación implica ejecuciones modelos de código abierto, así que tenga en cuenta la diferencia de calidad frente a una API de vanguardia — y utilice nuestra Calculadora de VRAM para confirmar que su GPU puede ejecutar realmente el modelo que desea.