Lo que cuesta un millón de tokens, de las dos formas.

La versión corta

Casi todas las comparaciones entre estas dos opciones que leerá se resumen en una sola cifra — «el autoalojamiento es diez veces más barato», «la API es más barata hasta que se vuelve enorme» — y ambas cometen el mismo error, que es citar un coste por token para una máquina que no se factura por token. Una GPU alquilada tiene exactamente un precio y no se mueve: tanto si genera mil millones de tokens este mes como si no genera ninguno, la factura es idéntica. Así que la pregunta honesta no es «cuánto cuesta aquí un token» sino «cuántos tokens necesito generar antes de que el precio fijo supere al contador».

Ese número es una división, y se calcula más abajo con nuestros propios precios y nuestro propio modelo de rendimiento — el mismo que usa el configurador. Todo lo que sigue trata de las dos cosas que determinan si puede alcanzar ese volumen: el procesamiento por lotes y las horas que deja la máquina inactiva.

La aritmética

Cuatro líneas. La tercera es la que merece la pena escribir en una pizarra; la cuarta es la que la gente se salta, y saltársela es lo que convierte una estimación sólida en una equivocada.

# 1. What the API charges. Linear in what you use, zero when you stop.
api_cost_per_month = output_tokens_per_month / 1e6 × api_price_per_million

# 2. What the machine charges. A constant. Tokens are free once you own the hours.
machine_cost_per_month = monthly_price

# 3. Set them equal. This is the break-even VOLUME, in output tokens per month.
break_even_tokens = monthly_price / api_price_per_million × 1e6

# 4. And the only question that matters: can the machine produce that many?
#    730 hours is the month we bill, so 2,628,000 seconds of it.
sustained_tokens_per_second = break_even_tokens / 2,628,000

La línea 4 es una tasa sostenida, no un pico. Una máquina que alcanza 600 tokens por segundo durante una hora al día y permanece inactiva las otras veintitrés tiene una tasa sostenida de 25, y a la factura le da igual de cuál de los dos hable usted.

Lo que cuesta un flujo único

Empiece por el peor caso, porque es la única cifra que puede indicarse sin suposiciones: una solicitud a la vez, sin procesamiento por lotes, con la máquina inactiva el resto del tiempo. Cada nodo de abajo ejecuta Llama 3.3 70B a 4-bit (AWQ, GPTQ), y el rendimiento es nuestra propia estimación conservadora — la que está limitada por el ancho de banda de memoria y no medida en un buen día.

Lea esto como un techo, nunca como un presupuesto. Es lo que cuesta un token si hace que la máquina responda una pregunta a la vez y la deja inactiva el resto del mes — la forma menos eficiente de tener una GPU que existe. Cualquier pila de servicio real lo hace mejor, y las dos secciones siguientes tratan de cuánto mejor.

El punto de equilibrio, por nivel

Tome la fila más barata de arriba — 2 × NVIDIA RTX 5090 a $692 al mes — y pregúntese cuánto trabajo tiene que hacer para superar a cada nivel del mercado de las API.

La última columna es todo el artículo. Donde dice «ya más barato», un flujo sin procesamiento por lotes en una máquina $692 supera a la API y no hay nada que pensar. Donde muestra un múltiplo, la máquina aún puede ganar — pero solo si realmente la mantiene ocupada, que es la siguiente sección.

El procesamiento por lotes lo es todo

Generar un token requiere leer los pesos activos de la memoria una vez. Generar cien tokens para cien solicitudes distintas también requiere leerlos una sola vez — los mismos pesos sirven a todas las solicitudes del lote. Por eso una pila de servicio con procesamiento continuo por lotes produce muchas veces más tokens por segundo que un flujo único en el mismo hardware, y por eso la proporción de la última columna de esa tabla es alcanzable.

La consecuencia práctica: trate el múltiplo de la tabla de punto de equilibrio como un objetivo de rendimiento, no como un número de usuarios. Un objetivo de diez veces el flujo único no significa «diez usuarios»; significa que el servidor debe promediar diez veces su tasa sin procesamiento por lotes, lo que normalmente requiere bastante más de diez solicitudes simultáneas y bastante menos de cien. Mídalo en la máquina antes de comprometerse con una cifra — es un solo benchmark, y zanja la discusión.

Las horas inactivas que sigue pagando

Todo lo anterior suponía que la carga se reparte de forma uniforme a lo largo del mes. Nunca es así. Una máquina alquilada al mes se paga también el domingo a las 04:00, y los tokens que no generó entonces no se trasladan. Divida la semana que realmente sirve entre la semana que realmente paga:

La tercera fila es donde vive la mayoría de las herramientas internas, y multiplica en silencio su punto de equilibrio por más de cuatro. Esa es, con diferencia, la razón más común por la que una estimación de alojamiento propio resulta errónea — no el precio del token, no el hardware, sino suponer que una semana laboral es una semana entera.

Por qué su prompt es casi gratis

Hay una asimetría que favorece claramente ser propietario de la máquina, y ninguna comparación de precio por token la muestra. Una API le cobra por los tokens de entrada — normalmente entre un cuarto y un tercio del precio de salida, por token. En su propia GPU, los tokens de entrada se procesan en la pasada de prefill, que maneja todo el prompt en paralelo y está limitada por el cómputo, no por el ancho de banda de memoria. El prefill funciona a un orden de magnitud más tokens por segundo que la generación.

Lo que la aritmética deja fuera

Cuatro cosas que nunca aparecen en una tabla de coste por token, y que deciden la cuestión al menos tan a menudo como las cifras.

En qué lado está usted

En orden, y deténgase en la primera que le describa.

1. Necesita la calidad de un modelo cerrado de vanguardia. Entonces este artículo no se aplica: nadie le alquila esos pesos. Use la API, y vuelva a valorarlo cuando un modelo abierto reduzca la distancia en su tarea concreta.
2. Su volumen es bajo, o todavía no lo sabe. Use la API. Es la forma más barata de averiguar cómo es realmente su tráfico, y el contador es un instrumento de medida perfectamente válido.
3. Su tráfico es irregular y tolera una cola. Use la API, o repártalo: su propia máquina para la carga base constante, un endpoint alojado para los picos. Nada obliga a que la decisión sea toda en un solo sentido.
4. Mantiene un volumen real y por lotes contra un modelo de pesos abiertos. Este es el caso en que gana el hardware, y gana por mucho — el precio fijo deja de moverse mientras el contador sigue corriendo. Compruebe su propia cifra en la tabla de arriba antes de creérsela.
5. Los prompts son sensibles, el modelo no debe cambiar, o la factura debe conocerse de antemano. Entonces la aritmética es una formalidad. Alquile la máquina que aloja su modelo, y páguela sin decirle a nadie quién es.

Sea cual sea la línea en la que se haya detenido, la cifra que hay que comprobar es la de la tabla de punto de equilibrio para su modelo y su volumen. El configurador indica, para cada nodo que alquilamos, si su modelo cabe en una sola tarjeta, si hay que repartirlo, y cuál es la estimación de rendimiento — que es todo lo que necesita esta aritmética. Si todavía está decidiendo entre alquilar por mes o pagar por horas, ese es otro punto de equilibrio distinto, y también está resuelto.