- Introduce las tareas completadas. Usa solo las unidades útiles que quieras incluir en el denominador.
- Indica GPU y tarifa. Especifica el número de GPU utilizadas y su coste horario efectivo.
- Añade la duración. Introduce las horas de ocupación atribuibles al lote.
- Incluye otros costes. Suma almacenamiento, CPU, red u otros componentes que quieras imputar.
- Revisa el coste unitario. Utilízalo para comparar ejecuciones o proyectar presupuestos.
Calculadora de coste por tarea de procesamiento por lotes LLM
Calcula el coste medio por tarea de una ejecución LLM por lotes a partir del número de GPU, su coste horario, la duración del lote y los gastos adicionales. En vez de depender de una tarifa de tokens concreta, este enfoque parte del coste de infraestructura consumida durante la ejecución.
Es apropiado para despliegues propios, instancias alquiladas o entornos donde quieras comparar lotes con distinta eficiencia. El desglose muestra coste de GPU, coste adicional y coste total antes de repartirlo entre las tareas completadas.
Datos de entrada
Todos los importes se expresan en USD en el formulario. El método distribuye el coste total de forma uniforme entre las tareas completadas.
Qué significa el resultado
Es el coste medio de infraestructura imputado a cada tarea útil del lote.
Si algunas tareas consumen mucho más que otras, el promedio puede ocultar diferencias; segmenta por tipo de tarea cuando necesites atribución más precisa.
Datos: 75.000 tareas, 6 GPU a 2,80 USD/h, 3,5 h de ejecución y 12 USD adicionales.
Cálculo: coste GPU = 6 × 2,80 × 3,5 = 58,80 USD. Total = 58,80 + 12 = 70,80 USD. Por tarea = 70,80 / 75.000 = 0,000944 USD.
Resultado: 0,000944 USD por tarea.
¿Debo contar tareas fallidas?
Si quieres medir coste por tarea útil, usa como denominador solo las completadas correctamente y deja que el coste de fallos quede incluido en el total.
¿Qué tarifa por GPU debo introducir?
Usa el coste horario efectivo que pagas o imputas. Puede incluir descuentos si ya están reflejados en esa tarifa.
¿Cómo trato CPU y almacenamiento?
Súmalos en costes adicionales del lote si quieres que formen parte del coste unitario.
¿Este método sustituye una calculadora basada en tokens?
No. Son enfoques distintos: uno mide coste de infraestructura y el otro aplica precios por tokens. Puedes comparar ambos cuando tu arquitectura lo permita.
¿Por qué puede bajar el coste por tarea aunque use más GPU?
Si más GPU reducen suficientemente la duración total, el producto GPU × horas puede mantenerse o incluso caer. La relación debe comprobarse con throughput real.