toolbox
Inicio / IA, datos y tecnología / Estimador de capacidad y latencia para procesamiento documental con IA

Estimador de capacidad y latencia para procesamiento documental con IA

Este estimador relaciona la latencia media por documento con el volumen diario para saber cuánta capacidad paralela necesita un sistema de procesamiento documental con IA. A partir de documentos por día, segundos por documento, horas de operación y concurrencia disponible, calcula tanto la concurrencia media requerida como la capacidad teórica del sistema.

Es útil para planificar servicios de extracción, clasificación, OCR enriquecido o análisis con modelos cuando el cuello de botella principal puede aproximarse mediante un tiempo medio de procesamiento. La herramienta trata la latencia como un promedio operativo; colas, reintentos y picos de tráfico pueden elevar la necesidad real de capacidad.

Datos de entrada

docs
s
h
procesos
Resultado
—
procesos concurrentes mínimos (redondeados)
Concurrencia media requerida—
Capacidad teórica/día—
Utilización estimada—

1. Define la demanda diaria
Introduce el número de documentos que el sistema debe completar en un día.

2. Mide la latencia media
Usa el tiempo medio de procesamiento de un documento en condiciones representativas.

3. Indica la ventana operativa
Añade las horas al día durante las que el sistema puede procesar trabajo.

4. Registra la concurrencia disponible
Introduce cuántos documentos pueden procesarse en paralelo con la infraestructura actual.

5. Compara necesidad y capacidad
La herramienta calcula concurrencia requerida, capacidad diaria teórica y utilización.

6. Deja margen para picos
Si la utilización queda muy cerca del 100 %, considera capacidad adicional para variabilidad, colas y reintentos.

Segundos disponibles = Horas/día × 3.600
Concurrencia requerida = Documentos/día × Latencia / Segundos disponibles
Capacidad/día = Concurrencia disponible × Segundos disponibles / Latencia
Utilización = Documentos objetivo / Capacidad × 100

El resultado principal redondea hacia arriba la concurrencia requerida porque no puede desplegarse una fracción de proceso paralelo. La capacidad calculada es teórica y supone trabajo continuo durante la ventana indicada.

Qué significa el resultado

El número principal indica la concurrencia mínima entera que, con la latencia media introducida, cubriría el volumen objetivo dentro de la ventana diaria.

Para sistemas con picos, variabilidad alta o SLA estrictos, utiliza una latencia conservadora y reserva holgura por debajo de la capacidad teórica.

Datos: 20.000 documentos/día, 4,5 s por documento y 16 horas de operación.

Segundos disponibles = 16 × 3.600 = 57.600 s
Concurrencia requerida = 20.000 × 4,5 / 57.600 = 1,5625
Redondeo = 2 procesos

Con 2 procesos, la capacidad teórica es 2 × 57.600 / 4,5 = 25.600 documentos/día y la utilización prevista es 78,13 %.

¿La latencia debe ser media o p95?

Para capacidad media puede usarse la media; para objetivos más conservadores, una latencia p95 o un valor de planificación superior reduce el riesgo de infradimensionar.

¿La concurrencia equivale al número de servidores?

No necesariamente. Puede representar workers, procesos, contenedores, GPUs o ranuras de servicio según la arquitectura.

¿Qué ocurre si la utilización supera el 100 %?

La demanda objetivo excede la capacidad teórica con los valores actuales. Necesitas más concurrencia, más horas de operación o menor latencia.

¿La fórmula incluye tiempos de cola?

No los modela por separado. Si las colas son relevantes, incorpóralas en la latencia observada o aplica un margen de capacidad.

¿Por qué redondear la concurrencia hacia arriba?

Porque una concurrencia calculada de 1,2 requiere al menos 2 unidades paralelas si cada unidad es indivisible.