Periodo

Latency

Este módulo forma parte del roadmap completo del Orquestador de IA de MLG.

Coming soon

Latency está planeado en la especificación completa del MLG AI Control Center y se construirá en una siguiente fase de implementación.

Capacidades planeadas
  • Percentiles P50/P75/P95/P99 separados por LLM, Tool, RAG, Guardrail y orquestación total
  • Desglose de latencia end-to-end por etapa de ejecución