AgentOptimizationJobLatency interface
Latence moyenne pour une étape d’optimisation et un modèle.
Propriétés
| avg_latency_ms | Latence moyenne par appel, arrondie à la milliseconde. |
| call_count | Nombre total d’appels ayant contribué à cette entrée. |
| model | Nom du modèle ou nom de déploiement mesuré par cette entrée. |
| stage | Étape d’optimisation mesurée par cette entrée. |
Détails de la propriété
avg_latency_ms
Latence moyenne par appel, arrondie à la milliseconde.
avg_latency_ms: number
Valeur de propriété
number
call_count
Nombre total d’appels ayant contribué à cette entrée.
call_count: number
Valeur de propriété
number
model
Nom du modèle ou nom de déploiement mesuré par cette entrée.
model?: string
Valeur de propriété
string
stage
Étape d’optimisation mesurée par cette entrée.
stage: AgentOptimizationStage