AgentOptimizationJobLatency interface

Latence moyenne pour une étape d’optimisation et un modèle.

Propriétés

avg_latency_ms

Latence moyenne par appel, arrondie à la milliseconde.

call_count

Nombre total d’appels ayant contribué à cette entrée.

model

Nom du modèle ou nom de déploiement mesuré par cette entrée.

stage

Étape d’optimisation mesurée par cette entrée.

Détails de la propriété

avg_latency_ms

Latence moyenne par appel, arrondie à la milliseconde.

avg_latency_ms: number

Valeur de propriété

number

call_count

Nombre total d’appels ayant contribué à cette entrée.

call_count: number

Valeur de propriété

number

model

Nom du modèle ou nom de déploiement mesuré par cette entrée.

model?: string

Valeur de propriété

string

stage

Étape d’optimisation mesurée par cette entrée.

stage: AgentOptimizationStage

Valeur de propriété