AgentOptimizationJobLatency interface

Latência média para uma fase de otimização e modelo.

Propriedades

avg_latency_ms	Latência média por chamada, arredondada para milissegundos.
call_count	Número total de chamadas que contribuíram para esta entrada.
model	Nome do modelo ou nome da implantação medido por esta entrada.
stage	Estágio de otimização medido por esta entrada.

Latência média por chamada, arredondada para milissegundos.

avg_latency_ms: number

number

Número total de chamadas que contribuíram para esta entrada.

call_count: number

number

Nome do modelo ou nome da implantação medido por esta entrada.

model?: string

string

Estágio de otimização medido por esta entrada.

stage: AgentOptimizationStage