AgentOptimizationJobLatency interface

單一優化階段和模型的平均延遲。

屬性

avg_latency_ms

平均每次通話延遲,四捨五入到毫秒。

call_count

本條目共有通話次數。

model

此項以型號名稱或部署名稱衡量。

stage

本條目衡量的優化階段。

屬性詳細資料

avg_latency_ms

平均每次通話延遲,四捨五入到毫秒。

avg_latency_ms: number

屬性值

number

call_count

本條目共有通話次數。

call_count: number

屬性值

number

model

此項以型號名稱或部署名稱衡量。

model?: string

屬性值

string

stage

本條目衡量的優化階段。

stage: AgentOptimizationStage

屬性值