AgentOptimizationJobLatency interface

Genomsnittlig latens för ett optimeringssteg och modell.

Egenskaper

avg_latency_ms	Genomsnittlig fördröjning per samtal, avrundad till millisekunder.
call_count	Totalt antal samtal som bidrar till denna post.
model	Modellnamn eller distributionsnamn mätt av denna post.
stage	Optimeringssteg mätt med denna post.

Genomsnittlig fördröjning per samtal, avrundad till millisekunder.

avg_latency_ms: number

number

Totalt antal samtal som bidrar till denna post.

call_count: number

number

Modellnamn eller distributionsnamn mätt av denna post.

model?: string

string

Optimeringssteg mätt med denna post.

stage: AgentOptimizationStage