AgentOptimizationJobLatency interface

Durchschnittliche Latenz für eine Optimierungsstufe und ein Modell.

Eigenschaften

avg_latency_ms	Durchschnittliche Latenz pro Anruf, abgerundet auf Millisekunden.
call_count	Gesamtzahl der Anrufe, die zu diesem Eintrag beitragen.
model	Modellname oder Bereitstellungsname, gemessen durch diesen Eintrag.
stage	Optimierungsphase, gemessen durch diesen Eintrag.

Durchschnittliche Latenz pro Anruf, abgerundet auf Millisekunden.

avg_latency_ms: number

number

Gesamtzahl der Anrufe, die zu diesem Eintrag beitragen.

call_count: number

number

Modellname oder Bereitstellungsname, gemessen durch diesen Eintrag.

model?: string

string

Optimierungsphase, gemessen durch diesen Eintrag.

stage: AgentOptimizationStage