Condividi tramite


InferenceDetails interface

Dettagli per una chiamata di inferenza

Proprietà

endpoint

Endpoint per la chiamata di inferenza

finishReasons

Matrice di motivi di fine

inputTokens

Numero di token di input usati

model

Nome/identificatore del modello

operationName

Nome/tipo dell'operazione per l'inferenza

outputTokens

Numero di token di output generati

providerName

Nome del provider (ad esempio, openai, azure, anthropic)

thoughtProcess

Processo di pensiero usato dall'agente

Dettagli proprietà

endpoint

Endpoint per la chiamata di inferenza

endpoint?: ServiceEndpoint

Valore della proprietà

finishReasons

Matrice di motivi di fine

finishReasons?: string[]

Valore della proprietà

string[]

inputTokens

Numero di token di input usati

inputTokens?: number

Valore della proprietà

number

model

Nome/identificatore del modello

model: string

Valore della proprietà

string

operationName

Nome/tipo dell'operazione per l'inferenza

operationName: InferenceOperationType

Valore della proprietà

outputTokens

Numero di token di output generati

outputTokens?: number

Valore della proprietà

number

providerName

Nome del provider (ad esempio, openai, azure, anthropic)

providerName?: string

Valore della proprietà

string

thoughtProcess

Processo di pensiero usato dall'agente

thoughtProcess?: string

Valore della proprietà

string