InferenceDetails interface
Detalhes de uma implementação de C# de chamada de inferência
Propriedades
| finish |
Matriz de motivos de término |
| input |
Número de tokens de entrada usados |
| model | O nome/identificador do modelo |
| operation |
O nome/tipo da operação para a inferência |
| output |
Número de tokens de saída gerados |
| provider |
O nome do provedor (por exemplo, openai, azure, antropo) |
| response |
ID de resposta do provedor de modelo |
Detalhes da propriedade
finishReasons
Matriz de motivos de término
finishReasons?: string[]
Valor da propriedade
string[]
inputTokens
Número de tokens de entrada usados
inputTokens?: number
Valor da propriedade
number
model
O nome/identificador do modelo
model: string
Valor da propriedade
string
operationName
O nome/tipo da operação para a inferência
operationName: InferenceOperationType
Valor da propriedade
outputTokens
Número de tokens de saída gerados
outputTokens?: number
Valor da propriedade
number
providerName
O nome do provedor (por exemplo, openai, azure, antropo)
providerName?: string
Valor da propriedade
string
responseId
ID de resposta do provedor de modelo
responseId?: string
Valor da propriedade
string