InferenceDetails interface
Dettagli per una chiamata di inferenza
Proprietà
| endpoint | Endpoint per la chiamata di inferenza |
| finish |
Matrice di motivi di fine |
| input |
Numero di token di input usati |
| model | Nome/identificatore del modello |
| operation |
Nome/tipo dell'operazione per l'inferenza |
| output |
Numero di token di output generati |
| provider |
Nome del provider (ad esempio, openai, azure, anthropic) |
| thought |
Processo di pensiero usato dall'agente |
Dettagli proprietà
endpoint
Endpoint per la chiamata di inferenza
endpoint?: ServiceEndpoint
Valore della proprietà
finishReasons
Matrice di motivi di fine
finishReasons?: string[]
Valore della proprietà
string[]
inputTokens
Numero di token di input usati
inputTokens?: number
Valore della proprietà
number
model
Nome/identificatore del modello
model: string
Valore della proprietà
string
operationName
Nome/tipo dell'operazione per l'inferenza
operationName: InferenceOperationType
Valore della proprietà
outputTokens
Numero di token di output generati
outputTokens?: number
Valore della proprietà
number
providerName
Nome del provider (ad esempio, openai, azure, anthropic)
providerName?: string
Valore della proprietà
string
thoughtProcess
Processo di pensiero usato dall'agente
thoughtProcess?: string
Valore della proprietà
string