InferenceDetails interface

Oplysninger om et afledningskald

Egenskaber

endpoint	Slutpunktet for inferensopkaldet
finishReasons	Matrix af afslutningsårsager
inputTokens	Antal anvendte inputtokens
model	Modelnavnet/identifikatoren
operationName	Handlingsnavnet/typen for afslutningen
outputTokens	Antal genererede outputtokens
providerName	Udbydernavnet (f.eks. openai, azure, antropisk)
thoughtProcess	Den tankeproces, der bruges af agenten

Slutpunktet for inferensopkaldet

endpoint?: ServiceEndpoint

Matrix af afslutningsårsager

finishReasons?: string[]

string[]

Antal anvendte inputtokens

inputTokens?: number

number

Modelnavnet/identifikatoren

model: string

string

Handlingsnavnet/typen for afslutningen

operationName: InferenceOperationType

Antal genererede outputtokens

outputTokens?: number

number

Udbydernavnet (f.eks. openai, azure, antropisk)

providerName?: string

string

Den tankeproces, der bruges af agenten

thoughtProcess?: string

string