InferenceDetails interface

Szczegóły wywołania wnioskowania

Właściwości

endpoint

Punkt końcowy wywołania wnioskowania

finishReasons

Tablica przyczyn zakończenia

inputTokens

Liczba używanych tokenów wejściowych

model

Nazwa/identyfikator modelu

operationName

Nazwa/typ operacji dla wnioskowania

outputTokens

Liczba wygenerowanych tokenów wyjściowych

providerName

Nazwa dostawcy (np. openai, azure, antropic)

thoughtProcess

Proces myślowy używany przez agenta

Szczegóły właściwości

endpoint

Punkt końcowy wywołania wnioskowania

endpoint?: ServiceEndpoint

Wartość właściwości

finishReasons

Tablica przyczyn zakończenia

finishReasons?: string[]

Wartość właściwości

string[]

inputTokens

Liczba używanych tokenów wejściowych

inputTokens?: number

Wartość właściwości

number

model

Nazwa/identyfikator modelu

model: string

Wartość właściwości

string

operationName

Nazwa/typ operacji dla wnioskowania

operationName: InferenceOperationType

Wartość właściwości

outputTokens

Liczba wygenerowanych tokenów wyjściowych

outputTokens?: number

Wartość właściwości

number

providerName

Nazwa dostawcy (np. openai, azure, antropic)

providerName?: string

Wartość właściwości

string

thoughtProcess

Proces myślowy używany przez agenta

thoughtProcess?: string

Wartość właściwości

string