InferenceResponse interface

Szczegóły rejestrowania odpowiedzi z wywołania wnioskowania

Właściwości

content	Wygenerowana zawartość odpowiedzi
finishReason	Przyczyna zakończenia (np. stop, długość, content_filter)
inputTokens	Liczba używanych tokenów wejściowych
outputTokens	Liczba wygenerowanych tokenów wyjściowych
responseId	Identyfikator odpowiedzi od dostawcy modelu

Wygenerowana zawartość odpowiedzi

content: string

string

Przyczyna zakończenia (np. stop, długość, content_filter)

finishReason?: string

string

Liczba używanych tokenów wejściowych

inputTokens?: number

number

Liczba wygenerowanych tokenów wyjściowych

outputTokens?: number

number

Identyfikator odpowiedzi od dostawcy modelu

responseId?: string

string