InferenceResponse interface

Çıkarım çağrısından yanıtı kaydetme ayrıntıları

Özellikler

content

Oluşturulan yanıt içeriği

finishReason

Bitiş nedeni (örneğin, dur, uzunluk, content_filter)

inputTokens

Kullanılan giriş belirteci sayısı

outputTokens

Oluşturulan çıkış belirteci sayısı

responseId

Model sağlayıcısından yanıt kimliği

Özellik Ayrıntıları

content

Oluşturulan yanıt içeriği

content: string

Özellik Değeri

string

finishReason

Bitiş nedeni (örneğin, dur, uzunluk, content_filter)

finishReason?: string

Özellik Değeri

string

inputTokens

Kullanılan giriş belirteci sayısı

inputTokens?: number

Özellik Değeri

number

outputTokens

Oluşturulan çıkış belirteci sayısı

outputTokens?: number

Özellik Değeri

number

responseId

Model sağlayıcısından yanıt kimliği

responseId?: string

Özellik Değeri

string