CompletionsUsageOutput interface

Paquete:

@azure-rest/ai-inference

Representación de los recuentos de tokens procesados para una solicitud de finalización. Los recuentos consideran todos los tokens en mensajes, opciones, alternativas de elección, generaciones de best_of y otros consumidores.

Propiedades

completion_tokens	Número de tokens generados en todas las emisiones de finalizaciones.
prompt_tokens	El número de tokens de las solicitudes proporcionadas para la solicitud de finalización.
total_tokens	Número total de tokens procesados para la solicitud y respuesta de finalizaciones.

Detalles de las propiedades

completion_tokens

Número de tokens generados en todas las emisiones de finalizaciones.

completion_tokens: number

Valor de propiedad

number

prompt_tokens

El número de tokens de las solicitudes proporcionadas para la solicitud de finalización.

prompt_tokens: number

Valor de propiedad

number

total_tokens

Número total de tokens procesados para la solicitud y respuesta de finalizaciones.

total_tokens: number

Valor de propiedad

number