Compartilhar via


TruncationObject interface

Controla como um thread será truncado antes da execução. Use isso para controlar a janela de contexto inicial da execução.

Propriedades

lastMessages

O número de mensagens mais recentes do thread ao construir o contexto para a execução.

type

A estratégia de truncamento a ser usada para o thread. O padrão é auto. Se definido como last_messages, o thread será truncado para a contagem de lastMessages mensagens mais recentes no thread. Quando definido como auto, as mensagens no meio do thread serão descartadas para se ajustarem ao comprimento de contexto do modelo, max_prompt_tokens.

Detalhes da propriedade

lastMessages

O número de mensagens mais recentes do thread ao construir o contexto para a execução.

lastMessages?: null | number

Valor da propriedade

null | number

type

A estratégia de truncamento a ser usada para o thread. O padrão é auto. Se definido como last_messages, o thread será truncado para a contagem de lastMessages mensagens mais recentes no thread. Quando definido como auto, as mensagens no meio do thread serão descartadas para se ajustarem ao comprimento de contexto do modelo, max_prompt_tokens.

type: TruncationStrategy

Valor da propriedade