TruncationObject interface
Controla como um thread será truncado antes da execução. Use isso para controlar a janela de contexto inicial da execução.
Propriedades
| last |
O número de mensagens mais recentes do thread ao construir o contexto para a execução. |
| type | A estratégia de truncamento a ser usada para o thread. O padrão é |
Detalhes da propriedade
lastMessages
O número de mensagens mais recentes do thread ao construir o contexto para a execução.
lastMessages?: null | number
Valor da propriedade
null | number
type
A estratégia de truncamento a ser usada para o thread. O padrão é auto. Se definido como last_messages, o thread será truncado para a contagem de lastMessages mensagens mais recentes no thread. Quando definido como auto, as mensagens no meio do thread serão descartadas para se ajustarem ao comprimento de contexto do modelo, max_prompt_tokens.
type: TruncationStrategy