TruncationObject interface
Определяет, как поток будет усечен до выполнения. Используйте это для управления начальным окном контекста выполнения.
Свойства
| last |
Количество последних сообщений из потока при создании контекста для выполнения. |
| type | Стратегия усечения, используемая для потока. Значение по умолчанию — |
Сведения о свойстве
lastMessages
Количество последних сообщений из потока при создании контекста для выполнения.
lastMessages?: null | number
Значение свойства
null | number
type
Стратегия усечения, используемая для потока. Значение по умолчанию — auto. Если задано значение last_messages, поток будет усечен до lastMessages количества последних сообщений в потоке. Если задано значение auto, сообщения в середине потока будут удалены, чтобы соответствовать длине контекста модели. max_prompt_tokens
type: TruncationStrategy