Поделиться через


TruncationObject interface

Определяет, как поток будет усечен до выполнения. Используйте это для управления начальным окном контекста выполнения.

Свойства

lastMessages

Количество последних сообщений из потока при создании контекста для выполнения.

type

Стратегия усечения, используемая для потока. Значение по умолчанию — auto. Если задано значение last_messages, поток будет усечен до lastMessages количества последних сообщений в потоке. Если задано значение auto, сообщения в середине потока будут удалены, чтобы соответствовать длине контекста модели. max_prompt_tokens

Сведения о свойстве

lastMessages

Количество последних сообщений из потока при создании контекста для выполнения.

lastMessages?: null | number

Значение свойства

null | number

type

Стратегия усечения, используемая для потока. Значение по умолчанию — auto. Если задано значение last_messages, поток будет усечен до lastMessages количества последних сообщений в потоке. Если задано значение auto, сообщения в середине потока будут удалены, чтобы соответствовать длине контекста модели. max_prompt_tokens

type: TruncationStrategy

Значение свойства