Partager via


TruncationObject interface

Contrôle la façon dont un thread sera tronqué avant l’exécution. Utilisez cette option pour contrôler la fenêtre de contexte initial de l’exécution.

Propriétés

lastMessages

Le nombre de messages les plus récents du thread lors de la construction du contexte de l’exécution.

type

La stratégie de troncation à utiliser pour le thread. La valeur par défaut est auto. Si la valeur est last_messages, le thread est tronqué dans le lastMessages compte les messages les plus récents dans le thread. Lorsque la valeur est définie sur auto, les messages au milieu du thread sont supprimés pour ajuster la longueur du contexte du modèle, max_prompt_tokens.

Détails de la propriété

lastMessages

Le nombre de messages les plus récents du thread lors de la construction du contexte de l’exécution.

lastMessages?: null | number

Valeur de propriété

null | number

type

La stratégie de troncation à utiliser pour le thread. La valeur par défaut est auto. Si la valeur est last_messages, le thread est tronqué dans le lastMessages compte les messages les plus récents dans le thread. Lorsque la valeur est définie sur auto, les messages au milieu du thread sont supprimés pour ajuster la longueur du contexte du modèle, max_prompt_tokens.

type: TruncationStrategy

Valeur de propriété