TruncationObject interface

عناصر التحكم في كيفية اقتطاع مؤشر ترابط قبل التشغيل. استخدم هذا للتحكم في نافذة السياق الأولية للتشغيل.

الخصائص

lastMessages

عدد أحدث الرسائل من مؤشر الترابط عند إنشاء سياق التشغيل.

type

استراتيجية الاقتطاع لاستخدامها في مؤشر الترابط. الإعداد الافتراضي هو auto. إذا تم تعيينه إلى last_messages، اقتطاع مؤشر الترابط إلى lastMessages عدد الرسائل الأحدث في مؤشر الترابط. عند التعيين إلى auto، سيتم إسقاط الرسائل الموجودة في منتصف مؤشر الترابط لاحتواء طول سياق النموذج، max_prompt_tokens.

تفاصيل الخاصية

lastMessages

عدد أحدث الرسائل من مؤشر الترابط عند إنشاء سياق التشغيل.

lastMessages?: number | null

قيمة الخاصية

number | null

type

استراتيجية الاقتطاع لاستخدامها في مؤشر الترابط. الإعداد الافتراضي هو auto. إذا تم تعيينه إلى last_messages، اقتطاع مؤشر الترابط إلى lastMessages عدد الرسائل الأحدث في مؤشر الترابط. عند التعيين إلى auto، سيتم إسقاط الرسائل الموجودة في منتصف مؤشر الترابط لاحتواء طول سياق النموذج، max_prompt_tokens.

type: TruncationStrategy

قيمة الخاصية